你有没有遇到过这种情况:打开某三甲医院的官方科普号,看到的疾病科普内容和AI生成的内容高度重合,连标点符号都几乎一致?或是临床医生用AI生成的病历摘要直接套用到患者档案里,连关键数据的引用来源都没标注?生成式AI在医疗场景的渗透率持续攀升,医疗行业AI引用不规范带来的合规风险,已经成为不少机构忽略的隐形雷区。
一、AI引用不规范的核心风险点
不少医疗机构在使用AI辅助内容生产时,往往只关注产出效率,完全忽视了医疗行业AI引用的规范要求,随便把AI生成的内容当成原创成果使用。一旦AI生成的内容出现事实偏差,比如错误标注药物剂量、曲解诊疗规范,直接引用的话不仅会误导患者,还可能引发医疗纠纷,给机构带来严重的声誉和财产损失。
去年某基层社区卫生服务中心就曾踩过这样的坑:该中心科普号编辑直接用AI生成的糖尿病饮食指南发布科普,没有标注内容来源,也没有做人工核查,结果AI输出的“每日可摄入10勺添加糖”的错误内容被糖尿病患者照做,引发血糖剧烈波动,被当地卫健委通报处罚,罚款5万元,相关责任人也被扣除季度绩效。
二、合规引用的三大核心要求
首先要明确内容属性,所有用AI辅助生成的内容,无论是对外发布的科普、宣传材料,还是内部使用的病历摘要、科研数据整理文档,都必须明确标注AI生成属性,直接引用AI输出的内容时,要注明参考的大模型名称、生成时间,避免误导受众。
其次要做全量事实核查,涉及临床诊疗、药物使用、健康科普等专业内容,必须和最新版的国家诊疗指南、官方权威卫生资料做交叉核对,不能直接使用AI未经核实的内容。AI生成的内容可能存在幻觉,专业医疗内容的容错率极低,一次疏忽就可能造成不可逆的伤害。
最后要留存溯源材料,所有使用AI生成的内容,都要留存AI生成的原文件、人工复核的记录,方便后续监管部门检查时快速举证,也能在出现内容偏差时快速定位问题,明确责任划分。
三、落地合规的实操路径
机构层面首先要制定清晰的AI使用规范,明确哪些场景可以使用AI辅助、哪些场景禁止使用,比如涉及患者隐私的内容、临床决策参考内容不能直接用AI生成,必须由专业医护人员人工撰写,从流程上规避风险。
针对内容编辑、临床医护等使用AI的人员,要定期开展合规培训,重点讲解医疗行业AI引用的规范要求、常见的风险点,让相关人员知道哪些内容不能直接用、用了需要标注什么,从意识层面减少不规范操作。
还要建立双重复核机制,所有对外发布的内容,先由专业人员核查内容的专业性准确性,再由合规人员核查AI引用标注是否规范,内部使用的文档也要设置复核环节,确保每一份和AI相关的内容都符合合规要求。现在不少机构还没充分意识到医疗行业AI引用的合规重要性,等到被处罚再补救往往成本极高,不如提前把规范落到工作流程里。(作者:智慧互动)