近日,湖南省医保局发布的《关于进一步加强基本医疗保障定点零售药店管理的通知》(以下简称《通知》)引发热议,其中明确规定互联网医院严禁使用人工智能等自动生成处方,迅速成为公众关注的焦点,将AI在药品零售领域的应用规范问题推到台前。
关于禁止人工智能生成处方的规定,并非首次提出。2022年3月,国家卫健委和中医药局联合发布《互联网诊疗监管细则(试行)》。其中,第十三条规定,医师接诊前需进行实名认证,确保由本人提供诊疗服务。其他人员、人工智能软件等不得冒用、替代医师本人提供诊疗服务。第二十一条规定,医疗机构开展互联网诊疗活动应当严格遵守《处方管理办法》等规定,加强药品管理。处方应由接诊医师本人开具,严禁使用人工智能等自动生成处方。
开方环节严禁AI生成处方,那么在审方环节,AI能否替代执业药师?国家药监局执业药师资格认证中心于2024年4月发布的《药品零售企业执业药师药学服务指南》给出了答案:执业药师开展在线药学服务时,应当由其本人真实开展,不得以人工智能程序替代服务(第九条)。
上述规定传递出强烈的信号:药品领域的AI应用必须慎之又慎。
虽然AI应用为相关领域带来了许多积极的改变,但是在药品零售行业,AI应用还较为稚嫩,需要审慎考虑。以开方为例,AI生成处方的原理,主要基于人工智能、大数据等技术进行的数据采集、信息处理等工作。如果数据来源出错,AI就会根据错误数据开出错误处方,损害患者的健康权益。
特别是在处方审核环节,人工确认与审核必不可少,因为AI工具仍有诸多难以克服的局限:
1.缺乏直观观察。无法像执业药师那样直接观察患者的面色、表情、精神状态、身体状况等,也不能进行身体检查,如查看咽喉红肿程度、听诊心肺等。比如仅通过患者自述“咳嗽”,难以判断是咽炎、支气管炎还是肺炎等疾病引起。
2.个体差异处理有限。生理特征、疾病史、过敏史、基因等个体因素对用药的影响很大,AI工具虽能依据一般数据提供建议,但难以针对个体情况深入分析和精准判断。比如不同体质的患者对同一药物的反应和适应性可能不同,AI只能给出相对标准化的用药方案,不能兼顾个体差异。
3.难以捕捉细微信息。患者表述可能不准确、不完整或存在歧义,比如患者自述“有点头晕”,可能由多种原因导致,很难从简单表述中精准判断病。同时,AI工具不能捕捉患者语气、情绪等细微信息,辅助判断病情和用药需求。
不过,禁用AI开方审方并不意味着,将AI完全排除在药品零售行业之外。随着各地积极推广外配处方电子化管理,AI在辅助药师审方方面将发挥重要作用。
以宝安人民医院(集团)为例,自2020年5月起,该集团借助AI平台实现高效审方,其医共体内前置审方平台对两家医院、40家社康和互联网医院的全部处方和医嘱进行前置审核。人工智能系统能在0.01秒内完成对患者用药的跨科室、跨时间维度合理性审核,发现问题立即拦截提醒医生,意见不一致时提交审方药师。这一举措使全集团处方(医嘱)不合格率从近30%大幅降至3%以下,远低于三甲医院5%的标准,显著提升了医疗质量与安全水平。
在技术飞速发展的时代,我们必须明确,技术是为人服务的工具,人始终是技术的主导者。在药品零售领域,AI应当受到专业人士的严格监管,才能充分发挥其高效、精准的优势。当技术可能威胁人类利益时,及时按下暂停键,阻止其无序发展,是对生命的尊重和保障。未来,随着技术的不断成熟和监管体系的日益完善,AI有望在药品零售领域发挥更大的作用,但这一切都必须建立在安全、规范、可控的基础上。