引语：9月17日是第6个世界患者安全日，主题是“改善诊断，保障患者安全”。近年来，人工智能技术被广泛应用于医疗卫生领域，尤其在辅助诊断和决策支持中的作用日益凸显，与此同时，也给患者安全带来一些挑战。
目前，人工智能（Artificial Intelligence，简称AI）技术已广泛应用于各个领域。英国技术哲学家大卫·科林格里奇在《技术的社会控制》中指出，如果因为担心不良后果而对一项技术过早实施控制，那么技术很可能就难以爆发。反之，如果控制过晚，就可能走向失控，解决这项技术带来的各种不良问题就会变得昂贵、困难和耗时间，甚至难以或不能改变。这种技术控制的两难困境，被称为“科林格里奇困境”。AI在患者安全领域的应用，同样遭遇了科林格里奇困境。科技进步带动了医疗技术的突飞猛进，AI在加快工作流、辅助诊断和决策支持方面显示出其显著的潜力和独特的优势。AI在辅助医学影像诊断中的应用已经取得了显著的成果。AI驱动的数据模型在这些任务中表现出色，因为它们可以处理各种来自电子病历和生物标本检验结果的实时数据，并根据患者的新数据动态调整预测结果。一项涉及超过8万名接受乳腺癌筛查女性的大规模随机研究指出，当放射医生在AI辅助下进行诊断时，其诊断准确性显著提升，同时工作效率也提升了44%。另一个研究对33项AI辅助随机结直肠镜检查进行了系统分析，结果表明：实时AI视觉的应用使息肉和腺瘤的漏诊几率减少了超过50%，仅需增加平均10秒的AI辅助检查时间就能提高这种诊断的准确性。国外一名4岁男孩长期遭受不明原因的慢性疼痛，尽管他的母亲3年内带他看了17位医生，但都无法确诊。最终，他们通过使用AI工具ChatGPT进行自我诊断，男孩被诊断为“脊髓拴系综合征”。这一诊断后来得到了专业医生的确认，男孩手术后康复。“正如所有新兴技术，AI在提升全球数百万人健康方面展现出巨大潜力，但它也存在被滥用的风险，可能带来伤害。”正如世界卫生组织总干事谭德塞博士所说，AI技术的兴起确实给患者安全带来了不少亟待解决的问题。第一，数据质量及隐私问题。数据和算法是AI系统性能的核心。以ChatGPT为代表的AI系统，其训练依赖于大量数据。这些数据的质量和处理方式直接影响模型的输出质量。因此，医生在使用AI辅助诊断时，必须对结果保持警惕。同时，在处理患者敏感信息时，应当确保数据安全，防止滥用或泄露。第二，医患关系异化问题。理想的医患关系建立在信任和合作的基础上，旨在共同对抗疾病、促进健康。然而，如果患者在就医过程中过度依赖AI，可能会削弱他们对医护人员专业权威的尊重，减少对医生专业判断的信任。这种依赖可能导致患者在医疗决策中扮演“考官”角色，使得医患关系变得紧张，医护人员可能因为患者对AI的依赖而感到自己的专业地位受到挑战，这可能导致他们在诊疗过程中变得更加谨慎和保守。第三，医疗权责划分问题。由AI生成的新知识可能会与医生的传统经验相冲突，引发关于如何权衡人类经验与AI决策的问题。由于AI系统的设计、数据提供、医疗机构和医生等多方的参与，责任归属问题变得更加复杂。为了确保AI技术在医疗保健中的应用能够带来最大的益处、最小的风险，2021年，世界卫生组织发布了《卫生健康领域人工智能伦理与治理指南》。该指南提出了以下六项原则，旨在为AI的监管和治理提供指导。保护人类自主权。在医疗保健方面，这意味着人类应该继续控制医疗保健系统和医疗决策；应保护隐私和机密性，患者必须通过适当的法律框架给予有效的知情同意，以保护数据。促进人类福祉和安全以及公共利益。人工智能技术的设计者应满足明确定义的用例或适应证的安全性、准确性和有效性的监管要求，必须提供实践中的质量控制措施和人工智能使用中的质量改进措施。确保透明度、可解释性和可理解性。在设计或部署人工智能技术之前发布或记录足够的信息。此类信息必须易于获取，并有助于就技术的设计方式以及应该或不应该如何使用技术进行有意义的公众咨询和辩论。培养责任感和问责制。尽管人工智能技术执行特定任务，但利益相关者有责任确保在适当的条件下并由经过适当培训的人员使用。对于基于算法的决定而受到不利影响的个人和团体，应提供有效的询问和补救机制。确保包容性和公平性。健康人工智能应尽可能被公平使用和获取，而不论年龄、性别、收入、种族、民族、性取向、能力或受人权法保护的其他特征。促进具有响应性和可持续性的人工智能。设计者、开发者和用户应在实际使用过程中持续、透明地评估人工智能应用程序，以确定人工智能是否充分、适当地响应期望和要求。人工智能系统的设计还应尽量减少对环境的影响并提高能源效率。政府和公司应解决工作场所的预期中断问题，包括培训医护人员以适应人工智能系统的使用，以及因使用自动化系统而导致的潜在失业。面对“科林格里奇困境”，我们必须意识到，AI在医疗领域的应用不仅仅带来了技术的革新，它也标志着一场涵盖伦理、法律、社会等多个维度的全面变革。展望未来，我们期待通过不懈的技术革新、明智的政策制定和深思熟虑的伦理考量，在医疗卫生领域建立一种以患者、医护人员和AI三方协作为核心的新模式——PCA（Patient-Clinician-AI）。这一模式中，患者将更加积极地管理自己的健康，医护人员将提供更专业、更细致的护理，而AI则作为智慧的伙伴，协助处理复杂的医疗数据并支持临床决策，医疗服务的质量得到显著提升，患者的安全和福祉得到更全面的保障。
文：重庆医科大学附属第一医院 黄欢欢 赵庆华 肖明朝
发表评论 取消回复