← 全部文章

人工智能

诊断 AI 已经上线,只有 8% 的国家写清谁来负责

WHO 欧洲区对 53 个成员国的评估显示,近三分之二已部署诊断 AI,只有 8% 拥有健康 AI 战略和失败责任标准。短缺的不是另一条伦理口号,而是培训、问责、数据与采购能够一起运行的制度。

约 7 分钟

AI 生成概念图;不是实际医院、诊断界面、国家排名或治理成效证据

屏幕已经亮了,责任书还没写完

一名放射科医生打开工作列表,AI 已经为影像排出优先级,在可疑区域留下提示。病人在外面等待。系统是医院采购的,软件由供应商更新,数据来自多台设备,最后签字的人却是医生。

如果提示错了,谁先发现?若医生接受错误建议,是个人失误、培训不足、医院流程问题,还是产品性能变化?若医生拒绝正确建议又延误诊断,责任如何判断?模型更新后,旧验证是否仍然有效?患者能否知道 AI 参与了决策?

这些问题需要比“医生最终负责”更完整的答案。可部署一个 AI 项目,通常比建立跨部门责任体系更快。

7 月 15 日,世界卫生组织欧洲区域办公室发布对 53 个成员国 AI 就绪度的评估结果:近三分之二国家已经在诊断中部署 AI,约一半引入患者聊天机器人;只有 8% 拥有健康领域专门 AI 战略,也只有 8% 有界定 AI 失败责任的标准。提供职前 AI 教育的国家约五分之一,提供在职培训的约四分之一,近四成尚无健康 AI 伦理指南。

最醒目的不是某个算法指标,而是两种速度。产品和项目已经进入医院,治理仍停留在零散文件、临时委员会和个人承担。WHO 将其称为部署与治理之间的缺口。

这些数字来自区域机构的评估和会议发布,不是每个国家的独立审计,也不能证明 AI 已造成多少伤害。但它足以让一个制度事实变得具体:医疗 AI 的瓶颈,正在从模型能不能做,转向系统有没有能力负责。

“已经部署”不等于“已经证明有效”

近三分之二国家部署诊断 AI,是采用范围指标,不是疗效或准确率指标。不同国家可能把试点、局部医院使用、采购完成和常规照护纳入不同口径;使用场景从影像辅助到工作流排序,风险并不相同。

一个国家拥有 AI 项目,也不意味着多数患者实际使用。相反,没有全国战略也不等于完全没有监管:医疗器械法、数据保护、临床责任和专业标准可能分别覆盖部分问题。8% 说明健康 AI 专门治理稀少,不能被写成其余 92% 毫无规则。

WHO 声明举出葡萄牙科英布拉的影像分析案例,称其帮助更快识别胸部疾病和骨折并减少等待。这是机构发布中的应用描述,不是当前文章审计过的独立临床试验。不能由此概括欧洲诊断 AI 都已改善患者结局。

同样,治理文件存在也不等于治理有效。一个国家可以发布战略,却没有预算、人员、事故通报或更新后的采购标准。另一个国家可能没有以“AI 战略”命名的文件,却通过器械、数据和医疗责任制度形成实际约束。

因此,本题不是把国家排成好坏榜,而是把治理拆成能力:谁评估、谁培训、谁监测、谁解释、谁在失败时承担与修复。文件只是能力的一部分。

责任为什么会在最后落到医生身上

医疗 AI 经常采用“人在回路中”的设计:系统给建议,临床人员作最终决定。这能保留专业判断,也常被当作风险兜底。问题是,如果机构没有提供足够信息、时间和培训,人的签字会变成责任转移。

医生可能不知道模型在哪些人群中验证、阈值如何设、版本何时更新,也看不到训练数据。界面可能用颜色和排名制造确定感,却不显示不确定区间。工作量压力又让逐例独立复核变得困难。此时要求“不要盲信 AI”是正确但空泛的口号。

真正的责任链至少包括供应商、医院管理、采购与信息部门、临床科室、专业人员和监管机构。供应商负责产品设计、性能声明、变更和缺陷通报;医院负责本地验证、流程嵌入、培训和监测;临床人员负责在专业范围内使用;监管机构负责规则、事故系统和执法。

这条链也不能写成平均分配。若每个环节都“共同负责”,事故时反而无人负责。治理需要预先定义触发条件:性能漂移由谁监测,何时暂停系统,谁通知患者与监管者,软件更新是否重新验证,申诉由谁处理。

只有 8% 有责任标准,反映的正是这种制度工程尚未普遍完成。责任不是在事故后找一个签字者,而是在上线前设计可追踪的决策与修复路径。

培训不是教医生怎样点按钮

WHO 数据显示,约五分之一国家在医护人员取得资格前提供 AI 教育,约四分之一提供在职培训。培训缺口常被理解为技术知识不足,解决方案于是变成一堂模型原理课。

一线人员更需要情境能力。他们要知道某系统适用谁、不适用谁,怎样识别分布外输入,如何理解假阳性和假阴性,什么时候必须回到原始影像或检查,如何记录拒绝 AI 建议的理由,以及怎样向患者说明 AI 的角色。

培训还要包括组织权利。若医生发现性能漂移,是否可以暂停使用?护士和技师能否报告界面造成的错误?提出问题会不会被当成抵制创新?如果使用者只有操作责任,没有停止权,培训只是让他们更熟练地承担风险。

患者也需要最低限度的信息素养。不是要求患者理解神经网络,而是知道 AI 是否参与,最终决定由谁作出,数据如何使用,出现错误如何申诉。聊天机器人尤其可能绕开传统就诊入口,把建议直接送到个人口袋。用户很难区分一般信息、分诊和医疗建议。

培训必须跟版本一起更新。静态课程不能覆盖不断变化的软件。供应商更新说明、本地性能监测和事故案例应进入持续教育,使学习成为治理循环的一部分,而不是上线前一次勾选。

数据治理和责任不能分开建设

医疗 AI 依赖数据,错误也经常从数据链开始。影像设备参数变化、人口构成改变、编码规则更新、缺失值处理和标签质量,都可能让模型在本地偏离验证表现。若医院只监测总体准确率,少数群体的性能下降会被平均数遮住。

数据治理需要回答来源、授权、代表性、质量、访问和保留期限,也要覆盖患者主动把健康信息交给聊天机器人的新情境。传统同意往往针对一次机构内使用,而生成式工具可能把对话带到第三方基础设施,继续用于评估、模型改进或安全监控。

隐私不是把姓名删掉就结束。影像、基因和长期病历可能被重新识别;模型输出也可能泄露敏感属性。跨境云服务让责任跨越医院和国家,而患者通常看不到完整数据流。

WHO 会议把规则、工具和人列为三根支柱,也把数据治理与互操作性列为可信 AI 的前提。这里的“互操作”不能只理解为系统能交换数据。若错误标签、缺失授权和不明确责任可以顺畅流动,技术互通反而放大风险。

真正的互操作应连同语义、权限、版本和责任一起移动。谁生成数据、在什么目的下使用、经过哪些转换、哪种模型读取,都需要可追踪。没有这条链,事故调查只会面对多个互相指向对方的供应商和机构。

国家战略需要落到五张可以执行的表

宏观战略重要,因为医院无法独自解决跨境产品、国家责任和教育标准。但一份战略若只写价值原则,不能缩短一线人员从发现问题到停止系统的距离。

可执行治理至少需要五类清单。第一是系统清单:哪些 AI 在哪些科室运行,版本、用途和监管状态是什么。第二是证据清单:原始验证、本地验证、适用人群和已知失败模式。第三是责任清单:供应商、医院、临床与监管各在何时负责。第四是监测清单:性能、漂移、公平性、事故和患者反馈如何持续采集。第五是退出清单:何种信号触发降级、暂停、回滚或通知。

这五张表不是为了制造更多文书,而是让治理与软件拥有同样清晰的版本。系统更新时,证据和培训是否同时更新;适用范围扩大时,责任和监测是否跟上;项目结束时,数据和模型如何退出。

还需要公开指标。国家不应只报告部署了多少 AI,而要报告多少系统完成本地验证、多少医院有事故上报、发现问题后平均多久停用或修复,以及培训是否覆盖临床与管理人员。采用率可以展示速度,修复能力才体现成熟度。

医疗 AI 的未来,不由模型单独决定

WHO 在里斯本召集 37 个国家和多方机构,试图形成规则、工具与人员的共同议程。会议和声明并不等于改革已发生,更不能保证任何治理框架会自动防止伤害。各国卫生系统、资源和法律差异巨大,统一原则必须转成可负担的地方能力。

资源较少的系统尤其面临两难。AI 被宣传为弥补人员短缺的工具,恰恰这些地方可能缺少验证、网络安全、采购和持续培训能力。若治理被设计成昂贵认证,只有富裕国家和大公司承担得起;若因为资源少而降低标准,风险又由最脆弱患者承担。

国际合作的价值,应是共享评估模板、事故知识、开放标准和培训资源,让每个国家不必从零开始。同时保留对本地语言、疾病谱和流程的验证。所谓公平,不是让所有医院尽快买到同一种系统,而是让它们拥有拒绝、检查和退出的能力。

医院里的 AI 屏幕已经亮了。医生仍站在患者面前,承担解释和签字。治理的任务不是把技术关回实验室,也不是用一份战略为部署盖章。它要让每一次建议背后都有证据、每一次更新都有记录、每一次错误都有明确的发现者和修复者。

只有当责任链与模型一样可运行,医疗 AI 才不再把制度缺口伪装成个人判断。

来源与边界

  • 主要依据为 WHO 欧洲区域办公室 2026 年 7 月 15 日声明和全球会议发布。
  • “近三分之二”“一半”“8%”等数字来自 53 个成员国 AI 就绪度评估的机构摘要;未取得逐国原始微观数据,不用于国家排名或具体产品评价。
  • 部署比例不等于临床有效率,战略存在不等于治理有效;本文的责任框架是基于来源作出的制度分析。
  • 本文不评价个别产品,不提供诊断或医疗建议,也不声称治理能消除全部风险。

SOURCES / 参考来源

同一方向

更多 →