이미지: The Decoder
摘要
- JAMA评论文章作者主张,自主AI很快将超越医生-AI协作模式,因此监管不应将"人类最终决定权"写入硬性规定
- 在377例复杂病例中,ChatGPT o3的首次诊断准确率达60%,而20名内科医生的平均准确率仅为15.9%;在另一项研究中,GPT-4单独进行诊断推理的准确率为92%,高于使用同一模型的医生(76%)
- 作者们也承认,现有证据大多来自模拟场景而非真实患者诊疗,而且手术、分娩等物理操作在短期内仍将是人类的领域
- 게재 매체
- 의학저널 JAMA 오피니언
- 주 저자
- 이지키얼 이매뉴얼 — 펜실베이니아대 생명윤리학자, 오바마 건강보험개혁 설계자
- 공동 저자
- 닐 코슬라 — AI 원격의료 업체 Curai Health CEO, 부친 비노드 코슬라는 오픈AI·Curai Health 투자자
- ChatGPT o3 성적
- 복잡 사례 377건 중 60% 첫 진단 정답 (내과의 20명 평균 15.9%)
- GPT-4 실제 환자 사례
- AI 단독 진단추론 92% vs 같은 모델 접근한 의사 76%
- 예측 시점
- 2030년까지 일부 인지 업무에서 자율 AI 실전 배치 가능 전망
- 한계 인정
- 근거 대부분이 단일 과제 시뮬레이션, 실제 환자 진료 데이터 아님
先看诊断对决中的数字
在377例复杂病例中,OpenAI的ChatGPT o3与20名内科医生展开了一场猜测首次诊断名称的对决。结果是o3的准确率为60%,而内科医生的平均准确率仅为15.9%。在另一项针对真实患者病例的研究中,GPT-4单独进行诊断推理的准确率为92%,但那些能够使用同一模型的医生的得分反而降至76%。这些数字正是发表在医学期刊JAMA上的这篇评论文章的核心依据。
这篇评论文章是谁写的
了解这篇文章的作者是谁,就能理解其论调的来由。主要作者伊齐基尔·伊曼纽尔(Ezekiel Emanuel)是宾夕法尼亚大学的生命伦理学家,曾参与设计奥巴马政府时期的医疗保险改革法案(ACA)。共同作者尼尔·科斯拉(Neal Khosla)是AI远程医疗公司Curai Health的CEO,而他的父亲维诺德·科斯拉(Vinod Khosla)是同时投资了OpenAI和Curai Health的投资人。也就是说,其中两位作者本身正处于能从这篇文章所描绘的未来中直接获利的位置。
这些作者的主张,与美国医学会(AMA)、美国内科医师学会(ACP)等医生团体的立场正面冲突。这些团体一直强调,AI只应起辅助作用,而不应取代医生。医学教授罗伯特·瓦赫特(Robert Wachter)在其著作中更进一步,称AI单独诊疗为医疗领域的"经济舱"。JAMA评论文章的作者们认为这种等级划分缺乏证据支持,并提出两点反驳。
五项任务中AI领先的依据
第一个反驳依据是研究结果。作者们表示,2024年以后发表的大多数研究显示,在病史采集、诊断、检查选择、基于指南的治疗、慢性病管理这五项医疗核心推理任务中,AI单独表现与医生相当或更优。
谷歌的对话式系统AMIE在模拟患者问诊中,几乎在所有项目上得分都高于初级保健医生。微软的诊断协调系统在预算受限的情境下,找出正确诊断的频率约为医生的四倍,同时成本更低。作者们将得出相反结论的大多数研究视为过时,理由是这些研究未使用最新模型,或方法论存在缺陷。
| 比较对象 | AI单独 | 人类(或人类+AI) |
|---|---|---|
| ChatGPT o3,377例复杂病例 | 60% | 20名内科医生平均15.9% |
| GPT-4,真实患者病例 | 92% | 使用同一模型的医生76% |
借用国际象棋的比喻
第二个反驳依据是趋势展望。这才是这篇文章真正想传达的信息。作者指出,模型正在快速进步,而根据发表在《柳叶刀》上的一项肠镜检查研究,医生在使用AI的过程中反而在丧失自身的技能。他们的逻辑是,这种差距将会进一步拉大。
作者们主张,从机器明显占优的那个时点开始,负责核查的医生就不再是安全网,反而成为错误的来源。他们援引一项汇总了106项实验的元分析来支持这一论点。当人类表现更好时,协作确实有帮助;但当AI表现更好时,人类往往会在错误的地方推翻系统的判断,反而使结果变得更糟。
作者们以国际象棋作为历史上的类似案例。1997年深蓝战胜卡斯帕罗夫之后,人机协作团队仍在数年间保持优势,但从2017年起,AI开始超越这些协作团队本身。作者们的结论是,如果医疗领域也走上同样的路径,那么将"医生最终决定权"写入硬性规定,实际上等于把一种终将落后的诊疗方式固定下来。因此他们主张,到2030年,自主AI将在部分乃至许多认知类任务中具备实战能力,责任归属、医保支付、监管框架和医学教育都应从现在开始重新设计。
作者自己也承认的局限
不过,作者们自己也承认了这一主张的薄弱之处。几乎所有依据都来自针对单一任务的模拟场景,而非真实患者诊疗数据;人类与模型之间的信息交接过程本身也是一个脆弱环节。
手术、分娩、肠镜检查等物理操作,由于机器人技术尚未跟上,短期内仍将是人类的领域。自主系统还可能以医生不会经历的方式出错,例如产生幻觉、网络故障或遭受网络攻击。作者们承认,这些风险需要与更高的准确率放在一起权衡。
此前,谷歌研究院于8月11日宣布,为医疗AI研究系统AMIE增加了实时音视频问诊能力,在针对100个临床场景的模拟问诊中展现出专家级表现。仅一天后的8月12日,又有消息披露,谷歌利用强化学习技术ResidencyRL对Gemini 3.5 Flash进行训练,使其经历了虚拟住院医师培训,结果显示该模型在信息收集完整性等方面表现更优,但"无幻觉"(12%)和"处方安全性"(42%)等项目得分偏低。可以说,与JAMA评论文章所依据的模拟成绩单类似的数据,在最近两周内接连出现。
编辑视角
读这篇评论文章时,首先浮现的问题是"这是谁写的"。伊曼纽尔是能够左右美国医疗政策走向的人物,而科斯拉父子则站在这一未来若成为现实便能直接获利的一方。这并不意味着他们的数据就是错的。o3的60%对15.9%,GPT-4的92%对76%,这些数字都来自可复现的基准测试,作者们也坦诚地写出了自己承认的局限——以模拟为主、缺乏真实患者数据。问题在于,读者需要把利益关系和数据本身分开来看,而这篇文章的写法并不利于这种区分。
国际象棋的比喻,恐怕会在未来的医疗界争论中反复出现。深蓝之后二十年间人机协作保持优势的事实,暗示着如今医院里"AI辅助"这一阶段,可能并非永久的平衡点,而只是一个过渡阶段。但国际象棋与医疗之间有一个决定性的差异:国际象棋不会因误判而致人死亡。作者们也未能完全消除这一差异——他们承认缺乏真实患者诊疗数据,正是这一点的证据。
从实务角度看,国内医院和医疗健康初创企业现在真正该关注的不是提前预判监管走向,而是数据本身。这篇评论文章真正的弱点在于模拟与真实诊疗之间的鸿沟,而先积累起能填补这一鸿沟的临床数据的一方,将在下一轮监管争论中占据有利地位。谷歌在两周内接连发布AMIE音视频扩展功能和ResidencyRL训练结果,也可以从同一角度解读——这是一种提前囤积模拟成绩单的举动。
预计未来几个月内,AMA、ACP等医生团体很可能会发表正式反驳,而这场争论最终将围绕一句监管条文的措辞展开:是否要将"医生最终确认"写入法律。
