不要指望靠 AI 聊天机器人自己判断病情和法律问题,看病、打官司、花大钱之前,把它说的依据找到原文核一遍
第 6 节 · 反面清单 · 第 31 条 · A 级证据 · 性价比一般
把完整病例交给 AI,九成以上它能认出是什么病。但普通人拿它问症状,认出病的反而比自己上网查的人少,该不该去急诊也没判得更准。问法律问题,通用 AI 至少 58% 的回答有编的内容,还会顺着你问题里的错误说法往下讲。
谁该做,谁先别做
遇到症状、纠纷、要花大钱的决定先问 AI 的人。突然嘴歪、一侧没劲、胸口压着疼,别问 AI,直接打 120。
花掉什么
换回什么
先看看病。2026 年 Nature Medicine 发表了一项随机分组的试验,1298 名英国普通人参加,方案事先登记过。每人拿到两个编好的病例,要判断是什么病、该去急诊还是在家观察。一部分人用 AI 聊天机器人帮忙,用的是 GPT-4o、Llama 3、Command R+。对照组用自己平时的办法,多数是上网搜,或者看英国国家医疗服务体系(NHS)的官网。把完整病例直接交给 AI,它 94.9% 的情况能认出相关的病,56.3% 能判对该去哪看。普通人用同样的 AI,认出相关疾病的不到 34.5%,判对去哪看的不到 44.2%。对照组认出相关疾病的几率是用 AI 的人的 1.76 倍(95% CI 1.45–2.13,可信范围)。认出危险信号类重病的几率是 1.57 倍(1.28–1.92)。判断该去哪看,两边差不多。作者翻了对话记录,问题出在两处:用户没把症状说全,AI 提到了对的病,用户却没采纳。再看法律。一个美国研究团队 2024 年用 ChatGPT 4 等公开模型,问美国联邦法院的判例。ChatGPT 4 有 58% 的回答有编造,Llama 2 高到 88%。编造指和法律事实对不上的内容,论文把它叫「幻觉」。模型分不清自己哪句是编的。用户问题里带着错误的法律前提时,它常常照单全收。同一团队 2025 年又测了律师用的专业法律 AI 工具。这些工具号称不会编,实际 17% 到 33% 的回答有编造。它看起来划算,是因为 AI 随叫随到、不收钱,说话又像医生律师一样肯定
怎么做 · 三步
- 问的时候别写自己的结论,问「这种情况法律怎么规定」
- 让它写出法条名称和条号、指南或论文题目,一条条记下来
- 自己去官方网站打开原文找那句话,找不到就当它没说过
关键数字
- 94.9%
- 把完整病例交给 AI 时认出相关疾病的比例
- 34.5%
- 普通人用同一个 AI 时认出相关疾病的比例
- 58%
- 其中一个模型回答美国判例时编造内容的比例
常见坑
它没把握时也会说得很肯定;AI 单独考得好,预测不了普通人用它的效果,这处争议也还没结。
作者备注
争议。2023 年一项研究从美国论坛抽了 195 个患者提问,让医疗人员不看来源打分。78.6% 的评分认为 ChatGPT 答得比医生好。但它比的是回答写得好不好,没看提问的人最后判断对没有。2026 年那项试验用的是 2024 年的模型,新模型可能更强。不过同一项试验也发现,AI 单独考试的成绩预测不了普通人用它的效果。AI 为什么会编,OpenAI 的研究人员 2025 年在一篇未经同行评审的论文里解释过。训练和打分的方式奖励「猜一个答案」,答「不知道」拿不到分,所以它没把握时也说得很肯定。核对的办法是让它写出法条名称和条号、指南或论文题目,你去官方网站打开原文找那句话,找不到就当它没说过。提问时别把自己的结论写进去,问「这种情况法律怎么规定」,别问「这种情况我是不是赢定了」。突然嘴歪、一侧没劲、胸口压着疼这类信号,别先问 AI,直接打 120。见第 13 节第 3 条(嘴歪、一侧胳膊没劲)和第 13 节第 7 条(胸口压着疼)。打官司没钱请律师的,见第 7 节第 3 条(申请法律援助)。收益定小,因为只有「认没认出病」这类中间指标,没有少死人的数字。受益人是你自己和家里人。
出处
相关的几条同一口径:寿命 · 跨章节
这一节还有第 6 节 · 共 35 条
- 1不要为了长寿或防心血管病吃复合维生素1.4 万名男医生吃了十一年复合维生素。心脏和血管出大事的人、死掉的人,和不吃的一样多。把 9 项试验、5 万多人放一起看,对死亡也看不出影响。不买能省下一年两百到七百块。查出来确实缺某种营养的人、孕妇补叶酸…
- 2不要为了预防心血管病吃普通鱼油两项大试验分别找了 2.6 万人和 1.5 万名糖尿病患者。每天吃 1 克鱼油的人,心脏血管出大事的、死掉的,都和不吃的一样多。「吃鱼有好处」不等于「吃鱼油胶囊有好处」。不买能省下一年四百到一千块。
- 3不要为了长寿给不缺维生素 D 的人补维生素 D本来就不缺维 D 的人补上 5 年,得癌症、心血管病和死亡的人数,都和不补的一样。很少出门、晒不到太阳的成人,可以每天补 400 IU,一天别超过 2000 IU。大剂量吃,骨密度反而掉得多、摔跤更多。光是乏…
- 4不要为了防癌吃抗氧化补剂(β 胡萝卜素、维生素 E、维生素 A)抗氧化补剂不只是没用。78 项试验、近 30 万人合起来算,设计更严谨的那批试验里,吃的人死亡率反而略高一点。两项专门找吸烟者做的大试验里,β 胡萝卜素让得肺癌的比例高了 18% 到 28%。死亡也高了 8%…
- 5不要指望氨糖(葡萄糖胺)/软骨素治膝关节炎膝盖有骨关节炎的人吃 24 周假药,也有六成说没那么疼了。吃氨糖或软骨素的人只比这多出四五个百分点,小到可能只是碰巧。一年花七百到一千八,买到的效果基本和吃假药一样。
- 6不要靠维生素 C 预防感冒天天吃维 C 基本不会让你少得感冒,感冒了才开始吃,效果也时有时无。天天吃能把一次感冒缩短约 8%,值不值一年三五百自己算。马拉松选手和在寒冷地区行军的士兵是例外,他们吃了得感冒的人能少一半。