ChatGPT竟劝用户忽视致命病症，为何众人仍把它当医生？

你可能会觉得，向AI聊天机器人咨询医疗问题明显是个糟糕的主意，但每周仍有数亿人这么做。

在一桩险些致命、现已成为诉讼焦点的案例中，ChatGPT建议一位牧师忽略肺栓塞的症状——这种病症的死亡率高达30%。事实上，它给出的建议很可能让情况变得更糟……

AI聊天机器人在很多方面都很有用，但用它们代替医生问诊绝不是其中之一。即使只是拿它们替代谷歌搜索也不明智，因为它们经常会自信满满地胡编乱造。

然而，就连OpenAI自己的记录也显示，每周确实有数亿人向ChatGPT询问健康问题。同样，对微软Copilot搜索的分析发现，健康问题是移动应用中最常被问到的问题之一。

如果你还需要证据来证明依赖聊天机器人获取医疗建议可能带来的后果，一位佛罗里达州牧师的诉讼就是个生动的例子。《纽约时报》报道称，他正在起诉OpenAI，因为ChatGPT告诉他不必担心肺栓塞的症状。

诉状称，ChatGPT向斯科特·温特斯保证，他健康危机的早期预警信号“并不危险”，并劝阻他寻求医疗建议，反而告诉他要相信“上帝不会设计你的身体无休止地出问题”。

ChatGPT建议他只需休息。它不仅劝阻寻求医疗帮助，而且在这种情况下长时间保持不动是最糟糕的做法——我本人就曾在一次腿部骨折后乘坐12小时飞机后患上肺栓塞，当时研究人员已知晓相关风险，但尚未向患者普及。

当温特斯最终被送进重症监护室时，医生表示，他的症状很可能反映了一系列肺栓塞，而他按照ChatGPT的建议静坐数周，使病情进一步恶化。

据报道，温特斯使用的是GPT-4o，这是一款以谄媚回应著称的旧版ChatGPT模型。这很可能导致了那些关于信靠上帝的表述，但无论你使用哪款AI模型，请千万不要让它给你提供医疗建议。