人工智能在医疗领域中的应用：ChatGPT在关键领域无法替代人类专家

据 IT之家 8 月 27 日报道，尽管 ChatGPT 在全球范围内风靡一时，但一项最新的研究指出，在关键领域，该聊天机器人的表现尚不能替代人类专家。该研究由美国哈佛医学院附属的布里格姆妇女医院研究人员完成，他们发现 ChatGPT 生成的癌症治疗方案存在诸多错误。

打开凤凰新闻，查看更多高清图片

最近一项重要的研究成果在《美国医学院学会肿瘤学杂志》上发表，该研究探讨了 ChatGPT 在治疗各类癌症案件中的表现。研究人员向 ChatGPT 提供了多种癌症病例的治疗方案，然而，在三分之一的回答中，都存在不准确的信息。此外，研究也揭示，ChatGPT 在混合正确与错误信息方面具有倾向性，这使得我们难以判断哪些信息是真正有用的。

该研究的合著者Danielle Bitterman博士指出，他们对错误信息与正确信息交织的程度感到惊讶，这种情况甚至让专家难以察觉。她强调，虽然大型语言模型经过训练能够提供具有高度说服力的回答，但它们并非专为提供准确医疗建议而设计。因此，错误率以及回答的不稳定性成为临床领域亟待解决的关键安全问题。

在2022年11月，ChatGPT的问世引起了广泛关注，甚至在一夜之间便获得了1亿活跃用户的认可。然而，即使如此，生成型人工智能模型仍存在一定的局限性，即在某些情况下可能会出现“幻觉”，这表现为 confidently providing misleading or entirely incorrect information。

IT之家近期注意到，我国正积极尝试将人工智能技术引入医疗领域，主要目的是为了优化管理流程。不久之前，一项具有重大意义的研究发现，借助人工智能手段进行乳腺癌筛查不仅安全可靠，还有望大幅降低放射科医生的工作负担。此外，哈佛大学的计算机科学家近期的一项研究结果显示，最新版的GPT-4模型能够轻松通過美國醫學执照考試，甚至暗示它在臨床判斷力方面相较于部分醫生更具优势。

然而，鉴于生成型模型如 ChatGPT 存在准确度问题，其在短期内替代医生的可能性并不大。《美国医学院肿瘤学杂志》的一项研究揭示了 ChatGPT 回答中的一个令人担忧的现象：有 12.5% 的回答属于“幻觉”，而在涉及晚期疾病的局部治疗或免疫疗法的问题上，它最可能提供错误的信息。

OpenAI已公开声明，其聊天机器人ChatGPT并不具备可靠性。这家公司的使用条款明确指出，其人工智能模型并非为了提供医疗信息，因此，它不应用于“对严重疾病进行诊断或提供治疗方案的服务”。