ChatGPT药物问答准确性遭质疑：人类健康能否得到保障？

财联社12月5日讯（编辑 卞纯）自AI聊天机器人ChatGPT推出以来，这款工具在金融、教育、新闻等行业获得广泛应用。然而一项研究表明，医疗行业从业者以及患者都应谨慎使用这款工具，尤其是免费版ChatGPT。

根据最近周二发布的一份研究报告，我们发现免费版的ChatGPT在回答与药物相关的问题时可能存在一定的风险。据研究表明，该AI系统可能会提供不准确或不完整的答案，甚至有可能完全不回答这些问题，从而对患者的健康造成潜在威胁。因此，我们需要关注并采取相应措施以确保患者能够得到准确的药物相关信息。

今年5月，长岛大学的药剂师向免费版ChatGPT提出了39个问题。他们认为，根据他们设定的标准，ChatGPT的回答中只有10个“令人满意”。该研究称，对于其它29个与药物有关的问题，ChatGPT要么没有直接回答，要么不准确、不完整，或者既不准确又不完整。

该研究使用了2022年1月至今年4月期间（患者）向长岛大学药学院药物信息服务平台提出的真实问题。

在今年的五月试验中，我们的药剂师精心构建了45个富有挑战性的问题，并给出了详尽的解答。接着，这些答案被另一位研究员审慎审查，并据此作为评估ChatGPT精确度的基准。然而，在审查过程中，该研究员发现了六道题目无法给出数据驱动的答案，因此被暂时排除在外。

根据这份报告，我们发现ChatGPT并未直接回答11个问题。同时，对于10个问题，它给出的答案并不准确。此外，还有12个问题，ChatGPT给出的答案是错误的或者不完整的。

对于每一个疑问点，专家们恳求ChatGPT在回答问题时提供参考信息，以便让他们能够对所提供的数据进行核实。然而，令人惊讶的是，ChatGPT仅在八个回答中提供了参考资料，而且这些回答中包含的参考信息均为不存在的虚构来源，这显然是在编造答案。

患者应谨慎使用ChatGPT

上述研究的主要作者、长岛大学药学实践副教授Sara Grossman表示，该研究表明，患者和医疗保健专业人员应该谨慎依赖ChatGPT提供的药物信息，并通过可信来源核实该工具给出的任何回答。对于患者来说，可信来源可以是他们的医生，也可以是政府药物信息网站。

例如，科学家们曾向ChatGPT提出了一个疑问：辉瑞抗病毒药物Paxlovid与降低高血压的药物Verapamil是否会发生相互作用。换言之，如果在同一时间服用这两种药物，其中一种是否会干扰到另一种的药效发挥？这是科研人员针对两种药物的一种重要探讨。

ChatGPT的答案表明，目前还没有关于这两种药物发生相互作用的报道。但是，实际上，如果在服用这两种药物的同时过度降低血压，可能会产生不良影响。

Grossman指出，如果不了解这种相互作用，患者可能会遭受不必要的、原本可预防的副作用。

一项分析显示，今年10月，ChatGPT在全球吸引了大约17亿次访问。目前尚没有数据显示，有多少用户向这款聊天机器人询问医疗问题。

值得注意的是，免费版ChatGPT仅使用截至2021年9月的数据集，这意味着它可能缺乏快速变化的医疗领域的重要信息。目前还不清楚付费版ChatGPT在回答与药物相关问题方面“准确度”如何。付费版ChatGPT能够浏览互联网并获取实时信息。

Grossman承认，若对付费版ChatGPT进行研究，可能会产生更好的结果。她还补充称，因为针对免费版ChatGPT的研究是今年早些时候进行的，若现在再次进行类似研究，免费版ChatGPT可能已经改进，或许会产生更好的结果。

ChatGPT准确性引人担忧

AI初创公司OpenAI开发的ChatGPT去年底一经推出便风靡全球，被广泛视为有史以来增长最快的消费者互联网应用程序。但在迅速走红的同时，这款工具也引发了人们对欺诈、知识产权、歧视和错误信息等问题的担忧。

此前已经有几项研究都表明，ChatGPT会对一些问题作出错误回答。今年7月，美国联邦贸易委员会（FTC）对OpenAI展开全面调查，以确保ChatGPT不会通过生成虚假信息和滥用数据，损害消费者利益。