出品 | 搜狐健康
作者 | 周亦川
編輯 | 袁月
雖然很多人對ChatGPT在各行業的應用潛力感到興奮,但在醫學領域跟風需謹慎。馬里蘭大學一項測試表明,ChatGPT回答醫學問題時可以獲得很高的分數,但也會編造答案。
也就是說,如果用戶完全聽取了它的醫學建議,很可能被誤導。
課題組向ChatGPT提交了25個乳腺癌篩查問題,每個問題回答3次再由專業醫師評估。結果發現,ChatGPT可以在22個問題中給出正確易懂的答案,包括癥狀、風險因素,以及篩查的各項建議,便于用戶快速理解。
但是,每道題的3次回答可能互有矛盾,且一些回答是不準確或虛假的。比如,它推薦接種新冠疫苗4至6周后才可做乳腺X線篩查,但指南早在1年前修改為“無需等待”。
專家分析,ChatGPT只會給出美國癌癥協會的建議,而忽略了CDC或美國預防服務工作組(USPSTF)的信息;當它找不到答案時,還會編造文獻支持自己的拼湊的結論。之后它會將錯誤的結論作為依據,回答其他問題。
因此,醫學界人員應密切關注ChatGPT等大型語言模型的進展,并對醫學相關內容謹慎評估糾正,讓它更準確完整,去掉不正確和過時的信息,避免誤導用戶;也希望用戶意識到ChatGPT給出的答案并未得到官方證實,應信任醫生,而不要盲從。返回搜狐,查看更多
責任編輯: