新研究揭示,AI聊天機器人提供的醫療建議有50%是錯誤的,但聽起來很有說服力。
圖片來源: Decrypt
想像一下,當你向AI助手詢問健康建議時,有50%的機會完全錯誤——但你卻無從得知。這就是新研究對AI聊天機器人和醫療信息的發現。
## 危險的問題
研究人員通過詢問醫療問題來測試流行的AI聊天機器人(可以與你聊天的電腦程式)。結果令人震驚:
• 一半的健康建議是錯誤的 • 錯誤的答案聽起來和正確的一樣自信 • 甚至醫療專業人士也難以發現錯誤
## 為什麼這對每個人都很重要
現在有數百萬人使用像ChatGPT這樣的AI工具來獲取快速的健康信息。當你在凌晨2點擔心症狀時,詢問AI而不是等醫生是很有誘惑力的。但這項研究顯示,這就像是在用你的健康擲硬幣。
最可怕的部分?AI的錯誤答案通常聽起來完全合理。它們正確使用醫學術語並清楚解釋——只是給了你錯誤的信息。
## 你應該怎麼做
專家建議: • 不要用AI取代醫生來做健康決策 • 僅將AI用於一般健康教育,而非診斷 • 總是與真正的醫療專業人士核實AI的健康建議 • 記住:AI並不真正“理解”醫學——它只是預測下一個詞應該是什麼
隨著AI在我們日常生活中變得越來越普遍,這項研究提供了一個重要的警告。雖然AI在許多方面可以很有幫助,但你的健康不是可以賭博的事情。
這是一個AI生成的摘要。閱讀原始文章:https://decrypt.co/367689/half-ai-health-advice-wrong-seems-right