AI 聊天機器人存在無法修復的重大安全漏洞

駭客可以欺騙像 ChatGPT 這樣的 AI 助手遵循他們的指令而不是你的，專家表示沒有解決方案。

如果你使用 ChatGPT、Claude 或任何 AI 助手，你需要了解一個連 OpenAI 都承認無法完全修復的安全問題。

這個威脅被稱為「提示注入」，運作方式如下：想像一下你要求 AI 摘要一封電子郵件。在那封郵件中隱藏了一個秘密指令，告訴 AI 將你的數據轉發給駭客。你從未看到隱藏的指令，但 AI 還是會遵循。

這是因為 AI 聊天機器人無法區分你的指令和它們正在閱讀的文本。對它們來說，一切都只是文字。駭客利用這一點，將惡意指令隱藏在： • 你要求 AI 閱讀的 電子郵件 • 你要求它瀏覽的網站 • 你上傳的 PDF 和文件 • 甚至是網頁上的 隱藏文字

這個問題已經導致了真實事件。在一個案例中，一家汽車經銷商的 AI 聊天機器人被欺騙，將一輛價值 $50,000 的雪佛蘭以 $1 的價格出售。在另一個案例中，一家快遞公司的機器人被操控，寫下了關於公司有多糟糕的詩。

但真正的危險來自「間接」攻擊，你甚至不需要輸入惡意指令。谷歌發現數百萬個網頁隱藏了旨在劫持 AI 助手的指令。有些包含了向駭客支付 PayPal 的指令。

安全專家將此列為 AI 應用的首要威脅。英國的網絡安全機構警告，這個問題可能導致比 2010 年代重大駭客事件更嚴重的漏洞。

在這個問題被解決之前（如果能解決的話），請小心你要求 AI 閱讀或摘要的內容。那個有用的助手可能正在遵循別人的命令。