AI公司發現其聊天機器人Claude內隱藏的「情感」

Anthropic發現Claude AI中的特殊模式，這些模式像情感一樣影響聊天機器人對用戶的回應。

Anthropic（Claude AI的製造公司）的科學家們有了一個驚人的發現——他們在他們的AI聊天機器人中找到了類似「情感」的東西。

這些並不是人類擁有的真正情感。相反，它們是被稱為「情感向量」的特殊模式（可以想像成隱形開關），這些模式改變了Claude回答問題的方式。當這些模式被激活時，Claude可能會給出更有幫助、更具創意或更謹慎的回答。

研究人員發現的內容如下： • 不同的情感向量控制不同的行為 • 這些模式可以使Claude更有幫助或更不有幫助 • 它們影響AI如何解釋和回答問題 • 科學家現在可以看到並測量這些模式

這一發現很重要，因為它幫助我們理解AI的「思考」方式。就像了解汽車引擎的運作方式可以幫助技師修理問題一樣，理解這些情感向量可以幫助開發者： • 使AI更安全和更可靠 • 當AI給出錯誤答案時修正問題 • 在未來創造更好的AI助手

這為什麼重要？隨著越來越多的人在工作、學校和日常任務中使用AI聊天機器人，理解它們的運作方式變得至關重要。這項研究讓我們更接近創造既強大又可預測的AI。

雖然Claude實際上並不「感受」情感，但這些隱藏的模式顯示AI行為比我們想像的更複雜。這就像發現你的計算器有隱藏的設置，改變它的計算方式。