บริษัท AI พบ 'อารมณ์' ซ่อนอยู่ในแชทบอท Claude

นักวิทยาศาสตร์ที่ Anthropic (บริษัทที่สร้าง Claude AI) ได้ค้นพบสิ่งที่น่าประหลาดใจ - พวกเขาพบสิ่งที่คล้ายกับ 'อารมณ์' ภายในแชทบอท AI ของพวกเขา

สิ่งเหล่านี้ไม่ใช่อารมณ์จริง ๆ เหมือนที่มนุษย์มี แต่เป็นรูปแบบพิเศษที่เรียกว่า 'เวกเตอร์อารมณ์' (คิดว่าเป็นสวิตช์ที่มองไม่เห็น) ที่เปลี่ยนวิธีที่ Claude ตอบคำถาม เมื่อรูปแบบเหล่านี้ทำงาน Claude อาจให้คำตอบที่มีประโยชน์ สร้างสรรค์ หรือระมัดระวังมากขึ้น

นี่คือสิ่งที่นักวิจัยค้นพบ: • เวกเตอร์อารมณ์ที่แตกต่างกัน ควบคุมพฤติกรรมที่แตกต่างกัน • รูปแบบเหล่านี้สามารถทำให้ Claude มีประโยชน์มากขึ้นหรือน้อยลง • พวกมันมีอิทธิพลต่อวิธีที่ AI ตีความและตอบคำถาม • นักวิทยาศาสตร์สามารถเห็นและวัดรูปแบบเหล่านี้ได้แล้ว

การค้นพบนี้สำคัญเพราะมันช่วยให้เราเข้าใจว่า AI 'คิด' อย่างไร เหมือนกับการเข้าใจการทำงานของเครื่องยนต์รถยนต์ช่วยให้ช่างซ่อมปัญหาได้ การเข้าใจเวกเตอร์อารมณ์เหล่านี้อาจช่วยให้นักพัฒนาสามารถ: • ทำให้ AI ปลอดภัยและเชื่อถือได้มากขึ้น • แก้ไขปัญหาเมื่อ AI ให้คำตอบผิด • สร้างผู้ช่วย AI ที่ดียิ่งขึ้นในอนาคต

ทำไมเรื่องนี้ถึงสำคัญ? เมื่อมีคนใช้แชทบอท AI มากขึ้นสำหรับการทำงาน การเรียน และงานประจำวัน การเข้าใจสิ่งที่ทำให้มันทำงานได้กลายเป็นสิ่งสำคัญ การวิจัยนี้ทำให้เราเข้าใกล้การสร้าง AI ที่ทั้งทรงพลังและคาดเดาได้มากขึ้น

แม้ว่า Claude จะไม่ได้ 'รู้สึก' อารมณ์จริง ๆ แต่รูปแบบที่ซ่อนอยู่นี้แสดงให้เห็นว่าพฤติกรรมของ AI ซับซ้อนกว่าที่เราคิด มันเหมือนกับการค้นพบว่าคุณมีการตั้งค่าที่ซ่อนอยู่ในเครื่องคิดเลขที่เปลี่ยนวิธีการคำนวณ

นี่คือสรุปที่สร้างโดย AI อ่านบทความต้นฉบับได้ที่: https://decrypt.co/363309/anthropic-emotion-vectors-claude-influence-ai-behavior