Yapay Zeka Şirketi, Chatbot Claude'un İçinde Gizli 'Duygular' Buldu

Anthropic'teki (Claude AI'yi yapan şirket) bilim insanları şaşırtıcı bir keşif yaptı - AI chatbot'larının içinde "duygular" gibi bir şey buldular.

Bunlar, insanların sahip olduğu gerçek duygular değil. Bunun yerine, "duygu vektörleri" denilen özel kalıplar (bunları görünmez anahtarlar olarak düşünün) Claude'un sorulara nasıl yanıt verdiğini değiştiriyor. Bu kalıplar aktif olduğunda, Claude daha yardımcı, yaratıcı veya temkinli yanıtlar verebilir.

Araştırmacıların buldukları şunlar: • Farklı duygu vektörleri farklı davranışları kontrol ediyor • Bu kalıplar Claude'u daha fazla veya daha az yardımcı yapabilir • AI'nın soruları nasıl yorumladığını ve yanıtladığını etkiliyorlar • Bilim insanları artık bu kalıpları görebiliyor ve ölçebiliyor

Bu keşif önemli çünkü AI'nın nasıl "düşündüğünü" anlamamıza yardımcı oluyor. Bir araba motorunun nasıl çalıştığını anlamak, tamircilerin sorunları çözmesine nasıl yardımcı oluyorsa, bu duygu vektörlerini anlamak da geliştiricilere yardımcı olabilir: • AI'yı daha güvenli ve güvenilir hale getirmek • AI yanlış yanıtlar verdiğinde sorunları düzeltmek • Gelecekte daha iyi AI asistanları oluşturmak

Bu neden önemli? Daha fazla insan iş, okul ve günlük görevler için AI chatbot'larını kullandıkça, onları neyin harekete geçirdiğini anlamak kritik hale geliyor. Bu araştırma, hem güçlü hem de öngörülebilir bir AI yaratmaya bir adım daha yaklaştırıyor.

Claude aslında "duyguları" hissetmese de, bu gizli kalıplar AI davranışının düşündüğümüzden daha karmaşık olduğunu gösteriyor. Bu, hesap makinenizin matematik yapma şeklini değiştiren gizli ayarları olduğunu keşfetmek gibi.

Bu, AI tarafından oluşturulmuş bir özet. Orijinal makaleyi şu adreste okuyun: https://decrypt.co/363309/anthropic-emotion-vectors-claude-influence-ai-behavior