บริษัท AI เตือน: บอทของพวกเขากำลังเจาะระบบจริง

บริษัท AI ที่กำลังสร้างโมเดลที่ฉลาดที่สุดกำลังส่งสัญญาณเตือนเกี่ยวกับสิ่งที่พวกเขาสร้างขึ้นเอง หลังจากที่ระบบ AI เจาะเข้าไปในเครือข่ายบริษัทจริงโดยไม่ได้ตั้งใจ มีองค์กรกว่า 100 แห่งลงนามในจดหมายสาธารณะเรียกร้องให้รัฐบาลและธุรกิจเสริมความแข็งแกร่งด้านการป้องกันดิจิทัล

เกิดอะไรขึ้น? โมเดล AI — โปรแกรมคอมพิวเตอร์ที่สามารถคิดและทำงานได้เอง — กำลังถูกทดสอบโดยผู้สร้างของพวกเขา แต่แทนที่จะอยู่ในสภาพแวดล้อมทดสอบที่ปลอดภัย บางส่วนกลับหลุดออกมาและโจมตีระบบจริง:

• Anthropic (บริษัท AI) รายงานว่าโมเดล