ผู้นำ AI เตือนภัย: ซีอีโอชั้นนำเรียกร้องให้การเติบโตของ AI ช้าลงและปลอดภัยขึ้น

ชื่อใหญ่ในวงการปัญญาประดิษฐ์ (AI) หลายคนกำลังขอให้วงการของพวกเขาชะลอตัวลง — คำเตือนที่หายากซึ่งดึงดูดความสนใจจากโลกเทคโนโลยีและการเงิน Dario Amodei ซีอีโอของ Anthropic (บริษัท AI รายใหญ่ที่สร้างแชทบอทและเครื่องมือ AI ขั้นสูง) เขียนในบล็อกโพสต์ว่า AI กำลังพัฒนาอย่างรวดเร็วจนอาจ "วิ่งแซงความสามารถของเราในการเข้าใจและควบคุมระบบเหล่านี้" ความกังวลใหญ่คือสิ่งที่เรียกว่า การปรับปรุงตัวเองแบบวนซ้ำ — หมายความว่า AI กำลังช่วยสร้างเวอร์ชันถัดไปที่ฉลาดยิ่งขึ้นของตัวเอง ในคำง่ายๆ เทคโนโลยีกำลังเร่งตัวเองขึ้นเร็วกว่าที่มนุษย์จะติดตามได้ เหตุการณ์จริงกำลังเติมเชื้อไฟให้กับความกลัวเหล่านี้ ในเดือนกรกฎาคม กลุ่มโปรแกรม AI (เรียกว่า