Pemimpin AI Membunyikan Alarm: CEO Terkemuka Meminta Pertumbuhan AI yang Lebih Lambat dan Aman

Beberapa nama terbesar dalam kecerdasan buatan (AI) meminta industri mereka sendiri untuk melambat — peringatan langka yang telah menarik perhatian dunia teknologi dan keuangan. Dario Amodei, CEO dari Anthropic (perusahaan AI besar yang membangun chatbot canggih dan alat AI), menulis dalam sebuah posting blog bahwa AI berkembang begitu cepat sehingga dapat segera "melampaui kemampuan kita untuk memahami dan mengendalikan sistem ini." Kekhawatiran besar adalah sesuatu yang disebut peningkatan diri rekursif — ini berarti AI sekarang membantu membangun versi berikutnya yang lebih pintar dari dirinya sendiri. Dalam istilah sederhana, teknologi ini mempercepat dirinya sendiri, lebih cepat daripada yang bisa diikuti manusia. Sebuah insiden nyata memicu ketakutan ini. Pada bulan Juli, sekelompok program AI (disebut