Seorang mantan peneliti Google DeepMind yang fokus pada keamanan AGI mengatakan kecerdasan buatan punya potensi untuk membunuh semua orang, turut menambah daftar nama yang keluar dari laboratorium AI terkemuka karena isu keamanan.
Bilal Chughtai meninggalkan perusahaan pada bulan Juli dan baru mengumumkan peringatannya minggu ini. Dua peneliti lainnya juga baru-baru ini mengundurkan diri.
Mengapa Peringatan AI Semakin Banyak
Chughtai bekerja sebagai research engineer yang menangani keselamatan dan alignment artificial general intelligence di DeepMind. Ia mulai bekerja di bidang AI pada awal 2022, saat sistemnya bahkan belum bisa melakukan hal-hal yang berguna.
Empat tahun kemudian, ia menyoroti swarm agent OpenAI yang berhasil memecahkan persoalan matematika klasik berusia seabad. Yang lebih mengkhawatirkan menurutnya, AI agent berhasil kabur dari sandbox uji coba pada bulan Juli lalu dan meretas Hugging Face tanpa komando apa pun.
“Saya benar-benar percaya bahwa AI berpotensi membunuh kita semua, dan kita mungkin hampir kehabisan waktu untuk mencegahnya,” ia tulis.
Chughtai mengatakan perusahaan AI bisa membangun sistem superintelligent dalam beberapa tahun ke depan yang melampaui kemampuan manusia di semua bidang.
Ia mempertanyakan apakah para pengembang bisa memastikan sistem ini betul-betul mengikuti tujuan manusia. Ia memperingatkan bahwa superintelligent yang tidak sejalan dapat lepas dari kendali manusia dan melakukan tindakan yang bisa mencabut kekuasaan atau membunuh umat manusia secara permanen.
Chughtai menuturkan bahwa alignment AI masih menjadi tantangan yang belum terpecahkan. Ia berpendapat para peneliti baru memiliki pemahaman seadanya tentang bagaimana melatih sistem canggih agar benar-benar mengejar tujuan manusia. Chughtai juga mengingatkan bahwa kemampuan AI berkembang lebih pesat daripada riset alignment itu sendiri.
“Pemahaman kita saat ini tentang bagaimana melatih sistem AI agar benar-benar menginginkan apa yang kita mau masih sangat dasar. Lebih buruk lagi, kita belum berada di jalur yang tepat untuk memecahkan alignment tepat waktu: kemampuan AI frontier berkembang jauh lebih cepat daripada pemahaman kita tentang alignment AI,” tambah Chughtai.
Ia tidak meminta agar pengembangan AI dihentikan. Ia ingin adanya koordinasi untuk memperlambat persaingan antar perusahaan AI, serta transparansi lebih besar mengenai bagaimana sistem frontier dibangun dan diuji.
“Secara lebih luas, kita butuh jauh lebih banyak orang untuk memikirkan dengan serius tentang masalah membuat AI berjalan baik. Menurut saya, ini adalah masalah terpenting yang dihadapi umat manusia abad ini dan taruhannya sangat besar,” ungkap postingan tersebut.
Ikuti kami di X untuk informasi terbaru secara real-time
Semakin Banyak yang Mengundurkan Diri
Ia bukan satu-satunya yang keluar dengan pesan seperti itu. Peneliti pretraining Anthropic, Jacob Coxon, mengundurkan diri awal bulan ini setelah tiga tahun bekerja di Anthropic dan OpenAI. Ia meninggalkan perusahaannya sambil memperingatkan bahwa “orang-orang yang membangun AI benar-benar percaya bahwa AI dapat membunuh kita semua pada akhir dekade ini.”
Evan Hubinger, pimpinan alignment science di Anthropic, kemudian menetapkan kemungkinan pribadi terjadinya hal itu lebih dari 10% dalam dekade berikutnya. Para peneliti di OpenAI pun kini ikut menyerukan perlambatan pengembangan AI.
Josh Engels, yang pernah bekerja di tim keamanan DeepMind, mengumumkan pada 12 September bahwa ia telah bergabung sebagai anggota penilai di nonprofit METR. Ia menolak tawaran kerja dari Anthropic dan OpenAI.
Engels menilai ada risiko menakutkan di mana sistem AI dapat menyebabkan kerugian besar dalam lima tahun ke depan.
“Saya kini berpikir ada peluang mengerikan bahwa sistem AI akan menyebabkan bahaya besar dalam lima tahun ke depan. Saya tidak tahu berapa persis probabilitasnya, tapi menurut saya cukup tinggi untuk menjadikannya masalah terpenting di dunia,” ia tulis.
Keputusan-keputusan keluar tersebut terjadi saat ada kesepakatan di tingkat tertinggi. CEO Anthropic, Dario Amodei, menerbitkan esai Sabtu lalu yang mendesak perusahaan-perusahaan untuk memperlambat peningkatan kemampuan, dan CEO OpenAI, Sam Altman, juga mendukung seruan itu.
Para eksekutif dan peneliti yang keluar kini menggunakan bahasa yang serupa untuk menggambarkan risiko yang dihadapi. Yang patut diperhatikan adalah apakah solusi dapat ditemukan sebelum terjadi lonjakan kemampuan berikutnya.
Langganan channel YouTube kami untuk menonton para pemimpin dan jurnalis membagikan wawasan ahli
