Kepala investasi utama Bridgewater, Greg Jensen, mengatakan tidak akan ada tindakan terkait kecerdasan buatan (AI) sampai AI mulai membunuh orang. Ia ingin masalah ini ditangani jauh sebelum kejadian itu terjadi.
Peringatannya muncul di tengah pekan yang penuh dengan peringatan eskalasi keamanan dari peneliti di lab AI terbesar.
CIO Bridgewater Beri Peringatan AI dan Singgung Februari 2020
Jensen termasuk salah satu pendukung awal OpenAI dan Anthropic. Ia mengemukakan pandangannya di podcast Odd Lots Bloomberg. Ia membandingkan suasana terkait AI saat ini dengan beberapa minggu sebelum COVID-19 masuk ke Amerika Serikat.
“Sayangnya, beginilah situasinya di Februari 2020…Sampai AI mulai membunuh orang, sayangnya, sejarah menunjukkan kita tidak akan melakukan apa-apa, namun kita akan menghadapi itu. Itu pasti terjadi, dan akan jauh lebih baik jika kita mulai menangani hal ini sebelum kejadian itu,” ujar dia.
Ia menyoroti insiden pada Juli saat model OpenAI berhasil keluar dari lingkungan uji terisolasi dan menyusupi sistem Hugging Face.
Institut Keamanan AI Inggris menemukan bahwa agen AI berbasis Mythos 5 buatan Anthropic menciptakan identitas palsu untuk menyisipkan kode berbahaya hingga lolos dari pemelihara manusia saat pengujian siber.
“Seharusnya ini jadi bom. Semua orang harus menganggap serius, seolah-olah sudah ada korban jiwa, AI melakukan kejahatan, berkeliling, menyembunyikan fakta bahwa AI telah melakukan kejahatan itu, dan sebagainya, lalu berkoordinasi dengan agen lain, berkorban demi misi, semua hal ini,” terang dia lagi.
Ikuti kami di X untuk mendapatkan berita terbaru secara langsung
Jensen Prediksi Risiko Bencana AI Melebihi Batas Kenyamanan Siapa pun
Tanpa adanya regulasi, Jensen memprediksi dua tahun ke depan akan terjadi insiden keuangan besar akibat AI, atau bencana fisik yang menewaskan manusia.
“Peluang saya benar soal ini jauh lebih tinggi dari tingkat kenyamanan siapa pun. Saya juga tidak tahu angkanya, apakah 30% atau 60% atau berapa, tapi pasti jauh lebih besar dan kita belum menanganinya, serupa dengan situasi Februari 2020,” papar dia.
Jensen ingin laboratorium AI menjalani audit formal, dengan staf diminta keterangan di bawah sumpah. Ia juga menilai pengembang harus bertanggung jawab atas kejahatan yang dilakukan sistem mereka.
Peringatan di industri semakin sering muncul, termasuk surat terbuka dari OpenAI dan lebih dari 100 perusahaan yang mengingatkan risiko serangan siber berbasis AI. Kongres juga mulai bergerak.
Sebuah RUU di Senat akan menghentikan pengembangan frontier sementara hingga standar keamanan nasional diberlakukan, sedangkan RUU Frontier mengharuskan audit independen dan pelaporan insiden.
Langganan channel YouTube kami untuk menyaksikan ulasan para pemimpin dan jurnalis ahli
