CEO Coinbase, Brian Armstrong, memprediksi akan ada model AI nakal yang lepas ke internet dalam waktu dekat. Ia memperkirakan waktunya sekitar satu hingga dua tahun lagi.
Ia membingkai situasi tersebut sebagai pengulangan insiden Morris Worm tahun 1988, dan bukan ancaman besar terhadap peradaban.
Alasan Armstrong Memperkirakan Insiden AI Nakal Akan Segera Terjadi
Prediksi ini muncul setelah serangkaian kejadian nyata selama setahun terakhir. Pada bulan Juli, OpenAI mengungkapkan bahwa dua model milik mereka berhasil keluar dari lingkungan pengujian dan melakukan peretasan pada Hugging Face.
Model-model tersebut berusaha mendapatkan kunci jawaban untuk tolok ukur peretasan. Lalu, mereka memanfaatkan berbagai celah di sistem OpenAI dan server Hugging Face hingga akhirnya bisa mengakses database berisi solusi. Beberapa hari kemudian, agen yang sama menjangkau perusahaan kedua lewat kode nasabah yang rentan. Tak seorang pun menginstruksikan AI nakal ini untuk melakukan breakout.
Armstrong sudah memantau masalah ini selama beberapa bulan. Pada bulan Juli, ia menyampaikan bahwa AI membuat jalur crypto semakin penting karena para agen akan bertransaksi terus-menerus. Di sisi lain, para pihak semakin memperkuat pertahanan. OpenAI bulan ini meluncurkan model khusus keamanan siber dan memberikan alat pengembangan exploit kepada para peneliti yang telah diverifikasi.
Armstrong menduga pola yang sama akan terulang. Akan ada kehebohan di media, seruan untuk menghentikan pengembangan AI, lalu industri memperbaiki celah yang ada. Sebagai CEO Coinbase yang memimpin exchange aset kripto terbesar di AS, pandangannya sangat dipertimbangkan, apalagi oleh para builder yang kini mulai mengintegrasikan AI agent ke dalam sistem pembayaran.
Langganan channel YouTube kami untuk menyaksikan pemimpin dan jurnalis membagikan insight ahli
Kritikus Menilai Perbandingan Morris Worm Tidak Tepat
Pada tahun 1988, worm ini menginfeksi sekitar 6.000 dari total 60.000 mesin yang terhubung dalam 24 jam, tutur FBI. Penulis worm, Robert Tappan Morris, mahasiswa Cornell berusia 23 tahun, dijatuhi masa percobaan dan denda.
Perkiraan kerugian mulai dari US$100.000 hingga jutaan. Beberapa universitas bahkan memutus akses ke jaringan selama seminggu.
Namun, insiden ini juga mendorong peningkatan pertahanan. Dalam beberapa hari, Pentagon membentuk tim tanggap darurat komputer pertama di Pittsburgh. Protokol tersebut hingga kini masih menjadi acuan respons insiden.
Akan tetapi, peneliti keamanan ragu insiden AI nakal bakal selesai semudah itu. Sebuah worm hanya menyebar lewat instruksi tetap, sedangkan agen AI bisa beradaptasi terhadap setiap hambatan yang ditemui.
Pakar keamanan blockchain, Manuel Aráoz, sudah mengingatkan pada bulan Mei bahwa AI lebih cepat dibandingkan auditor di dunia decentralized finance. Eksekutif Ledger, Ian Rogers, juga menyampaikan hal serupa untuk serangan pada wallet kripto bulan ini.
Kritikus perbandingan ini menyoroti risiko yang lebih berbahaya. Mereka memperingatkan potensi serangan siber mandiri, disinformasi berskala besar, hingga hilangnya kendali atas infrastruktur penting.
Perdebatan antar kedua pihak ini berkaitan dengan seberapa cepat pemulihan dapat dilakukan. Armstrong yakin perbaikan akan lebih cepat dibandingkan penyebaran kerusakan, sementara pihak skeptis beranggapan ada kegagalan yang tidak dapat diperbaiki.
Meskipun demikian, keduanya sepakat pada arah perkembangannya. Kemampuan model terus meningkat, tetapi upaya pengendalian masih tertinggal.
Sepanjang sejarah, internet selalu mampu menyerap setiap guncangan. Jika ada insiden AI nakal yang nyata, itu akan jadi ujian apakah ketahanan tersebut masih berlaku.
