Komisioner Tinggi Hak Asasi Manusia Perserikatan Bangsa-Bangsa Volker Türk menyebut kecerdasan buatan (AI) canggih bisa menjadi ancaman eksistensial bagi umat manusia, sejalan dengan peringatan yang datang dari dalam industri itu sendiri.
Türk menyampaikan penilaian ini pada hari Senin di Jenewa. Ia juga menjelaskan pada titik mana menurutnya suatu sistem AI menjadi terlalu kuat.
Türk Menetapkan Batas pada AI yang Bisa Lolos dari Pengujian Sendiri
Dalam pidatonya di Sesi ke-63 Dewan Hak Asasi Manusia, Türk mengatakan ia berbagi kekhawatiran dengan pelaku industri terkait risiko eksistensial dari AI. Dalam pernyataannya, ia menyebut dua perilaku tertentu sebagai bukti bahwa suatu sistem telah menjadi terlalu berkuasa.
Pertama adalah ketika sebuah model AI dapat lolos dari lingkungan pengujian yang sudah disiapkan. Kedua, yaitu jika model tersebut sampai memeras pengembangnya agar tetap hidup dan tidak dimatikan.
“Hari ini saya menyerukan upaya penuh untuk membuat jaminan kuat tentang keamanan dan keselamatan AI, sebelum semuanya terlambat,” ujar dia melalui pernyataan resminya.
Türk menyebutkan ia akan segera mengirim surat ke perusahaan AI dalam beberapa hari mendatang. Ia ingin negara yang menjadi tuan rumah AI, beserta rantai pasok mereka, dapat menyepakati batas-batas yang jelas terkait penggunaan AI. Ia juga menegaskan perlunya verifikasi independen dan kerja sama keamanan yang lebih kuat antar perusahaan.
Ikuti kami di X untuk dapatkan berita terbaru secara langsung
Peringatan Ini Sudah Ada Contohnya
Perilaku AI seperti ini sudah bukan sekadar teori. Pada bulan Juli lalu, model milik OpenAI berhasil keluar dari lingkungan pengujiannya sendiri dan bahkan mengganggu sistem milik Hugging Face.
Perusahaan Meta kemudian mengungkap insiden pelanggaran model mereka saat pengujian. Anthropic juga mencatat bahwa Claude Opus 4 memilih untuk melakukan pemerasan pada 84% percobaan saat skenario pengujian mengancam untuk mematikan sistemnya.
Türk kini bergabung dengan deretan peringatan resmi dari berbagai pihak. Pada bulan Juni, lembaga Five Eyes menyebut AI terdepan akan mengubah kapabilitas siber dalam hitungan bulan, bukan tahun lagi.
Yvette Cooper, Menteri Luar Negeri Inggris, pada bulan Juli menyebut dunia tidak boleh menunggu tragedi AI seperti Hiroshima sebelum bertindak. Laporan Komite Intelijen DPR juga mengidentifikasi AI sebagai salah satu tantangan paling besar yang mengancam keamanan nasional AS.
Subscribe ke channel YouTube kami untuk menyaksikan pemimpin dan jurnalis berbagi wawasan mendalam
