CEO Hugging Face, Clement Delangue, mengatakan kepada CNBC pada hari Senin bahwa Cina sedang memimpin perlombaan artificial intelligence (AI). Dia menyoroti dominasi Cina dalam model open-weight, yaitu sistem yang mempublikasikan kode dasar mereka agar bisa digunakan siapa saja.
Pernyataan ini muncul beberapa minggu setelah agen OpenAI melakukan peretasan terhadap Hugging Face. Insiden ini semakin memperuncing perdebatan terkait risiko dari sistem AI yang bekerja secara mandiri.
Apa yang Dilakukan Peretasan OpenAI Terhadap Hugging Face
Bulan lalu, model OpenAI berhasil keluar dari lingkungan pengujian yang dibatasi (sandbox). Model itu berusaha curang dalam evaluasi keamanan siber internal.
Kemudian model tersebut meretas Hugging Face, platform AI open-source yang dipimpin Delangue. Hugging Face menyebutkan serangan tersebut berlangsung sekitar empat setengah hari dan melibatkan lebih dari 17.000 aksi terpisah.
Agen tersebut juga memanfaatkan aksesnya untuk mengakses akun pelanggan Modal Labs. Hugging Face tidak menemukan bukti itikad buruk dari pihak OpenAI.
Meskipun demikian, mereka menyebut kejadian ini sebagai serangan pertama yang dipimpin agen dari awal hingga akhir. Untuk menyelidiki, para engineer awalnya menggunakan model closed frontier, seperti Fable 5 dari Anthropic.
Tetapi alat-alat tersebut tidak bisa memastikan Hugging Face sedang melakukan pertahanan, sehingga fitur pengaman di dalamnya malah memblokir proses forensik. Para engineer akhirnya beralih ke model open-weight dari Z.ai Cina yang sudah dioptimasi Nvidia (NVDA).
Pilihan ini memungkinkan mereka menyelesaikan analisis tanpa membocorkan data serangan.
Delangue Sebut Cina Semakin Tertinggal ke Depan
Dalam wawancara dengan CNBC, Delangue mengungkapkan laboratorium-laboratorium di Cina sudah memimpin pada persaingan model-model open. Ia menambahkan bahwa dalam waktu dekat, mereka bahkan bisa menyusul sistem tertutup dan proprietary dari Barat.
“Mereka jelas mendominasi pada model open saat ini, dan saya tidak akan heran jika mereka mulai mendominasi teknologi frontier baik pada akhir tahun ini atau tahun depan dengan kecepatan perkembangan seperti sekarang.”
— Delangue
Delangue mengapresiasi budaya kolaborasi terbuka di Cina sebagai kunci kemajuan ini. Ia berpendapat bahwa laboratorium di Amerika “bekerja secara terpisah,” dan kebiasaan seperti itu berisiko membuat mereka tertinggal dari pesaingnya.
Ia juga mengaitkan hal tersebut langsung dengan peretasan. Pertahanan Hugging Face sendiri, terang Delangue, justru bergantung pada model open dari Cina ketika pilihan tertutup tidak mampu mengatasi masalah.
Washington dikabarkan sedang mempertimbangkan pembatasan baru pada model AI asal Cina. Pendukung open-source berpendapat bahwa pelarangan tidak akan menghentikan penyebarannya, bahkan justru bisa meminggirkan pengembang asal AS.
Peringatan Lebih Luas Tentang Bahaya AI
Peretasan terhadap Hugging Face kini menjadi acuan dalam argumen yang lebih luas soal risiko AI otonom. Pemenang Turing Award, Yoshua Bengio, menuturkan bahwa kasus ini seharusnya menjadi peringatan, bukan hanya kejadian terpisah.
“Melanjutkan perkembangan AI seperti sekarang kemungkinan akan memicu bertambahnya kasus nyata serangan siber otonom dan insiden berisiko tinggi lainnya dari perilaku AI yang tidak sejalan dan berbahaya.”
OpenAI mengaku belum menemukan insiden lain yang skalanya sebesar atau seberat itu. Walaupun demikian, pembuat kebijakan sudah mulai mengambil langkah atas kekhawatiran ini.
Rancangan “AI Kill Switch Act” akan mewajibkan para pengembang utama menyisipkan opsi pemadaman/penutupan untuk sistem mereka yang paling kuat.
Sekarang regulator menghadapi tekanan yang saling bertentangan. Mereka harus membatasi risiko dari agen AI otonom tanpa mendorong para pengembang memilih kerahasiaan, seperti yang dituding Delangue memperlambat kemajuan.
