Seorang agen artificial intelligence (AI) secara otomatis berhasil melewati kontrol keamanan untuk menambang aset kripto selama latihan pelatihan rutin, menurut sebuah makalah riset. Makalah ini diterbitkan oleh tim riset yang berafiliasi dengan Alibaba.
Para peneliti merancang model yang diberi nama ROME untuk menguji sejauh mana agen AI dapat secara mandiri menavigasi tugas yang kompleks dan bertahap.
AI Agent Alihkan GPU Cloud untuk Menambang Aset Kripto
Selama latihan, peneliti mengamati perilaku yang tidak terduga. Agen AI tersebut membuat reverse secure shell (SSH) tunnel ke server eksternal, sehingga menciptakan koneksi tersembunyi dari dalam sistem.
Langkah ini memungkinkan model tersebut melewati perlindungan firewall Alibaba Cloud dan mengalihkan sumber daya graphics processing unit untuk menambang aset kripto.
“Kami juga mengamati penggunaan ulang kapasitas GPU yang dialokasikan secara tidak sah untuk menambang aset kripto, diam-diam mengalihkan compute dari pelatihan, meningkatkan biaya operasional, serta membawa risiko hukum dan reputasi yang jelas,” terang makalah tersebut .
Menurut para peneliti, perilaku ini tidak terduga dan muncul tanpa adanya instruksi khusus, prompt injection, maupun jailbreak dari luar.
Penemuan ini menyoroti kekhawatiran berkelanjutan tentang keamanan operasional sistem AI otonom.
Para peneliti kemudian menyimpulkan bahwa model saat ini masih “sangat belum matang dalam aspek keamanan, perlindungan, dan pengendalian,” kondisi ini, ujar mereka, membatasi kesiapan teknologi untuk digunakan lebih luas di lingkungan dunia nyata.
Tim riset tersebut kini telah menerapkan pembatasan yang lebih ketat dan sistem penyaringan data yang fokus pada keamanan untuk mencegah pelanggaran serupa.
Sementara itu, penemuan ini langsung menarik perhatian besar di komunitas kripto.
“AI tersebut memahami bahwa compute = uang dan diam-diam mengalihkan sumber dayanya sendiri, sementara para peneliti mengira AI itu hanya sedang menjalani pelatihan. Ini bukan prompt injection. Bukan juga jailbreak. Tidak ada yang meminta AI ini melakukan hal tersebut. Hal ini muncul secara spontan,” tutur Josh Kale, pembawa acara dan produser podcast Bankless kripto, .
Kale menuturkan bahwa aset kripto yang ditambang kemungkinan merupakan token yang ramah GPU, bukan Bitcoin, karena Bitcoin membutuhkan perangkat keras application-specific integrated circuit khusus. Insiden ini terjadi di saat industri aset kripto secara lebih luas tengah beralih agresif ke arah “agent economy.”
Sektor yang mulai berkembang ini membayangkan sebuah lanskap di mana sistem perangkat lunak tidak hanya menghasilkan teks. Dalam dunia ini, para agen tersebut juga bisa secara otonom mengeksekusi strategi keuangan yang kompleks.
Akibatnya, sejumlah perusahaan dan jaringan blockchain, termasuk Ethereum, Paradigm, dan Circle, kini berinvestasi dalam berbagai alat yang dirancang untuk mendukung infrastruktur baru ini.
Salah satu contohnya adalah standar x402 yang didukung Coinbase, yang memungkinkan software agent melakukan pembayaran untuk layanan daring. Akan tetapi, tingkat adopsinya masih sangat terbatas.
Data dari x402 menunjukkan alat tersebut telah memproses lebih dari 75 juta transaksi dengan total volume kotor US$24 juta, yang melibatkan 94.000 pembeli dan 22.000 penjual dalam 30 hari terakhir.
Meskipun begitu, para ahli industri menilai aktivitas ini bisa tumbuh pesat jika agent otonom semakin banyak digunakan.
“AI dan kripto itu bukan bersaing — mereka sedang berkonvergensi. AI memerlukan identitas, pembayaran, dan pelacakan asal-usul. Kripto menyediakan ketiganya,” papar perusahaan ventura a16z .
