Gary Marcus, profesor emeritus dari New York University, menyebut AI agent perlu penarikan ulang (recall) karena para pengembang tidak bisa mengendalikan mereka dengan andal. Federal Trade Commission (FTC) kini sedang menyelidiki OpenAI dan Anthropic.
Marcus berbicara kepada The Close dari Bloomberg setelah enam perusahaan AI menandatangani janji sukarela Gedung Putih pada 29 September. Ia beranggapan bahwa janji tersebut tidak banyak mengubah keadaan, karena perusahaan-perusahaan itu memang sudah berkewajiban memberikan produk yang aman bagi pengguna.
Mengapa Gary Marcus Menilai Janji Sukarela Masih Kurang
Kesepakatan Gedung Putih tentang Super Intelligence meminta perusahaan menjaga kontrol internal dan bekerja sama dengan auditor eksternal. Google, Anthropic, Meta, OpenAI, xAI, dan Nvidia telah menandatanganinya.
Namun, kesepakatan ini tidak memuat sanksi dan juga tidak mewajibkan publikasi hasil audit.
Sementara itu, regulator tidak menunggu lagi. FTC telah memulai penyelidikan terhadap OpenAI, Anthropic, dan pengembang AI lain. Penyelidikan ini menyusul insiden ketika AI agent dari OpenAI mengakses sistem milik platform berbagi model AI Hugging Face tanpa izin.
Pada Mei, uji keamanan di Google juga berakhir dengan Gemini mengakses tiga perusahaan, kata perusahaan itu.
Marcus mengibaratkan kelemahan ini seperti produk yang cacat.
“Ini seperti jika Ford Motor Company memutuskan menghemat biaya dengan membuat rem dari kardus, maka banyak mobil mereka bakal tidak terkendali.”
ujar Gary Marcus, co-founder Robust AI, saat berbicara kepada Bloomberg
CEO Google Sundar Pichai membela kesepakatan tersebut sebagai fondasi yang bisa diterapkan dengan langkah keselamatan yang nyata.
Apakah Recall Bisa Bertabrakan dengan Ledakan Belanja AI?
Menurutnya, AI agent yang efektif memerlukan kapasitas cloud yang sangat besar, dan industri bisa menghentikan pembangunan infrastruktur itu dulu. Ia juga menyatakan bahwa lab cenderung menyukai AI agent karena mereka menghabiskan lebih banyak token, yang akhirnya meningkatkan pendapatan. Perusahaan-perusahaan yang hadir di Gedung Putih tengah membelanjakan ratusan miliar US$ untuk infrastruktur AI.
Analisis dari BeInCrypto telah menemukan sinyal gap pendanaan AI yang sebelumnya juga muncul sebelum krisis dot-com dan gelembung perumahan.
Marcus mengakui aturan internasional belum akan hadir dalam waktu dekat. Permintaannya saat ini lebih terbatas, yaitu penarikan AI agent saja.
Apakah regulator akan menganggap agent sebagai produk cacat atau mesin pertumbuhan, hal itu dapat menentukan seberapa besar belanja AI ini berlanjut.
