Elon Musk memberikan reaksi tegas terhadap debat keamanan AI pada Minggu pagi. Ia menulis bahwa ia berharap AI akan baik kepada manusia, yang merefleksikan peringatan keras dari investor Naval Ravikant.
Postingan itu muncul hanya semenit setelah Musk mengomentari “Interesting exchange” di sebuah thread yang sebelumnya diunggah oleh CEO Anthropic, Dario Amodei, yang tengah membela peringatan risiko AI yang ia sampaikan dari klaim bahwa pesannya terlalu negatif.
Mengapa Amodei Membela Peringatan Risiko AI-nya
Thread tersebut diawali oleh investor Gavin Baker. Manajer dana Silicon Valley itu berpendapat bahwa rumor tentang Amodei mudah tersebar karena sesuai dengan sikap publik CEO tersebut.
Amodei menolak anggapan bahwa ia hanya fokus membahas bahaya. Dua esai utamanya pun terbagi sama rata antara risiko dan manfaat, terang bos Anthropic itu. Ia pun menambahkan, cuplikan wawancara singkat sering terdengar negatif karena konten seperti itulah yang mendapat klik.
“Machines of Loving Grace”, tulisan yang ia buat untuk membahas manfaat AI, ada karena industri kerap menggambarkan situasi terlalu suram, ucap sang CEO.
Amodei juga menyinggung penyebab yang lebih mendalam. Orang biasa cenderung tidak percaya pada perusahaan, pemerintah, dan industri teknologi, ujar bos Anthropic itu. Akibatnya, AI pun mewarisi kecurigaan yang telah mengakar selama puluhan tahun.
Pandangan itu pun memengaruhi kerja kebijakan Amodei. Pada Juni, Amodei menuntut uji wajib untuk model frontier ketimbang janji sukarela. Beberapa hari kemudian, bos Anthropic itu memanfaatkan seruan persatuan di G7 miliknya untuk memperingatkan agar pendekatan global tidak terpecah belah.
Saya rasa, kritik paling akurat untuk perusahaan AI termasuk Anthropic adalah kami belum menepati janji besar untuk membawa manfaat bagi dunia.
Musk Ikut Berkomentar Saat Janji Kesembuhan Kembali Mencuat
Musk menyebut pertukaran pendapat itu menarik, sehingga menyoroti kompleksitas debat ini. Selain fokus regulasi dari Amodei, isu ini juga berkaitan dengan sisi filosofis yang dirangkum dengan apik oleh investor Naval Ravikant: manusia tidak bisa menciptakan “Tuhan” lalu memasangnya dengan kendali penuh.
Musk langsung menegaskan pandangan itu lewat tanggapannya sendiri, menulis, “I hope AI is nice to us”, sebagai pengakuan singkat bahwa jika kendali manusia atas superintelligence gagal, masyarakat pada akhirnya hanya dapat berharap pada kebaikan ciptaan sendiri.
Musk pernah memuji Anthropic sebelumnya. Pada Juli, CEO Tesla tersebut menyalahkan OpenAI karena menjadi eksklusif sambil menyoroti Amodei sebagai sosok yang mengambil jalur berbeda.
Amodei juga mengkritik pola pikir khas Silicon Valley. Regulasi tidak otomatis memusatkan kekuasaan, ujar Amodei. Undang-undang keamanan AI California SB 53 yang didukung Anthropic juga mengecualikan perusahaan dengan pendapatan kurang dari US$500 juta.
Ketegangan serupa pun pernah muncul pada bulan Juni, saat Vitalik Buterin mengkritik meningkatnya nasionalisme AI di Washington.
Kemudian, Amodei menyebut dua pendekatan yang ia dukung. Yang pertama adalah rencana pemerintah Trump untuk menguji model frontier sebelum rilis resmi. Yang kedua yaitu badan pengawas yang meniru gaya FINRA, organisasi regulator mandiri broker-dealer AS, seperti yang diajukan kepala Google DeepMind, Demis Hassabis.
Pada akhirnya, Amodei mengingatkan kembali pada janji terbesarnya. Ia menulis, AI yang diterapkan di bidang biologi bisa menyembuhkan sebagian besar penyakit manusia dalam lima sampai sepuluh tahun ke depan. Anthropic dan Pfizer bahkan sudah menganggap AI di sektor kesehatan sebagai infrastruktur inti.
CEO Anthropic itu mengaitkan urgensi langkahnya dengan sang ayah, yang meninggal dunia karena Hepatitis C tak lama sebelum pengobatan antivirus yang menyembuhkan tersedia untuk pasien.
Namun, Amodei menolak seruan untuk membuat kampanye pemasaran mewah. Ia menuturkan, menyebut AI akan menyembuhkan kanker kini terdengar seperti klise. Kenyataannya, satu-satunya solusi adalah benar-benar menyembuhkan penyakit itu.
Oleh sebab itu, beberapa bulan ke depan bagi Anthropic di bidang biologi mungkin bakal menentukan apakah janji itu bisa bertahan di dalam laboratorium.
