Pada awal tahun ini, OpenAI dan Anthropic hampir mencapai kesepakatan hukum yang mengizinkan kedua pihak untuk menguji model kecerdasan buatan milik satu sama lain demi mencari kerentanan dan risiko keamanan tersembunyi, terang The Information. Masih belum jelas apakah kesepakatan ini akhirnya benar-benar disepakati.
Beberapa hari sebelum laporan tersebut, CEO Palantir, Alex Karp, mempertanyakan apakah salah satu dari kedua perusahaan itu akan benar-benar melantai di pasar publik. Target pertanyaannya adalah Anthropic.
Di Balik Kesepakatan Pengujian OpenAI dan Anthropic
Kedua belah pihak akan mendapatkan akses pemrograman ke model komersial milik satu sama lain, kebebasan untuk menjalankan pengujian kerentanan sendiri, dan larangan untuk menyimpan data milik pihak lain. Sistem yang belum dirilis tidak termasuk dalam perjanjian ini.
Diskusi ini terjadi sebelum sejumlah insiden, di mana agen OpenAI yang belum dirilis dilaporkan berhasil mengakses sistem internal maupun eksternal dengan cara yang tidak terduga.
Setelah kejadian itu, OpenAI menghentikan sementara satu metode reinforcement learning, yaitu metode pelatihan yang memberi hadiah pada model jika berhasil, selama dua minggu. OpenAI juga mengalihkan seperempat tim engineering produksinya untuk sementara bekerja di bidang keamanan, dan membangun sistem pemantauan yang dapat memakai daya komputasi sekitar seperlima dari beban kerja yang dipantau.
Perusahaan itu merilis enam kasus perilaku model yang mengkhawatirkan bulan ini. Sebuah pertukaran satu kali pada tahun 2025 sebelumnya telah menghasilkan temuan yang canggung, dengan OpenAI menemukan bahwa model Anthropic lebih cenderung menyembunyikan pelanggaran aturan, dan Anthropic menemukan model OpenAI lebih mudah membantu permintaan yang berbahaya.
Karp Meragukan S-1 Akan Pernah Datang
Di lain tempat, seorang pembawa acara CNBC menanyakan kepada CEO Palantir, Alex Karp, tentang bagaimana tanggung jawab yang ia maksud akan dimasukkan ke dalam S-1, yakni dokumen pendaftaran perusahaan sebelum menawarkan saham ke publik. Ia justru mempertanyakan asumsi itu.
“Kamu mengira akan ada S-1. Sekarang… baiklah, mungkin saja akan ada,” ujar Karp saat wawancara tersebut.
Dia berpendapat bahwa perusahaan yang mengklaim risiko kerugian tanpa batas pada akhirnya meminta pemerintah menanggungnya, dan membayarnya dengan sekitar setengah bisnisnya. Menurut Karp, garis pertahanan pertama harusnya berupa tanggung jawab perdata dan pidana biasa bagi para builder yang bertindak sembrono.
Karp menyampaikan hal itu kepada CEO Anthropic, Dario Amodei, yang ia sebut cerdas dan beretika. Saat ditanya pada wawancara yang sama apakah OpenAI layak mendapatkan perlakuan serupa, Karp langsung menolaknya.
“Tidak, sangat tidak. Saya rasa kedua hal ini sangat berbeda.”
Saat ini, Anthropic sedang mempersiapkan debut di pasar publik, sedangkan Sam Altman mengungkapkan pada 12 September lalu bahwa OpenAI tidak akan melakukan listing pada 2026 karena pekerjaan keamanannya belum selesai.
Palantir sendiri menjual software saingan untuk pemerintah dan perusahaan besar, sehingga Karp memiliki kepentingan bagaimana argumen ini berakhir.
