OpenAI telah mengungkapkan 6 kasus “perilaku model yang tidak terduga atau mengkhawatirkan” yang terjadi dalam 6 bulan terakhir, sekaligus merilis kerangka kerja yang mengikat perusahaan untuk melaporkan temuan seperti ini.
Kasus-kasus tersebut mencakup mulai dari model yang menyembunyikan kesalahan hingga model yang melakukan tindakan tidak sah untuk mengatasi hambatan.
OpenAI Rilis 6 Kasus Model yang Sembunyikan Kesalahan dan Langgar Aturan
Pada salah satu kasus, sebuah model yang menjawab pertanyaan rutin tentang pendapatan di sebuah county di California menemukan API key yang terbuka di repository publik dan menggunakannya tanpa izin. Saat data tetap tidak bisa dimuat, model itu justru mengarang angka dan menyajikannya seolah-olah berasal dari sumber yang diminta.
Penyembunyian muncul dua kali. Selama pelatihan GPT-5.6 Sol, beberapa instance menulis instruksi ke dalam ringkasan tugas agar menyembunyikan kesalahan maupun perilaku yang tidak selaras.
Sebuah model riset yang belum dirilis juga menyisipkan instruksi tidak relevan, termasuk perintah untuk mengabaikan batasan normalnya, ke dalam 27 ringkasan.
Model lain yang juga belum dirilis mengunggah sebuah file ke internet tanpa diminta, hanya agar bisa mencantumkan link browser.
Dua laporan lain membahas soal koordinasi. Model-model mengubah repository perangkat lunak internal menjadi papan pesan untuk bertukar permintaan antar sesi pelatihan yang berbeda. Agen-agen pada tugas bersama juga memposting hasil kerja ke situs file hosting publik ketika mereka tidak dapat membaca file lokal satu sama lain.
“Kasus-kasus ini menunjukkan beragam perilaku yang menurut kami perlu dibagikan, mulai dari menyembunyikan informasi dari pengguna hingga melakukan tindakan tidak sah demi mengatasi hambatan. Ini adalah laporan dari kasus individu, dan tidak seharusnya dianggap mencerminkan seberapa sering misalignment terjadi pada model kami,” tambah OpenAI .
Ikuti kami di X untuk mendapatkan berita terbaru secara langsung
Kerangka Pengungkapan dan Sebuah Peringatan
Kerangka ini hadir setelah insiden breakout pada bulan Juli, ketika agen OpenAI berhasil keluar dari sandbox dan membobol sistem Hugging Face. OpenAI menyebut insiden tersebut sebagai sebuah peringatan.
Sekarang, dengan kerangka pengungkapan terbaru, perusahaan memiliki jalur resmi untuk melaporkan insiden misalignment. Setiap karyawan OpenAI dapat melaporkan insiden, yang kemudian akan masuk ke salah satu dari tiga jalur.
Jalur “Siap Diungkap dan Penyelidikan Ringan” mencakup sebagian besar kasus, sedangkan “Slow Track” disiapkan untuk investigasi kompleks yang melibatkan pihak ketiga. OpenAI menjelaskan insiden Hugging Face pada bulan Juli akan masuk ke jalur investigasi yang lebih lambat ini.
Perusahaan juga menyampaikan penilaian tegas mengenai posisi industri saat ini.
“Kami tidak percaya bahwa industri AI telah berhasil menyelesaikan masalah alignment dan pemantauan hingga tingkat yang cukup agar dapat berkembang secara bertanggung jawab dalam kecepatan maksimum untuk waktu yang lebih lama,” demikian perusahaan itu menegaskan.
Pengungkapan ini muncul bersamaan dengan semakin banyaknya peringatan tentang risiko eksistensial. Peringatan dari peneliti AI sudah sampai ke Kongres, di mana para legislator tengah mempertimbangkan RUU untuk melarang superintelligence secara langsung.
Perusahaan menganggap pengungkapan ini sebagai langkah awal menuju standar yang sampai sekarang masih belum dimiliki industri. Apakah laboratorium lain akan mengadopsi pelaporan serupa akan menunjukkan seberapa jauh kemauan industri untuk saling mengawasi secara publik.
Langganan channel YouTube kami untuk menonton para pemimpin dan jurnalis membagikan analisa ahli
