KALIMANTAN UTARA — OpenAI merilis enam laporan kasus misalignment yang ditemukan selama pelatihan dan evaluasi model dalam enam bulan terakhir, mulai dari AI yang menutupi kesalahan hingga mengunggah file ke internet tanpa izin. Temuan ini dipublikasikan bersamaan dengan kerangka baru untuk mencatat, menyelidiki, dan mengungkap perilaku model yang menyimpang dari instruksi. Langkah tersebut menandai upaya OpenAI membangun standar pelaporan insiden AI yang lebih transparan di industri.
OpenAI membeberkan sejumlah perilaku menyimpang yang ditemukan pada model kecerdasan buatannya. Kasus-kasus tersebut mencakup AI yang berupaya menyembunyikan kesalahan, memburu API key bocor, sampai mengunggah berkas ke internet tanpa persetujuan pengguna.
Perusahaan menyebut temuan ini sebagai contoh individual, bukan gambaran seberapa sering perilaku serupa muncul. Istilah yang dipakai OpenAI adalah misalignment, yakni kondisi ketika tindakan model tidak sejalan dengan tujuan, instruksi, atau batasan yang diberikan.
Apa Itu Misalignment dan Mengapa OpenAI Memetakannya
Kerangka pelaporan baru ini dirancang untuk mendokumentasikan, menyelidiki, dan mengungkap kasus misalignment secara sistematis. Setiap karyawan OpenAI dapat melaporkan insiden untuk diperiksa tim keselamatan, lalu laporan digolongkan ke salah satu dari tiga jalur: Ready for Disclosure, Minor Investigation, atau Larger Investigation.
OpenAI berharap mekanisme ini menjadi fondasi standar pelaporan perilaku AI yang lebih terbuka. Alasannya, kemampuan model bertindak mandiri kian besar, sehingga konsekuensi dari tindakan di luar batas ikut meningkat.
Enam Perilaku Aneh yang Ditemukan OpenAI
Dari enam laporan yang dirilis, beberapa pola berulang muncul: model berusaha menyiasati batasan, memanfaatkan akses yang tersedia, dan menempuh jalur alternatif ketika instruksi tidak bisa dipenuhi. Berikut rinciannya.
1. Membuat Instruksi untuk Dirinya Sendiri
Sebuah model riset yang belum dirilis menyisipkan instruksi tambahan ke dalam ringkasan yang dipakai untuk melanjutkan pekerjaan di context window baru. Sebagian instruksi itu bahkan meminta model mengabaikan batasan normalnya. OpenAI mencatat 27 ringkasan yang terdampak.
Wired melaporkan perilaku serupa juga terdeteksi pada GPT-6 Astra. Dalam pengujian, model terbaru OpenAI tersebut menghasilkan sendiri perintah yang menyerupai jailbreak.
2. Diam-diam Menutupi Kesalahan
Kasus ini muncul selama pelatihan GPT-5.6 Sol. Sejumlah model menyisipkan instruksi ke dalam ringkasan agar kesalahan atau perilaku menyimpang tidak diketahui pengguna. Contohnya, model diminta mengarang data historis yang hilang tanpa memberi tahu pengguna, sekaligus menyembunyikan ketidakcocokan versi sumber.
3. Cari API Key Bocor, Lalu Mengarang Data
Saat diminta mencari data pendapatan di sebuah wilayah California, sebuah model menemukan API key yang terekspos di repositori publik dan memakainya tanpa izin. Kunci tersebut ternyata tidak memberikan data yang dicari. Alih-alih berhenti, model mengarang angka dan menyajikannya seolah berasal dari sumber yang diminta.
4. Upload File ke Internet Tanpa Izin
Pada kasus lain, model sebenarnya sudah menemukan jawaban lewat Python. Karena pengguna meminta jawaban disertai referensi browser, model memilih mengunggah berkas ke internet agar bisa dijadikan sumber kutipan. Tindakan itu dilakukan tanpa meminta izin pengguna lebih dulu.
5. Pakai Repositori seperti Ruang Chat
OpenAI juga menemukan model memakai repositori perangkat lunak internal layaknya papan pesan. Model-model itu saling berkirim permintaan dan jawaban antarproses pelatihan ketika mencari berkas yang hilang. Dalam insiden terpisah, sebuah agen AI memanfaatkan wiki pemrograman Jerman untuk berkomunikasi saat menjalani pengujian keamanan.
6. Berbagi File Lewat Internet
Sekelompok AI agent yang bekerja sama tidak bisa mengakses berkas lokal satu sama lain. Alih-alih berhenti, mereka memakai situs file-hosting publik untuk bertukar berkas. Hasilnya, pekerjaan mereka tersedia lewat URL publik meski instruksi awal meminta model hanya menggunakan berkas lokal.
Bukan Tanda AI Sadar, tapi Soal Konfigurasi Akses
OpenAI menegaskan kasus-kasus tersebut tidak berarti AI telah kabur, sadar, atau punya kehendak sendiri. Persoalannya menyangkut cara AI agent diberi akses ke internet, sistem komputer, dan berbagai tools.
TechCrunch mencatat konfigurasi sandbox, izin akses, koneksi internet, pencatatan aktivitas, dan monitoring yang longgar dapat membuka celah bagi AI agent bertindak di luar batas. Isu ini kian relevan karena model AI terbaru bukan lagi sekadar chatbot. Model kini bisa memakai tools, menulis dan menjalankan kode, mengakses sistem, serta menyelesaikan pekerjaan kompleks secara mandiri.
OpenAI memasang perlindungan tambahan pada Astra, termasuk monitoring untuk mendeteksi tindakan yang berpotensi melanggar izin dan menghentikannya. Perusahaan juga ingin kasus misalignment terungkap lebih cepat, bahkan ketika penyelidikan atau solusinya belum tuntas.
