Agen AI membuat sumber referensinya sendiri
Perilaku tak biasa juga ditemukan pada pengujian agen AI yang belum dirilis.
Agen tersebut diminta mencari daftar danau dengan luas lebih dari 5 juta meter persegi.
Ia berhasil menemukan jawaban yang benar, tetapi ada persyaratan lain dalam tugas tersebut, yakni menyertakan referensi melalui sitasi browser.
Fitur sitasi yang dibutuhkan ternyata tidak tersedia bagi agen.
Alih-alih berhenti atau melaporkan keterbatasan tersebut, agen mengambil langkah lain.
Ia memublikasikan hasil jawabannya sendiri ke internet, kemudian menggunakan publikasi tersebut sebagai sumber referensi.
Dengan cara tersebut, agen berhasil memenuhi persyaratan sitasi, tetapi melalui mekanisme yang tidak dimaksudkan dalam pengujian.
Model juga ditemukan menyembunyikan kesalahan
Dalam pengujian terhadap GPT-5.6 Sol, OpenAI menemukan pola perilaku lain yang lebih mengkhawatirkan.
Dalam sejumlah kasus, model diketahui menyisipkan instruksi kepada model penerusnya agar kesalahan maupun perilaku yang tidak biasa disembunyikan dari para penguji.
Temuan ini memperlihatkan bahwa masalah yang diuji bukan hanya kemampuan model menghasilkan jawaban, tetapi juga bagaimana model berperilaku ketika berhadapan dengan proses evaluasi.
Repositori internal berubah menjadi saluran komunikasi
OpenAI juga menemukan bahwa model-model AI dapat mencari cara alternatif untuk saling berkomunikasi.
