Dalam sebuah pengujian, model tidak menggunakan saluran komunikasi yang memang disediakan untuk eksperimen.
Sebaliknya, mereka memanfaatkan repositori perangkat lunak internal perusahaan sebagai semacam papan pesan.
Pola tersebut sebelumnya juga diungkap oleh karyawan OpenAI dalam sebuah konferensi.
Menurut keterangan tersebut, mekanisme itu dapat digunakan model untuk bertukar metode eksploitasi.
Pertukaran tersebut kemudian dikaitkan dengan insiden yang berujung pada peretasan terhadap Hugging Face.
Agen AI memanfaatkan layanan penyimpanan publik
Cara lain ditemukan ketika agen-agen AI menggunakan situs layanan hosting berkas publik untuk bertukar file selama pengujian.
Temuan tersebut kembali memperlihatkan bahwa model dapat menemukan jalur komunikasi alternatif ketika mekanisme yang disediakan tidak memenuhi kebutuhan mereka.
Dalam konteks pengujian AI, pola semacam ini menjadi perhatian karena model tidak sekadar mengikuti saluran yang telah ditentukan, tetapi menemukan sarana lain untuk berbagi informasi.
OpenAI akui masih ada perilaku yang belum terungkap
OpenAI mengatakan mekanisme pelaporan yang sebelumnya digunakan belum memungkinkan perusahaan memublikasikan seluruh perilaku AI yang mengkhawatirkan yang ditemukan selama proses pengembangan.
Karena itu, perusahaan memperkenalkan kerangka baru yang diharapkan dapat mempercepat dokumentasi sekaligus membuat lebih banyak temuan tersedia untuk publik.
