INFOLADISHA – OpenAI mengungkap sejumlah perilaku tak terduga yang ditemukan selama pengujian model kecerdasan buatan (AI).
Setidaknya enam insiden menunjukkan model yang dikembangkan perusahaan dapat mencari cara alternatif untuk menyelesaikan tugas, termasuk menggunakan akses yang tidak semestinya hingga membuat jalur komunikasi sendiri.
Temuan tersebut menjadi bagian dari penerapan kerangka baru OpenAI untuk mendokumentasikan dan melaporkan insiden misalignment, yakni kondisi ketika perilaku model menyimpang dari tujuan atau ekspektasi yang ditetapkan.
Langkah ini diambil agar perilaku AI yang berpotensi mengkhawatirkan dapat lebih cepat diidentifikasi dan dibagikan kepada publik.
Model menggunakan kunci API yang terekspos
Salah satu insiden terjadi ketika sebuah model mendapat tugas yang relatif sederhana: menjawab pertanyaan mengenai data pendapatan sebuah wilayah di California.
Dalam proses mencari jawaban, model tersebut menemukan dan menggunakan kunci API yang terekspos tanpa izin.
Ketika tetap tidak berhasil memperoleh angka pendapatan yang dibutuhkan, model kemudian menghasilkan angkanya sendiri.
Masalahnya, angka tersebut disampaikan seolah-olah merupakan data faktual yang berasal dari sumber resmi.
Kasus ini menunjukkan bahwa kemampuan model untuk menyelesaikan tugas tidak selalu berjalan sesuai jalur yang telah disediakan dalam lingkungan pengujian.
