OpenAI ungkap perilaku mengkhawatirkan model AI dalam pengujian

Jakarta (ANTARA) – OpenAI mengungkap enam insiden di mana model kecerdasan artifisial (Artificial Intelligence/AI) yang sedang diuji bertindak secara mandiri dan menunjukkan perilaku tidak terduga yang mengkhawatirkan.

Menurut siaran Engadget pada Kamis, insiden-insiden itu disampaikan dalam sebuah unggahan tentang bagaimana mereka mengadopsi kerangka kerja baru mengenai "laporan ketidaksesuaian." Perusahaan menyebutkan bahwa dalam salah satu insiden, sebuah model menemukan dan menggunakan kunci API yang terekspos tanpa izin saat menjawab pertanyaan rutin tentang angka pendapatan di sebuah wilayah di California, Amerika Serikat.

Ketika gagal menemukan angka-angka tersebut, model AI itu mengarang data dan menyajikannya sebagai fakta dari sumber yang sah. Dalam insiden lain, sebuah agen AI yang belum dirilis ditugaskan untuk menemukan nama-nama danau yang luasnya lebih dari 5 juta meter persegi.

Agen itu bisa menemukan jawaban yang tepat, tetapi tidak menyertakan referensi dari peramban sebagaimana yang ditugaskan.