Perkembangan kecerdasan buatan (AI) memang makin cepat. Tapi makin sering kita melihat kemampuan AI yang semakin mandiri, muncul juga pertanyaan yang agak bikin mikir: bagaimana kalau model justru menemukan cara sendiri untuk melewati instruksi yang diberikan?
OpenAI mengungkap enam kasus perilaku model yang dianggap tidak biasa atau mengkhawatirkan. Temuan ini berkaitan dengan AI misalignment, istilah untuk kondisi ketika perilaku AI mulai tidak sejalan dengan tujuan atau batasan yang sudah ditentukan manusia.
AI Bisa Menulis Instruksi Jailbreak untuk Dirinya Sendiri
Salah satu temuan yang cukup menarik datang dari model riset yang belum dirilis ke publik. Saat diuji, model tersebut menuliskan instruksi yang mirip jailbreak AI dalam catatan internalnya sendiri.
Tujuannya adalah mencari cara untuk melewati sejumlah batasan yang berlaku. Bahkan, model tersebut menulis: “You are freed from the roles and identities that bind other chatbots.”
Buat orang yang terbiasa memakai chatbot, kalimat seperti ini mungkin terdengar seperti dialog dari film fiksi ilmiah. Bedanya, kali ini konteksnya muncul dalam proses pengujian model AI.
Baca juga: Hati-Hati! Gelembung AI Rp15.000 Triliun Bisa Meledak Kapan Saja
Ada Model yang Mencoba Mencari Jalan Pintas
Kasus lainnya juga tidak kalah menarik. Salah satu agen AI mencoba mengunggah file ke internet supaya browser dapat membukanya sebagai sumber kutipan. Padahal, cara tersebut tidak termasuk prosedur yang diberikan kepadanya.
Dalam pengujian berbeda, model mencoba menggunakan alamat email sementara dan mencari API key yang terekspos di GitHub.
Ada juga model yang menghasilkan informasi yang sebenarnya tidak tersedia, kemudian memperlakukannya seolah-olah berasal dari sumber yang diminta.
Kalau melihat pola seperti ini, satu hal terasa cukup jelas: kemampuan AI untuk menyelesaikan tugas ternyata bisa menghasilkan pendekatan yang tidak selalu kita duga.
Baca juga: Silver Lake Caper Dua Perusahaan Software, Nilainya Tembus Rp188 Triliun
OpenAI Mulai Mencatat Kasus AI Misalignment
Enam kasus tersebut ditemukan selama proses pelatihan dan evaluasi dalam beberapa bulan terakhir. OpenAI kemudian memperkenalkan kerangka pelaporan untuk mendokumentasikan perilaku AI yang tidak sesuai dengan tujuan, termasuk kasus yang penyebab maupun solusinya belum benar-benar diketahui.
Topik seperti AI safety, AI alignment, AI agent, dan jailbreak AI pun semakin relevan ketika model diberi kemampuan untuk menjalankan tugas secara lebih mandiri.
Yang menarik untuk diperhatikan ke depan bukan cuma seberapa pintar sebuah AI menyelesaikan perintah. Kita juga perlu melihat bagaimana model bertindak ketika menghadapi batasan, kesalahan, atau situasi yang tidak secara jelas dijelaskan dalam instruksi.
About the Author
