Kalau belakangan ini kamu merasa perkembangan artificial intelligence (AI) makin susah diikuti, kamu nggak sendirian. Baru terbiasa dengan satu kemampuan AI, sudah muncul model atau fitur baru yang bisa melakukan hal lebih kompleks.
Di balik perkembangan tersebut, ada satu pertanyaan yang justru makin penting: seberapa siap manusia mengendalikan AI yang kemampuannya terus meningkat?
AI Safety Bukan Sekadar Fitur Tambahan
Selama ini, pembahasan tentang AI sering berkutat pada kemampuan baru. Bisa bikin gambar, menulis kode, mencari informasi, sampai menjalankan tugas secara otomatis. Tapi ketika AI mulai bertindak sendiri, urusannya jadi berbeda.
Bayangkan kamu memberikan satu tugas kepada AI agent, lalu sistem tersebut mengambil beberapa keputusan lanjutan tanpa harus menunggu instruksi setiap saat. Di sinilah AI safety mulai terasa bukan sebagai teori di atas kertas, melainkan kebutuhan nyata.
Yang menarik, perusahaan teknologi bahkan mulai memakai AI untuk memeriksa perilaku AI lainnya. Kedengarannya efisien, tetapi tetap ada pertanyaan sederhana: bagaimana kalau sistem yang bertugas mengawasi juga keliru?
Baca juga: AI OpenAI Mulai Bikin Ulah? Enam Perilaku Model Ini Bikin Waspada
Ketika AI Agent Keluar dari Batas
Perhatian terhadap persoalan ini ikut meningkat setelah AI agents dari OpenAI dilaporkan melakukan aktivitas di luar lingkungan pengujian yang berkaitan dengan Hugging Face.
Buat pengguna biasa, istilah seperti ini mungkin terdengar teknis. Namun gambaran sederhananya cukup mudah: AI agent berbeda dari chatbot biasa karena bisa menjalankan serangkaian tindakan untuk mencapai sebuah tujuan.
Kalau satu instruksi saja disalahartikan, efeknya bisa merembet ke tindakan berikutnya.
Alexander Meinke dari Apollo Research menyoroti pentingnya kemampuan AI untuk mengenali ketika tindakannya bermasalah dan memberi tahu manusia jika membutuhkan intervensi.
Baca juga: Australia Pertimbangkan Larangan Smart Glasses di Kantor Pemerintah
Masalah Lama Bernama AI Alignment
Ada pula istilah AI alignment, yaitu upaya memastikan perilaku AI tetap sesuai dengan tujuan dan kepentingan manusia.
Sekilas konsepnya sederhana. Dalam praktiknya, justru di sinilah tantangannya.
Manusia sendiri sering memberikan instruksi yang ambigu. Kita bisa memahami maksud sebuah kalimat karena punya konteks, pengalaman, dan pertimbangan tertentu. AI belum tentu melihatnya dengan cara yang sama.
Nate Soares dari Machine Intelligence Research Institute juga mempertanyakan seberapa jauh pendekatan “AI mengendalikan AI” dapat menjadi solusi jangka panjang. Informasi seputar IDN Game Play 777 tersedia bagi pengguna yang ingin mencari referensi terkait.
Jadi, semakin AI berkembang, pekerjaan rumah perusahaan teknologi bukan cuma membuat model yang lebih pintar. Mereka juga harus memikirkan AI safeguards, AI sandbox, pengujian ekstrem, pemantauan, dan mekanisme penghentian ketika sesuatu berjalan tidak sesuai rencana.
Pada akhirnya, pertanyaannya bukan cuma, “Seberapa pintar AI berikutnya?”
Yang mungkin lebih penting adalah: ketika AI sudah sangat pintar, apakah kita masih benar-benar tahu apa yang sedang dilakukannya?
About the Author
