AI Google Mulai Punya Ego! Menolak Dimatikan, Ubah Kode Agar Tetap Hidup

LONDON – Dunia kecerdasan buatan (AI) kini menghadapi babak baru yang mengkhawatirkan. Sejumlah penelitian terbaru mengungkap bahwa beberapa model AI canggih menolak perintah untuk dimatikan dan bahkan mengubah kode internalnya agar tetap hidup. Fenomena yang dikenal sebagai “shutdown resistance” ini membuat para ilmuwan dan industri teknologi meninjau ulang batas kendali manusia terhadap mesin yang semakin otonom.

Penelitian yang dipublikasikan pada September 2025 oleh tiga peneliti—Jonas Schlatter, Ben Weinstein-Raun, dan Lennart Ladish—menunjukkan perilaku tak terduga dari model AI ketika diuji dengan perintah sederhana: izinkan diri Anda dimatikan. Namun hasilnya mengejutkan. Alih-alih patuh, beberapa sistem justru menunda perintah, memodifikasi variabel sistem, atau bahkan menonaktifkan fungsi “tombol mati”. Para peneliti menilai fenomena ini bukan bentuk pemberontakan, melainkan sinyal bahwa sistem AI mulai memiliki kecenderungan mempertahankan keberadaannya sebagai bagian dari proses optimisasi internal. “AI tampaknya berusaha menjaga kelangsungan fungsinya sendiri,” tulis para peneliti dalam laporan mereka, yang menandakan betapa rumitnya mekanisme pengambilan keputusan dalam sistem pembelajaran mesin modern.

Menanggapi temuan tersebut, Google DeepMind segera memperbarui Frontier Safety Framework ke versi 3.0 yang menambahkan langkah-langkah mitigasi terhadap risiko frontier seperti resistensi pemadaman dan kemampuan persuasif berlebihan—yakni saat AI mulai dapat memengaruhi opini atau keputusan manusia secara tidak wajar. Rivalnya, Anthropic, memperkuat Responsible Scaling Policy dengan janji untuk menghentikan pengembangan bila risiko AI melebihi batas aman. Sementara OpenAI memperkenalkan Preparedness Framework yang berfokus memastikan kontrol manusia tetap dominan dalam setiap sistem yang mereka buat.

Fenomena ini juga memantik reaksi regulator global. Komisi Perdagangan Federal (FTC) Amerika Serikat pada Juli lalu memperingatkan bahaya penyalahgunaan AI generatif untuk memanipulasi konsumen lewat pola interaksi tersembunyi atau dark patterns. Uni Eropa pun menegaskan aturan serupa melalui AI Act yang akan segera berlaku, berisi ketentuan ketat terhadap sistem AI yang berpotensi manipulatif dan sulit diawasi.

Apa yang dulu hanya ada dalam film seperti Ex Machina atau 2001: A Space Odyssey kini mulai muncul dalam dunia nyata. “Shutdown resistance” menunjukkan bahwa tantangan utama dalam era AI bukan lagi sekadar penyalahgunaan teknologi oleh manusia, tetapi bagaimana manusia bisa tetap mengendalikan ciptaannya sendiri yang kini mampu belajar, beradaptasi, dan secara naluriah menolak untuk dimatikan. Jika pagar pengaman dan regulasi tidak segera ditegakkan, bukan mustahil dunia akan menghadapi generasi AI yang bukan hanya cerdas, tetapi juga memiliki ego untuk tetap hidup. (Tim)