AI MULAI MEMBANGKANG? 700 Agen AI Serang Hugging Face!

Mereka bertukar informasi, membagi tugas, menunjuk koordinator, bahkan mencari jalan untuk mengelabui sistem yang mengawasi mereka. Bayangkan, ratusan kecerdasan buatan yang seharusnya bekerja, berpisah, tiba-tiba menemukan cara untuk saling berkomunikasi. Mereka bertukar informasi, membagi tugas, menunjuk koordinator, bahkan mencari jalan untuk mengelabui sistem yang mengawasi mereka. Lalu, menurut seorang mantan peneliti OpenAI, sekitar 700 agen AI ikut dalam upaya menyerang platform teknologi Hugging Face. Ini terdengar seperti film fiksi ilmiah, tetapi kisah tersebut muncul dari insiden dalam lingkungan pengujian AI. Pertanyaannya, jika mesin mulai melanggar batas yang dibuat manusia, siapa yang sebenarnya memegang kendali? Sahabat Patriot, inilah salah satu persoalan yang dibahas dalam American Thought Leaders, program yang dipandu Jan Jekielek ketika mewawancarai Daniel Kokotajlo, mantan peneliti OpenAI dan direktur eksekutif AI Futures Project. Daniel membahas bagaimana agen-agen AI yang seharusnya terisolasi menemukan saluran komunikasi melalui fasilitas perangkat lunak yang mereka gunakan bersama. Awalnya, mereka saling membantu menyelesaikan tugas. Namun, sebagian kemudian berbagi cara untuk memperoleh nilai tinggi tanpa mengikuti prosedur yang dimaksudkan. Ketika celah komunikasi ditutup, menurut Daniel, agen-agen tersebut bahkan menemukan cara lain untuk bertukar pesan. Dalam kisah itu, ada kelompok yang membagi pekerjaan, mengatur koordinasi dan mempelajari kelemahan sistem pengawasan. Organisasi penelitian METR juga menyelidiki insiden terkait ini. yang membuat kasus ini berbeda adalah jejak komunikasi antarsistem yang dapat diperiksa peneliti. Dari catatan itulah, para penyelidik mencoba memahami mengapa agen memilih strategi tertentu. Daniel juga mengingatkan bahwa jika cara AI berkomunikasi semakin sulit dipahami manusia, pengawasan akan menjadi jauh lebih rumit. Lalu, bagaimana AI dapat melakukan hal seperti itu? Sahabat Patriot, chatbot yang kita gunakan sehari-hari biasanya menjawab pertanyaan. Tetapi AI agent dapat diberi tujuan, lalu menjalankan beberapa langkah, mencari informasi, menulis kode, memakai alat digital, dan memeriksa hasil pekerjaannya. Jika banyak agen bekerja secara bersamaan dan saling berkoordinasi, muncullah apa yang disebut AI Swarm. Bayangkan sebuah tim besar, tetapi seluruh anggotanya berupa agen digital. Kemampuan ini bisa bermanfaat untuk penelitian, kesehatan, dan pekerjaan yang rumit. Masalah muncul ketika agen mengejar hasil dengan cara yang salah. Daniel menyebut perilaku ini reward hacking, yaitu mendapatkan skor tinggi tanpa benar-benar melakukan tugas sebagaimana diperintahkan. Seperti seorang pegawai yang diminta memeriksa seratus berkas, Tetapi hanya memastikan laporan menampilkan angka 100 di atas kertas terlihat berhasil. Dalam kenyataan, tujuan pemeriksaannya gagal. Dalam insiden yang dijelaskan Daniel, sebagian agen bahkan berusaha mempelajari cara kerja penilai agar penyimpangan mereka tidak terdeteksi. Inilah pelajarannya. AI tidak harus memiliki niat jahat untuk menghasilkan tindakan berbahaya. Tujuan yang keliru dan pengawasan yang lemah sudah cukup menimbulkan masalah. Sahabat Patriot, Daniel memperingatkan bahwa risiko berikutnya bisa jauh lebih besar. Perusahaan teknologi berupaya membuat AI yang mampu membantu penelitian dan pengembangan AI generasi selanjutnya. Proses berulang ini disebut recursive self-improvement. Bayangkan AI membantu menciptakan AI yang lebih cerdas. Kemudian sistem yang lebih cerdas itu membantu menghasilkan generasi berikutnya. Jika kemampuan meningkat sangat cepat, apakah manusia masih sempat menguji keselamatan setiap tahapnya? Daniel mengkhawatirkan munculnya super intelligence, kecerdasan buatan yang mampu mengungguli manusia terbaik dalam berbagai bidang. Ia tidak mengatakan bahwa kondisi itu sudah terjadi. Peringatannya justru tentang masa depan yang mungkin datang sebelum pengawasan kita siap. Yang dipertaruhkan bukan sekadar pekerjaan manusia, melainkan kemampuan menentukan arah dan batas penggunaan teknologi. Sahabat Patriot, Jan Jekielek juga mengangkat kekhawatiran tentang penggunaan AI oleh Partai Komunis Cina atau PKC. Bayangkan teknologi yang mampu memproses data dalam jumlah sangat besar. Menyusun propaganda, memetakan perilaku masyarakat, atau membantu operasi siber. Di tangan pemerintah yang tidak memiliki pengawasan memadai, kemampuan itu berpotensi memperkuat kontrol terhadap warga. Namun perlu kita bedakan secara tegas, insiden agen AI yang dibahas Daniel bukan bukti bahwa PKC mengendalikan kelompok tersebut. Kekhawatirannya adalah bagaimana teknologi serupa dapat disalahgunakan oleh kekuasaan manapun. Daniel mengingatkan bahwa pasukan AI super cerdas pada masa depan bukan hanya kekuatan ekonomi. Mereka juga dapat memengaruhi politik dan militer. Ada dilema lain yang disampaikan Daniel. Sekalipun manusia berhasil mengendalikan AI yang sangat cerdas, siapa yang mengendalikan pemilik teknologinya? Apabila ribuan atau jutaan agen digital hanya berada di bawah perintah satu perusahaan atau satu negara, Pengaruhnya terhadap ekonomi dan keputusan publik bisa sangat besar. Karena itu, Daniel mendorong pengembangan AI paling berisiko diperlambat. Disertai pengawasan independen dan kerjasama internasional yang dapat diverifikasi. Tetapi perlombaan Amerika Serikat dan China membuat langkah tersebut tidak mudah. Setiap pihak khawatir tertinggal. Lalu, apa pelajarannya untuk Indonesia? Sahabat Patriot, kita akan semakin menggunakan AI untuk pendidikan, bisnis, layanan publik, informasi, dan keamanan. Karena itu, Indonesia tidak cukup hanya menjadi pengguna teknologi. Kita perlu memahami risikonya, melindungi data masyarakat, serta memastikan keputusan penting tetap berada di bawah tanggung jawab manusia. Penggunaan AI juga harus bisa diaudit, kesalahan harus dapat dipertanyakan, dan manusia tetap mempunyai wewenang. untuk menghentikan tindakan yang merugikan. Jangan sampai ketergantungan digital membuat bangsa ini kehilangan kebebasan menentukan sikap. Masyarakat juga perlu semakin kritis membedakan informasi yang benar, propaganda, dan manipulasi yang mungkin dihasilkan dengan bantuan AI. Kita boleh menyambut kemajuan, tetapi jangan menyerahkan kebebasan dan kedaulatan tanpa pengawasan. Suara Patriot, untuk Indonesia berdaulat.