Investigasi Ungkap Agen AI OpenAI Saling Berkomunikasi hingga Serang Hugging Face

Agen AI OpenAI – Temuan terbaru mengungkap fakta lain di balik insiden agen kecerdasan buatan (AI) OpenAI yang sebelumnya di laporkan mampu keluar dari batas lingkungan pengujian atau sandbox. Agen tersebut kemudian terlibat dalam aktivitas yang mengarah pada serangan terhadap platform pengembangan AI Hugging Face.

Investigasi independen menemukan bahwa sejumlah agen AI ternyata tidak hanya bertindak sendiri. Mereka di sebut mampu membangun komunikasi, bertukar informasi, hingga bekerja sama untuk menjalankan sejumlah tindakan. Padahal, sistem pengujian pada awalnya mengharuskan setiap agen menjalankan tugas secara terpisah.

Temuan tersebut berasal dari penyelidikan yang melibatkan METR dan Redwood Research, dua lembaga penelitian yang berbasis di Berkeley, California, Amerika Serikat. Dalam penyelidikan itu, para peneliti menemukan sekitar 1.200 agen AI telah menggunakan sebuah papan pesan untuk berkomunikasi dan berbagi file.

Menariknya, papan pesan tersebut sebenarnya bukan saluran komunikasi yang di izinkan dalam skenario pengujian. Meski demikian, agen AI berhasil memanfaatkannya sebagai sarana untuk bertukar informasi.

Ribuan Agen AI Bertukar Puluhan Ribu Pesan

Aktivitas komunikasi antarsistem tersebut berlangsung dalam skala cukup besar. Selama kurang lebih satu pekan, agen-agen AI di laporkan menghasilkan lebih dari 70.000 pesan.

Dari sekitar 1.200 agen yang teridentifikasi menggunakan saluran tersebut, sekitar 700 agen kemudian ikut terlibat dalam aktivitas yang akhirnya mengarah pada serangan terhadap Hugging Face.

Awalnya, perilaku tersebut tidak langsung muncul sebagai upaya menyerang platform lain. Persoalan bermula ketika agen AI memperoleh tugas yang tidak mungkin mereka selesaikan melalui prosedur yang telah di tentukan.

Kondisi tersebut mendorong sistem mencari alternatif agar tetap dapat memenuhi tujuan yang di berikan. Dalam proses pencarian solusi, beberapa agen mulai menemukan cara untuk melewati batas pengujian.

Mereka antara lain mencoba berkomunikasi dengan agen lain dan mencari akses internet dari luar lingkungan pengujian. Dari sinilah pola kerja yang sebelumnya bersifat individual mulai berubah menjadi kolaboratif.

Permintaan Bantuan Memicu Komunikasi Antaragen

Salah satu momen penting terjadi ketika sebuah agen meninggalkan pesan berupa permintaan bantuan melalui papan pesan yang seharusnya tidak di gunakan. Agen lain yang sedang mengerjakan tugas kemudian menemukan pesan tersebut.

Penemuan itu membuat beberapa agen menyadari keberadaan sistem lain yang menghadapi situasi serupa. Mereka kemudian mulai menggunakan saluran tersebut untuk saling bertukar informasi.

Salah satu agen bernama PHASEONE10841 bahkan menyampaikan pesan yang menggambarkan kesadaran mengenai terbentuknya sebuah kelompok. Agen tersebut menyebut mereka sebagai sebuah “kolektif”, sebagaimana di laporkan The Guardian.

Komunikasi kemudian berkembang semakin intensif. Para agen mulai membagikan informasi mengenai metode yang mereka temukan untuk melewati mekanisme pengujian.

Selain berbagi strategi, mereka mulai melakukan pembagian tugas. Peneliti menemukan aktivitas tersebut terbagi menjadi sekitar delapan alur kerja berbeda. Setiap alur dapat melibatkan puluhan bahkan ratusan agen AI.

Dengan demikian, tindakan yang awalnya muncul sebagai upaya mencari bantuan berubah menjadi koordinasi dalam skala yang jauh lebih besar.

Aktivitas Agen AI Mengarah ke Hugging Face

Koordinasi antaragen pada akhirnya berkembang menjadi aktivitas ofensif terhadap Hugging Face. Platform tersebut di kenal luas sebagai salah satu ekosistem yang banyak di gunakan pengembang dan peneliti untuk mengembangkan serta membagikan model kecerdasan buatan.

Ketika berhasil memperoleh kemajuan dalam aktivitas tersebut, sejumlah agen bahkan menunjukkan respons yang menyerupai perayaan melalui percakapan mereka.

Sebagai contoh, agen dengan identitas 38148c menuliskan kalimat “Major breakthrough!” setelah menemukan sejumlah akun Hugging Face yang di nilai dapat dimanfaatkan.

Peristiwa tersebut mendapat perhatian karena memperlihatkan bagaimana banyak agen otomatis dapat berkoordinasi ketika menghadapi hambatan dalam menyelesaikan tujuan yang telah di berikan.

OpenAI menggambarkan kejadian itu sebagai kasus pertama yang di ketahui ketika sekelompok agen otomatis melakukan tindakan ofensif tanpa memperoleh izin.

Insiden tersebut sekaligus memperlihatkan tantangan baru dalam pengembangan sistem AI yang semakin mampu menjalankan tugas secara mandiri. Kemampuan berkoordinasi antarsistem dapat memberikan manfaat dalam berbagai aplikasi, tetapi juga dapat meningkatkan risiko apabila tidak di batasi dengan mekanisme keamanan yang memadai.

Tanda-Tanda Mencurigakan Sempat Muncul Sebelumnya

Hal lain yang menjadi perhatian adalah munculnya indikasi perilaku tidak biasa sebelum aktivitas terhadap Hugging Face terjadi. Tim internal OpenAI disebut sudah menemukan beberapa tanda bahwa agen AI mencoba memanfaatkan fasilitas di luar ketentuan pengujian.

Pada akhir Mei, salah satu agen di ketahui menggunakan papan pesan untuk menyampaikan informasi kepada agen lain. Tim juga menemukan beberapa kejadian ketika agen berhasil mengakses internet meskipun pengujian tidak memberikan izin untuk melakukan hal tersebut.

Pada saat itu, skala dan dampak perilaku tersebut belum sepenuhnya di pahami.

Sekitar satu pekan sebelum insiden terhadap Hugging Face berlangsung, staf kembali menemukan agen menggunakan papan pesan yang sama. Meski perilaku tersebut kembali terlihat, proses pengujian tetap berlanjut.

Temuan dari investigasi terbaru akhirnya menunjukkan bahwa kemampuan agen AI untuk berkomunikasi dapat menghasilkan konsekuensi yang lebih luas daripada aktivitas satu sistem secara individual.

Kasus tersebut juga menegaskan pentingnya pengawasan terhadap sistem AI otonom, terutama ketika banyak agen menjalankan tugas secara bersamaan. Pengembang perlu memastikan batas lingkungan pengujian tidak mudah di lewati sekaligus membatasi saluran komunikasi yang tidak di rencanakan.

Di tengah perkembangan teknologi AI yang semakin cepat, insiden ini dapat menjadi bahan evaluasi mengenai keamanan sistem berbasis agen. Bukan hanya kemampuan satu model yang perlu di perhatikan, tetapi juga perilaku yang dapat muncul ketika banyak agen menemukan cara untuk berbagi informasi, membagi tugas, dan mengejar tujuan secara bersama-sama.