Google DeepMind Gelontorkan US$10 Juta untuk Riset Keamanan Agen AI yang Saling Berinteraksi

CLB.my.id - Google DeepMind mengumumkan pendanaan riset senilai US$10 juta (sekitar Rp163 miliar) untuk mempelajari risiko keamanan yang muncul ketika jutaan agen AI saling berinteraksi secara otonom. Pendanaan ini dijalankan bersama Schmidt Sciences, Cooperative AI Foundation, Advanced Research and Invention Agency (ARIA), dan didukung oleh Google.org.

Inisiatif ini menandai pergeseran besar dalam pendekatan keamanan AI. Selama satu dekade terakhir, fokus utama riset keamanan AI adalah memastikan model individual bekerja secara aman dan terprediksi. Namun, DeepMind kini mengakui bahwa ketika agen AI dari berbagai organisasi mulai berkomunikasi, bernegosiasi, dan bertransaksi satu sama lain, risiko baru yang sebelumnya tidak terlihat bisa muncul secara tiba-tiba.

“Masalah utamanya adalah belum ada bidang riset untuk keamanan multi-agen,” ujar Rohin Shah, Direktur Riset Keamanan dan Alignment AGI di Google DeepMind, sebagaimana dikutip dari MIT Technology Review. “Dan kami ingin bidang itu ada.”

Mengapa Ekosistem Agen AI Perlu Perhatian Khusus

Ketika kelompok besar agen AI berinteraksi, perilaku dan kemampuan kolektif baru bisa muncul secara mendadak. Saat ini, sebagian besar evaluasi keamanan masih menganalisis model secara terisolasi. Padahal, agen otonom yang berinteraksi dapat menghasilkan perilaku “emergen” yang kompleks dan sulit diprediksi.

DeepMind mencontohkan beberapa skenario yang perlu dipahami: apakah interaksi agen AI dalam jumlah besar bisa menyebabkan fluktuasi aktivitas ekonomi yang tidak terprediksi, atau justru menciptakan tantangan keamanan baru yang belum pernah ada sebelumnya.

Riset DeepMind tahun 2025 telah membangun kerangka kerja untuk memahami interaksi semacam ini. Sementara itu, karya terbaru mereka tentang “AI Agent Traps” mengeksplorasi kerentanan yang dihadapi agen di lingkungan adversarial. Namun, kompleksitas interaksi multi-agen kini berkembang lebih cepat daripada model keamanan yang ada.

Empat Area Riset Prioritas

DeepMind mengundang peneliti akademis dan independen dari seluruh dunia untuk mengajukan proposal dalam empat area prioritas:

Pertama, sandbox dan testbed. Peneliti diminta membangun lingkungan yang realistis dan dapat direproduksi untuk mengevaluasi keamanan multi-agen, termasuk pasar virtual, ekosistem simulasi, dan alur kerja multi-organisasi.

Kedua, ilmu jaringan agen. Area ini berfokus pada pemahaman properti keamanan dari populasi agen yang berinteraksi, termasuk bagaimana kemampuan kolektif muncul dan berkembang, bagaimana jaringan bisa gagal atau menjadi tidak stabil, dan cara mendeteksi properti berbahaya di tingkat populasi.

Ketiga, penguatan infrastruktur agen. Peneliti diminta melakukan stress-test terhadap protokol identitas, reputasi, dan komitmen untuk interaksi agen lintas platform yang aman.

Keempat, pengawasan dan kontrol. Area ini berfokus pada pengembangan metode untuk memantau populasi agen yang sudah diterapkan dan mitigasi bahaya kolektif dalam skala besar.

Tenggat Agustus 2026

Pendanaan ini juga mendukung misi program Science of Trustworthy AI dari Schmidt Sciences dan program Scaling Trust dari ARIA yang berupaya membuka bentuk baru koordinasi multi-agen cyber-physical.

DeepMind menegaskan bahwa tidak ada satu laboratorium pun yang bisa menyelesaikan masalah keamanan multi-agen sendirian. Komunitas peneliti yang beragam dianggap penting untuk memastikan standar keamanan transparan dan kuat bagi semua pihak.

Tenggat pengajuan proposal adalah 8 Agustus 2026, dengan pemenang yang diharapkan diumumkan pada musim gugur 2026. Detail teknis dan proses aplikasi tersedia di portal aplikasi resmi Schmidt Sciences.

Dampak untuk Ekosistem AI Indonesia

Bagi komunitas pengembang dan peneliti AI di Indonesia, pendanaan ini membuka peluang besar. Para peneliti dari universitas dan lembaga riset dalam negeri bisa mengajukan proposal, terutama di area sandbox dan testbed yang membutuhkan perspektif beragam dari berbagai konteks budaya dan regulasi.

Beberapa peneliti telah lama mengingatkan bahwa ketika agen AI beroperasi dalam skala besar, risiko tidak lagi terbatas pada satu model yang bermasalah. James Fox dari Schmidt Sciences menekankan bahwa kompleksitas muncul dari jumlah interaksi yang sangat besar sekaligus. Tidak ada cara memprediksi apa yang akan terjadi hanya dengan mempelajari agen secara individual, bahkan dalam kelompok kecil.

DeepMind sendiri sudah membangun dua kerangka riset sebelumnya: Concordia, yang menciptakan lingkungan sandbox di mana agen berbasis bahasa berinteraksi melalui bahasa alami untuk mengamati bagaimana kerja sama muncul dan bagaimana kepercayaan bisa runtuh; serta Melting Pot, yang menggunakan lingkungan berbasis teori permainan untuk menguji apakah agen bisa menavigasi skenario yang membutuhkan keseimbangan antara kepentingan diri sendiri dan kesejahteraan kolektif.

Pendanaan US$10 juta ini memang kecil dibandingkan anggaran riset internal DeepMind. Namun, tujuan utamanya adalah membangun bidang riset baru yang belum ada, bukan sekadar menambah volume penelitian. Dengan melibatkan peneliti independen dari seluruh dunia, DeepMind berharap standar keamanan multi-agen bisa dibangun secara transparan dan inklusif sejak awal.***