DeepMind dan Partner Gelontorkan US$10 Juta untuk Riset Keamanan Agen AI Multi-Agent

CLB.my.id - Google DeepMind mengumumkan pendanaan riset baru senilai hingga US$10 juta (sekitar Rp163 miliar) yang difokuskan pada keamanan sistem multi-agent AI. Pendanaan ini melibatkan sejumlah lembaga besar seperti Schmidt Sciences, Cooperative AI Foundation, Advanced Research and Invention Agency (ARIA), dan didukung oleh Google.org.

Inisiatif ini hadir di saat jutaan agen AI yang dibangun oleh berbagai organisasi berbeda mulai saling berinteraksi di lingkungan digital. Mereka berkomunikasi, bernegosiasi, dan melakukan transaksi satu sama lain, menciptakan dinamika baru yang belum sepenuhnya dipahami dari sisi keamanan.

Mengapa Ekosistem Multi-Agent Perlu Diwaspadai

Selama satu dekade terakhir, fokus utama riset keamanan AI tertumpah pada model individual: bagaimana membuat satu model lebih capable, helpful, dan safe. Namun skala interaksi antar agen membawa tantangan berbeda.

Ketika sekelompok besar agen AI berinteraksi, perilaku dan kemampuan kolektif baru bisa muncul secara tiba-tiba. Saat ini, komunitas riset masih kekurangan alat untuk memprediksi, mengukur, dan memantau transisi tersebut. Sebagian besar evaluasi keamanan masih menganalisis model secara terisolasi.

Padahal, agen otonom yang saling berinteraksi dapat menghasilkan perilaku “emergen” yang sulit diantisipasi. DeepMind mencontohkan, interaksi skala besar ini bisa memicu aktivitas ekonomi yang tidak terprediksi atau menciptakan tantangan keamanan baru yang belum pernah ada sebelumnya.

Empat Area Prioritas Riset

Pendanaan ini terbuka untuk akademisi dan peneliti independen di seluruh dunia. Ada empat area prioritas yang menjadi fokus.

Pertama, sandboxes dan testbed. Peneliti diajak membangun lingkungan simulasi yang realistis dan reproducible untuk mengevaluasi keamanan multi-agent, termasuk marketplace virtual, ekosistem simulasi, dan alur kerja lintas organisasi.

Kedua, sains jaringan agen. Area ini berfokus pada pemahaman properti keamanan dari populasi agen yang saling berinteraksi, termasuk bagaimana kemampuan kolektif muncul dan menskalakan, bagaimana jaringan bisa gagal atau menjadi volatil, dan bagaimana mendeteksi properti berbahaya di level populasi.

Ketiga, penguatan infrastruktur agen. Peneliti diminta melakukan stress-testing terhadap protokol identitas, reputasi, dan komitmen yang mengamankan interaksi agen lintas platform.

Keempat, pengawasan dan kontrol. Area ini mencakup pengembangan metode untuk memantau populasi agen yang sudah dideploy dan mitigasi kerugian kolektif di skala besar.

Kolaborasi Global yang Mendesak

DeepMind menegaskan bahwa tidak ada satu laboratorium pun yang bisa menyelesaikan masalah keamanan multi-agent sendiri. Keragaman komunitas peneliti dianggap krusial untuk memastikan standar keamanan yang transparan dan robust untuk semua pihak.

Riset sebelumnya dari DeepMind pada 2025 sudah membangun kerangka kerja untuk memahami interaksi agen. Sementara penelitian terbaru tentang AI Agent Traps mengeksplorasi kerentanan yang dihadapi agen di lingkungan adversarial. Namun DeepMind mengakui bahwa laju perkembangan saat ini mengharuskan ekspansi riset yang lebih cepat dan masif.

Schmidt Sciences melalui program Science of Trustworthy AI dan AI Agents juga turut mendukung upaya ini. Begitu pula ARIA melalui program Scaling Trust yang berupaya membuka bentuk baru koordinasi multi-agent cyber-physical.

Cara Mendaftar dan Tenggat Waktu

Peneliti yang berminat dapat mengajukan proposal melalui portal aplikasi resmi DeepMind. Tenggat waktu pendaftaran adalah 8 Agustus 2026, dengan pemenang yang diharapkan diumumkan pada musim gugur 2026.

Bagi ekosistem teknologi Indonesia, inisiatif ini membuka peluang bagi peneliti lokal untuk berkontribusi pada riset keamanan AI global. Dengan semakin banyaknya startup dan perusahaan Indonesia yang mengadopsi agen AI, pemahaman mendalam tentang keamanan multi-agent menjadi semakin relevan.

Indonesia sendiri tengah mengalami lonjakan adopsi AI di berbagai sektor, mulai dari fintech, e-commerce, hingga pemerintahan digital. Ketika perusahaan lokal mulai mengintegrasikan agen AI untuk layanan pelanggan, analisis data, dan otomasi proses bisnis, risiko interaksi antar agen yang tidak terduga menjadi hal yang perlu diantisipasi sejak dini.

Pendanaan senilai US$10 juta ini juga mencerminkan kesadaran industri bahwa keamanan AI bukan lagi sekadar tambahan, melainkan kebutuhan fundamental. DeepMind dan mitranya berupaya membangun fondasi riset yang cukup kuat sebelum ekosistem multi-agent AI berkembang ke skala yang jauh lebih besar dan sulit dikendalikan.