DeepMind Gelontorkan $10 Juta untuk Riset Keamanan AI Multi-Agen, Ini Alasannya

CLB.my.id - Google DeepMind bersama sejumlah mitra mengumumkan pendanaan riset baru senilai hingga 10 juta dolar AS untuk peneliti di seluruh dunia. Pendanaan ini difokuskan pada keamanan sistem kecerdasan buatan multi-agen, sebuah bidang yang diprediksi akan menjadi krusial seiring semakin banyaknya agen AI yang berinteraksi satu sama lain di lingkungan digital.

Pengumuman ini dibuat bersama oleh Schmidt Sciences, Cooperative AI Foundation, Advanced Research and Invention Agency (ARIA), dan didukung oleh Google.org. Inisiatif ini lahir dari kesadaran bahwa dunia sedang memasuki era baru di mana jutaan agen AI yang dibangun oleh berbagai organisasi akan saling berkomunikasi, bernegosiasi, dan bertransaksi di lingkungan digital.

Mengapa Keamanan Multi-Agen Penting?

Selama satu dekade terakhir, fokus riset keamanan AI lebih banyak tertuju pada model individual. Namun, saat agen-agen AI mulai berinteraksi dalam skala besar, perilaku kolektif baru bisa muncul secara tiba-tiba. Saat ini, alat untuk memprediksi, mengukur, dan memantau transisi ini masih sangat terbatas.

Sebagian besar evaluasi keamanan masih menganalisis model secara terpisah. Padahal, agen-agen otonom yang saling berinteraksi dapat menghasilkan perilaku kompleks dan “muncul” yang sulit diprediksi. Karena ini masih merupakan bidang riset yang baru, sangat penting untuk memahami bagaimana pergeseran ini terjadi.

Misalnya, interaksi agen AI dalam skala besar bisa menyebabkan ledakan aktivitas ekonomi yang tidak terduga atau menciptakan tantangan keamanan baru. Memahami cara mengelola perilaku sistem-sistem ini adalah tujuan inti dari pendanaan ini.

Empat Area Prioritas Riset

Pendanaan ini mengundang peneliti akademis dan independen untuk mengajukan proposal di empat area prioritas. Pertama, sandbox dan testbed, yaitu membangun lingkungan yang realistis dan dapat direproduksi untuk mengevaluasi keamanan multi-agen, termasuk pasar virtual, ekosistem simulasi, dan alur kerja multi-organisasi.

Kedua, ilmu jaringan agen, yaitu memahami properti keamanan dari populasi agen yang berinteraksi, termasuk bagaimana kemampuan kolektif muncul dan berkembang, bagaimana jaringan gagal atau menjadi volatil, dan bagaimana mendeteksi properti berbahaya di tingkat populasi.

Ketiga, memperkuat infrastruktur agen, yaitu menguji ketahanan protokol untuk identitas, reputasi, dan komitmen yang mengamankan interaksi agen lintas platform. Keempat, pengawasan dan kontrol, yaitu mengembangkan metode untuk memantau populasi agen yang sudah diterapkan dan mengurangi kerugian kolektif secara masif.

Fondasi Riset Sebelumnya

Riset DeepMind tahun 2025 telah membangun kerangka kerja untuk memahami interaksi multi-agen. Sementara itu, pekerjaan terbaru mereka tentang “AI Agent Traps” mengeksplorasi kerentanan yang dihadapi agen di lingkungan yang adversarial.

Namun, laju perkembangan teknologi ini menuntut percepatan riset yang lebih besar. DeepMind menyatakan bahwa kompleksitas interaksi multi-agen saat ini sudah melampaui model keamanan yang ada. Pendanaan ini bertujuan untuk mempercepat kemajuan dengan mendukung jaringan global peneliti independen.

Kolaborasi Lintas Institusi

Inisiatif ini juga mendukung misi program Science of Trustworthy AI dan AI Agents milik Schmidt Sciences, yang mendukung pekerjaan fundamental tentang pemahaman dan mitigasi risiko dari sistem AI frontier. Selain itu, program ini sejalan dengan program Scaling Trust milik ARIA yang bertujuan membuka bentuk baru koordinasi multi-agen siber-fisik.

DeepMind menekankan bahwa tidak ada laboratorium tunggal yang bisa menyelesaikan masalah keamanan multi-agen sendiri. Komunitas yang beragam sangat penting untuk memastikan standar keamanan transparan dan kuat bagi semua pihak.

Tenggat waktu dan Cara Mendaftar

Para peneliti yang berminat diundang untuk mengajukan proposal hingga tenggat waktu 8 Agustus 2026. Pemenang pendanaan diharapkan diumumkan pada musim gugur 2026. Informasi lebih lanjut tentang persyaratan teknis dan proses aplikasi tersedia di portal aplikasi resmi DeepMind.

Bagi peneliti Indonesia di bidang AI dan keamanan siber, ini merupakan peluang emas untuk berkontribusi pada riset global yang dampaknya akan dirasakan oleh seluruh ekosistem AI di masa depan. Dengan semakin banyaknya agen AI yang beroperasi di Indonesia, riset lokal tentang keamanan multi-agen menjadi semakin relevan.

Judul CMS: DeepMind Gelontorkan $10 Juta untuk Riset Keamanan AI Multi-Agen, Ini Alasannya

Meta Description: Google DeepMind dan mitra gelontorkan $10 juta untuk riset keamanan AI multi-agen. Peneliti diundang ajukan proposal hingga Agustus 2026.

Rubrik: Teknologi

Tag: Google DeepMind, AI, keamanan siber, multi-agent, riset, pendanaan

Source: (kosongkan - sumber DeepMind Google)

Catatan CMS: Status rekomendasi: Draft dulu