Anthropic Serukan Jeda Koordinasi Pengembangan AI, Dunia Perlu Waktu Sebelum Kehilangan Kendali

CLB.my.id - Anthropic, perusahaan di balik chatbot Claude, mengajukan proposal yang jarang terdengar dari mulut pemain besar industri AI: dunia perlu punya opsi untuk memperlambat atau menghentikan sementara pengembangan sistem AI tingkat lanjut. Usulan ini datang tepat di saat Anthropic dan OpenAI berlomba menjual saham di pasar modal.

Proposal tersebut dipublikasikan melalui blog resmi Anthropic oleh Jack Clark, salah satu pendiri perusahaan, bersama Marina Favaro, kepala institusi riset internal Anthropic. Keduanya menegaskan bahwa kemampuan AI yang meningkat pesat, khususnya dalam menyelesaikan tugas secara otonom seperti menulis kode, membawa risiko yang tidak bisa diabaikan begitu saja.

Menurut keduanya, berdasarkan tren saat ini dan dengan komputasi yang cukup, sebuah sistem AI pada akhirnya mampu merancang dan mengembangkan penerusnya sendiri. Fenomena ini dikenal sebagai peningkatan mandiri berulang (recursive self-improvement), sebuah tonggak teknologi besar yang membawa manfaat di bidang sains dan kesehatan, tetapi juga “bisa meningkatkan risiko manusia kehilangan kendali atas sistem AI.”

Mekanisme Koordinasi Global

Anthropic mengusulkan agar laboratorium AI tingkat lanjut di seluruh dunia membangun mekanisme koordinasi yang memungkinkan verifikasi bahwa semua pihak telah benar-benar memperlambat atau menghentikan pekerjaan mereka. Tanpa mekanisme semacam itu, jeda di satu pihak justru bisa dimanfaatkan oleh pemain yang “paling tidak hati-hati” untuk mengejar ketertinggalan, atau oleh aktor jahat untuk maju secara diam-diam.

Tujuan jeda ini adalah memberi waktu agar “struktur sosial dan riset keselarasan” (alignment research) bisa mengimbangi kemajuan teknologi. Dalam konteks AI, keselarasan merujuk pada upaya memastikan sistem AI sesuai dengan nilai dan niat manusia.

Sikap Berbeda dari OpenAI

Di hari yang sama, OpenAI mengambil posisi berbeda. Dalam laporan terpisah, perusahaan di balik ChatGPT itu menegaskan bahwa “pemerintah demokratis, bukan perusahaan swasta yang bertindak sendiri, yang pada akhirnya harus menentukan aturan, perlindungan, dan mekanisme pertanggungjawaban.”

OpenAI menambahkan, “Pandangan kami adalah keputusan tentang kecepatan inovasi AI tidak boleh diserahkan kepada satu laboratorium, perusahaan, atau kelompok kepentingan tertentu saja.”

Pendapat berbeda ini menunjukkan perpecahan di antara dua pemain terbesar industri AI tentang siapa yang seharusnya memegang kendali atas arah pengembangan teknologi ini.

Ancaman dari AI Worm

Kekhawatiran Anthropic bukan tanpa dasar. Tim peneliti dari Universitas Toronto baru-baru ini mendemonstrasikan bagaimana alat AI bisa digunakan untuk menciptakan jenis “worm” AI baru yang mampu menyesuaikan strategi peretasannya saat menyebar dari satu perangkat ke perangkat lain dan mengambil alih jaringan komputasi yang luas.

Nicolas Papernot, peneliti utama dari Universitas Toronto, memperingatkan bahwa “apa pun yang terhubung ke internet kini berisiko karena sangat rendahnya biaya untuk melancarkan serangan siber.” Ia menekankan pentingnya kolaborasi antara perusahaan, lembaga pemerintah, dan peneliti akademis untuk mengembangkan langkah-langkah pencegahan.

Konteks IPO dan Regulasi

Seruan jeda ini hadir di saat yang menarik secara bisnis. Anthropic dan OpenAI sama-sama berlomba menjual saham ke publik melalui IPO (Initial Public Offering). Valuasi Anthropic dilaporkan mendekati US$1 triliun, menjadikannya salah satu IPO teknologi paling dinanti dalam sejarah.

Di luar Amerika Serikat, perkembangan regulasi AI juga bervariasi. Selandia Baru misalnya, menurut Copyright Licensing NZ, belum punya kerangka kerja AI dan diperkirakan tidak akan memilikinya hingga setidaknya 2027. Perserikatan Bangsa-Bangsa (PBB) juga menerbitkan laporan yang memperingatkan bahwa ledakan pusat data AI mengancam sumber daya alam dan mendesak perubahan regulasi.

Dengan proposal ini, Anthropic secara tidak langsusng mengakui bahwa industri yang mereka bangun membutuhkan rem darurat. Pertanyaan besarnya: apakah pemain lain bersedia menginjak rem yang sama?