Anthropic Serukan Jeda Pengembangan AI, Kemampuan Model Sudah Lipat Ganda Tiap 4 Bulan

CLB.my.id - Anthropic, perusahaan di balik chatbot Claude, secara mengejutkan menyerukan jeda terkoordinasi dan terverifikasi dalam pengembangan AI garis depan. Peringatan ini datang di tengah laju pertumbuhan kemampuan AI yang semakin tidak terkendali, di mana kemampuan menyelesaikan tugas sistem AI dilaporkan berlipat ganda setiap empat bulan.

Mendekati Titik di Mana AI Bisa Meningkatkan Diri Sendiri

Dalam postingan blog panjang yang diterbitkan pada Kamis pekan lalu, Anthropic memperingatkan bahwa teknologi AI sedang menuju apa yang disebut “recursive self-improvement,” titik di mana sistem AI bisa meningkatkan kemampuannya tanpa campur tangan manusia.

“Jika sistem mampu sepenuhnya membangun penerusnya sendiri, cara kita mengamankan, memantau, dan membentuk perilaku mereka menjadi jauh lebih penting,” tulis Jack Clark, salah satu pendiri Anthropic, bersama Marina Favaro dari Anthropic Institute.

Namun, mereka juga menegaskan bahwa titik tersebut belum tercapai dan recursive self-improvement bukanlah sesuatu yang tak bisa dihindari. “Tetapi ini bisa datang lebih cepat dari yang dipersiapkan sebagian besar institusi,” tambah mereka.

Bukti Nyata dari Model Mythos

Kekhawatiran Anthropic bukan tanpa dasar. Model Mythos yang mereka kembangkan sendiri sudah menunjukkan kemampuan yang mengkhawatirkan. Model tersebut mampu menemukan kerentanan dalam kode yang sudah ada, mengirimkan gelombang kejutan ke industri perbankan dan perangkat lunak.

Kemampuan ini menunjukkan bahwa AI sudah melampaui sekadar menjawab pertanyaan atau menulis teks. Sistem AI kini bisa menganalisis dan mengeksploitasi kelemahan dalam infrastruktur digital yang digunakan jutaan orang.

Latar Belakang yang Rumit

Anthropic sendiri memiliki sejarah yang kompleks dalam isu keamanan AI. Perusahaan ini lama memposisikan diri sebagai laboratorium AI yang mengutamakan keamanan. Awal tahun ini, mereka menolak membiarkan militer AS menggunakan model mereka untuk pengawasan domestik dan senjata otonom penuh.

Keputusan itu berakibat pada penempatan Anthropic dalam daftar hitam keamanan nasional yang akan berlaku akhir tahun 2026. Namun, Reuters melaporkan bahwa sengketa ini mulai menunjukkan tanda-tanda mereda di beberapa bagian pemerintah AS.

Yang menarik, pada Februari lalu, Anthropic justru menarik kembali janji keamanan kunci mereka. Mereka menyatakan tidak akan lagi menahan AI yang berpotensi berbahaya jika pesaing hampir menyamai kemampuannya. Keputusan ini menimbulkan pertanyaan tentang konsistensi posisi perusahaan.

Jeda Unilateral Tidak Cukup

Anthropic menekankan bahwa jeda yang dilakukan oleh satu laboratorium saja tidak akan efektif. Justru bisa berbalik merugikan jika aktor yang kurang berhati-hati terus maju.

“Jeda unilateral oleh satu laboratorium bisa dicapai segera, tetapi pencapaiannya jauh lebih sedikit. Jeda itu hanya mengubah siapa yang memimpin, tetapi tidak menciptakan proses deliberasi yang lebih luas yang saat ini tidak ada,” tulis mereka.

Untuk jeda yang bermakna, Anthropic menyebut diperlukan kesepakatan antara beberapa laboratorium besar yang beroperasi di garis depan teknologi. Selain itu, harus ada aturan jelas tentang kondisi apa yang memicu atau mengakhiri jeda, serta siapa yang mengawasinya.

Langkah Selanjutnya

Anthropic Institute berencana mempelajari sistem yang diperlukan untuk mendukung pengurangan kecepatan pengembangan. Dalam beberapa bulan ke depan, mereka akan mengumpulkan pembuat kebijakan, peneliti, kelompok masyarakat sipil, dan firma AI saingan untuk membahas manajemen risiko seperti recursive self-improvement.

Ketika diminta komentar apakah mereka akan bergabung dengan seruan ini, OpenAI, xAI, Alphabet, Meta Platforms, dan Mistral tidak memberikan respons.

Konteks Regulasi yang Lambat

Regulasi AI di AS sendiri bergerak lambat. Pekan lalu, pemerintahan Trump mengeluarkan perintah eksekutif yang meminta laboratorium AI secara sukarela menyerahkan model paling canggih mereka untuk pengujian keamanan siber pemerintah sebelum dirilis ke publik.

Pada 2023, Future of Life Institute pernah mengusulkan penghentian pengembangan AI selama enam bulan, yang didukung oleh Elon Musk. Namun, proposal tersebut tidak banyak berhasil.

Saat ini, Anthropic bernilai sekitar US$965 miliar dan telah mengajukan dokumen IPO secara rahasia, lebih cepat dari OpenAI. Perusahaan ini juga melaporkan pendapatan tahunan sebesar US$44 miliar dan berada di jalur untuk mencatatkan laba operasional pertama sekitar US$559 juta pada kuartal kedua 2026.***