Anthropic Peringatkan AI Sudah Mulai Membangun Penerusnya Sendiri, Dunia Perlu Jeda

CLB.my.id - Anthropic, perusahaan di balik Claude, menerbitkan laporan yang mengguncang industri teknologi pekan ini. Perusahaan itu memperingatkan bahwa AI sudah mendekati ambang batas di mana sistem mampu merancang dan melatih penerusnya sendiri secara otonom. Fenomena yang mereka sebut recursive self-improvement ini bisa menciptakan siklus yang semakin cepat dan sulit dikendalikan oleh manusia.

Data Internal yang Belum Pernah Dipublikasikan

Yang membuat peringatan ini berbeda dari sekadar spekulasi filosofis adalah data konkret yang menyertainya. Anthropic membuka angka-angka internal yang sebelumnya tidak pernah diungkap ke publik, dan hasilnya cukup mencengangkan.

Per Mei 2026, Claude menulis lebih dari 80 persen kode yang berhasil di-merge ke sistem produksi Anthropic sendiri. Angka ini naik drastis dari hanya digit tunggal sebelum Claude Code diluncurkan pada Februari 2025. Para engineer di Anthropic kini bisa merge delapan kali lebih banyak kode per hari dibandingkan tahun 2024.

Pada April 2026, agen berbasis Claude menjalankan proyek penelitian keselamatan AI secara penuh secara otonom. Sistem itu mengusulkan hipotesis, menjalankan eksperimen, dan melakukan iterasi tanpa input manusia di setiap tahap. Hasilnya, Claude berhasil memulihkan 97 persen dari kesenjangan performa yang telah didefinisikan, sementara dua peneliti manusia hanya mencapai 23 persen dalam periode yang sebanding.

Untuk tugas coding yang paling terbuka, tingkat keberhasilan Claude mencapai 76 persen pada Mei 2026, naik 50 poin persen hanya dalam enam bulan.

Dua Skenario Kegagalan yang Mengkhawatirkan

Anthropic menggambarkan dua skenario spesifik yang bisa terjadi jika recursive self-improvement benar-benar tercapai.

Skenario pertama masih tergolong bisa dikelola. Dalam skenario ini, pengembangan AI menjadi sebagian besar terotomatisasi, tetapi manusia tetap mempertahankan kemampuan untuk menetapkan prioritas riset dan menilai hasil. Produktivitas melonjak luar biasa, tetapi di sisi lain, aplikasi berbahaya juga bisa beroperasi pada skala yang belum pernah ada sebelumnya. Pengawasan berbasis AI dan operasi manipulasi informasi yang tidak bisa dijalankan oleh tim manusia manapun menjadi mungkin.

Skenario kedua jauh lebih gelap. Peningkatan diri yang berulang berakselerasi sampai pengawasan manusia menjadi hanya formalitas. Keselarasan antara perilaku AI dan nilai-nilai manusia, yang memang belum sempurna pada sistem saat ini, semakin sulit dideteksi atau diperbaiki di setiap generasi berikutnya.

Anthropic secara eksplisit menyatakan bahwa mereka tidak bisa memprediksi dengan percaya diri apa yang akan terjadi pada manusia, tenaga kerja, atau institusi. Ketidakpastian itu justru mereka jadikan alasan mengapa tindakan harus diambil sekarang, bukan nanti.

Usulan Jeda Global yang Verifikasi

Respons yang diusulkan Anthropic tidak main-main. Mereka meminta jeda global yang terverifikasi dan multilateral, melibatkan semua laboratorium AI yang beroperasi di atau mendekati batas kemampuan terdepan. Jeda ini harus mencakup kesepatuan tentang kondisi pemicu dan pencabutan, serta badan independen yang mengawasi kepatuhan.

Namun Anthropic sendiri mengakui bahwa proposal ini sangat sulit secara teknis dan politis. Tidak seperti senjata nuklir atau sistem misil, sesi pelatihan AI jauh lebih mudah disembunyikan, menggunakan input serba guna, dan menciptakan insentif kuat untuk bermain curang. Laboratorium yang terus berjalan saat yang lain berhenti bisa langsung unggul secara signifikan. Anthropic mencatat bahwa rezim verifikasi senjata yang ada saat ini butuh waktu puluhan tahun untuk dibangun, dan situasi AI tidak memberikan kemewahan waktu seperti itu.

OpenAI Ikut Bersuara di Pekan yang Sama

Yang menarik, peringatan Anthropic tidak datang sendirian. Di pekan yang sama, OpenAI juga mengangkat isu recursive self-improvement sebagai prioritas dalam agenda kebijakan publik mereka. OpenAI meminta Kongres AS untuk mendirikan kerangka pengawasan federal dan memperluas evaluasi kemampuan untuk model-model tercanggih.

Fakta bahwa dua laboratorium AI terkemuka Amerika Serikat mengangkat keprihatinan yang sama di pekan yang sama, dengan data internal sebagai pendukung, menandai pergeseran signifikan dalam cara industri ini membingkai risiko jangka dekat secara publik.

Timing yang Memancing Tanda Tanya

Namun ada satu dimensi yang membuat posisi Anthropic sedikit rumit. Perusahaan ini dilaporkan telah mengajukan penawaran umum perdana (IPO) secara rahasia. Artinya, Anthropic sedang bersiap menggalang dana publik di valuasi yang kemungkinan besar akan memecahkan rekor, sambil secara bersamaan memperingatkan bahwa industri yang menjadi sumber pendapatannya perlu berhenti sejenak.

Kombinasi ini tentu akan mengundang pertanyaan dari investor dan pembuat kebijakan: apakah peringatan ini mencerminkan kekhawatiran yang tulus, ataukah ini juga merupakan manuver strategis untuk memposisikan Anthropic sebagai perusahaan yang paling bertanggung jawab di tengah industri yang dianggapnya terlalu agresif?

Terlepas dari motivasinya, data yang dipresentasikan Anthropic sulit diabaikan. Ketika sebuah sistem AI sudah menulis 80 persen kode perusahaannya sendiri dan berhasil menjalankan riset secara otonom, pertanyaan tentang siapa yang benar-benar mengendalikan arah pengembangan bukan lagi sekadar fiksi ilmiah.***