Peneliti Anthropic Peringatkan AI Berpotensi Musnahkan Manusia pada 2030

SAN FRANCISCO — Ancaman eksistensial dari perkembangan kecerdasan buatan (AI) kembali memicu alarm bahaya di kalangan pakar teknologi global. Tiga peneliti dari perusahaan pengembang AI terkemuka, Anthropic, memperingatkan bahwa teknologi AI berpotensi memusnahkan umat manusia dalam kurun waktu kurang dari satu dekade jika tidak segera dibendung oleh regulasi internasional yang ketat.

Peringatan keras ini mencuat ke publik setelah salah satu peneliti memutuskan untuk mengundurkan diri sebagai bentuk protes terhadap arah pengembangan industri kecerdasan buatan yang dinilai kian mengabaikan aspek keselamatan dasar demi persaingan komersial.

Kronologi Pengunduran Diri dan Peringatan Terbuka

Kekhawatiran mengenai risiko kehancuran peradaban akibat AI disampaikan secara terbuka melalui serangkaian pernyataan publik di media sosial. Peneliti yang mundur tersebut memaparkan urutan peristiwa yang melandasi keputusannya untuk meninggalkan industri:

1. Ekskalasi Kemampuan Model AI: Tim riset mendapati percepatan lompatan kapabilitas penalaran sistem AI mutakhir yang melampaui prediksi awal model keselamatan internal.
2. Pengabaian Peringatan Internal: Masukan serta rekomendasi pembatasan pengembangan model berskala besar diabaikan oleh manajemen eksekutif di dua raksasa AI, Anthropic dan OpenAI.
3. Aksi Pengunduran Diri: Merasa mitigasi bahaya tidak ditangani secara serius, peneliti tersebut memilih keluar dari jabatannya sebagai sinyal darurat kepada publik dan pembuat kebijakan.

Risiko Eksistensial dan Kritik terhadap OpenAI serta Anthropic

Peneliti yang pernah bekerja di OpenAI sebelum berlabuh di Anthropic tersebut menegaskan bahwa industri teknologi saat ini berada dalam perlombaan berbahaya tanpa mekanisme rem darurat yang memadai. Menurutnya, manajemen kedua perusahaan tersebut memperlakukan risiko kepunahan manusia dengan sangat remeh.

"Banyak pihak di dalam industri secara sadar meyakini bahwa tanpa intervensi regulasi pemerintah yang tegas, kecerdasan buatan dapat memusnahkan kemanusiaan sebelum tahun 2030. Namun, respons korporasi sejauh ini justru mengabaikan atau salah menangani ancaman tersebut," tegas peneliti tersebut dalam pernyataan resminya.

Kekhawatiran ini berpusat pada skenario di mana Artificial General Intelligence (AGI) mencapai tingkat otonomi penuh, mampu mereplikasi diri, dan mengambil keputusan destruktif yang lepas dari kendali manusia.

Tuntutan Regulasi Ketat Menjelang Batas Kritis 2030

Komunitas keselamatan teknologi kini mendesak pemerintah di seluruh dunia untuk tidak lagi bergantung pada regulasi mandiri (self-regulation) dari perusahaan teknologi. Sejumlah langkah darurat yang disuarakan para pakar mencakup:

• Audit Independen Wajib: Pengujian sistematis oleh badan pengawas independen sebelum model AI tingkat lanjut dirilis ke publik.
• Moratorium Kapabilitas Tertentu: Penundaan pelatihan model yang melampaui ambang batas komputasi tertentu sampai standar keamanannya terverifikasi.
• Transparansi Algoritma: Pembukaan protokol keamanan serta data pelatihan model berisiko tinggi kepada regulator.

Polemik ini menegaskan bahwa tenggat waktu menuju 2030 bukan sekadar proyeksi matematis, melainkan peringatan nyata bagi tata kelola peradaban modern di era kecerdasan buatan.