SULAWESI UTARA — Anthropic, perusahaan di balik model AI Claude, resmi menyerukan penghentian sementara atau perlambatan signifikan dalam pengembangan kecerdasan buatan. Dalam sebuah unggahan blog, perusahaan yang berbasis di San Francisco itu menyatakan kekhawatirannya terhadap laju perkembangan AI yang dinilai terlalu cepat. Tren saat ini, menurut Anthropic, mengarah pada sistem yang mampu mengembangkan penerusnya sendiri — sebuah skenario yang diperkirakan datang lebih cepat dari kesiapan sebagian besar institusi.
Mengapa Anthropic Khawatir Kehilangan Kendali?
Anthropic mengakui bahwa AI yang bisa membangun dirinya sendiri berpotensi "membawa kebaikan besar bagi dunia," terutama di bidang sains dan perawatan kesehatan. Namun, di sisi lain, kemampuan ini juga disebut bisa "meningkatkan risiko manusia kehilangan kendali atas sistem AI." Untuk mencegah skenario kiamat ala Skynet, Anthropic mengusulkan jeda pengembangan. Tujuannya adalah memberi waktu bagi struktur sosial masyarakat dan riset keselarasan (alignment research) untuk mengejar ketertinggalan dari kemajuan teknologi.
Kritik: Peringatan atau Strategi Marketing?
Usulan ini datang dari salah satu pemain utama di industri AI, yang berbeda dari kompetitornya karena dikabarkan akan mencatatkan kuartal profitabel pertamanya. Anthropic bahkan baru saja mengajukan dokumen ke SEC untuk melantai di bursa, kemungkinan besar sebelum akhir tahun. Namun, seperti dicatat The Wall Street Journal, para kritikus menilai peringatan Anthropic tentang teknologinya sendiri adalah taktik pemasaran. Tujuannya bisa untuk terlihat sebagai perusahaan AI yang paling etis atau untuk membuat produknya tampak paling unggul.
Kritik mengarah pada perilisan terbatas model AI keamanan siber mereka, Mythos. Anthropic hanya merilis Mythos ke segelintir mitra karena khawatir kemampuan model tersebut mengidentifikasi celah keamanan dengan cepat bisa disalahgunakan. Namun, banyak pihak menilai ini hanya cara untuk menaikkan hype atau menutupi niat Anthropic yang hanya ingin menjual produk ke perusahaan-perusahaan besar.
Dasar Riset dan Mekanisme Verifikasi yang Rumit
Perlu dicatat, usulan Anthropic didasarkan pada temuan dari Anthropic Institute, divisi riset yang didirikan pada Maret lalu. Institut ini bertugas "memberi tahu dunia" tentang tantangan yang muncul seiring pengembangan AI yang lebih canggih. Bersama kolaborator, mereka akan meneliti apa yang diperlukan untuk "membangun sistem yang dibutuhkan untuk perlambatan atau jeda yang kredibel."
Jika perusahaan AI setuju untuk melambat, mekanisme verifikasi harus ada untuk memastikan semua pihak benar-benar berhenti. Tanpa itu, beberapa pihak bisa diam-diam mengembangkan teknologi dan melompat lebih maju. "Perlambatan atau jeda yang berarti membutuhkan banyak laboratorium yang berada di garis depan, di berbagai negara, untuk setuju berhenti dalam kondisi yang sama," tulis Anthropic. "Ini juga mensyaratkan bahwa masing-masing dapat memverifikasi bahwa yang lain benar-benar berhenti."
Mungkinkah Terwujud? Belajar dari Perjanjian Nuklir
Anthropic mengakui usulannya hanya akan terwujud jika semua perusahaan AI di dunia bersatu dan berkomitmen. Mereka mencontohkan perjanjian senjata nuklir sebagai bukti bahwa hal serupa mungkin terjadi. Namun, Anthropic juga mengakui bahwa perjanjian tersebut memakan waktu puluhan tahun untuk dibuat — waktu yang tidak kita miliki mengingat laju perkembangan AI yang begitu cepat. Perusahaan berencana mengadakan pembicaraan dengan pembuat kebijakan, peneliti, dan perusahaan AI lain dalam beberapa bulan ke depan, dan akan mempublikasikan hasil diskusi tersebut.
