KALIMANTAN UTARA — Anthropic, perusahaan di balik model AI Claude, baru saja mengeluarkan pernyataan yang cukup kontroversial di industri teknologi. Dalam sebuah unggahan blog resmi, mereka mengusulkan agar seluruh pengembang AI di dunia sepakat untuk memperlambat laju pengembangan teknologi ini. Alasannya, tren saat ini menunjukkan bahwa sistem AI diprediksi akan mampu mengembangkan generasi penerusnya sendiri lebih cepat dari perkiraan banyak institusi.
Menurut Anthropic, kemampuan AI untuk mendesain dan menciptakan AI lain bisa membawa manfaat besar di bidang sains dan kesehatan. Namun di sisi lain, risiko kehilangan kendali atas sistem tersebut juga meningkat drastis. "Ini bisa meningkatkan risiko manusia kehilangan kendali atas sistem AI," tulis perusahaan tersebut dalam pernyataannya.
Untuk mencegah skenario fiksi ilmiah semacam itu, Anthropic mengusulkan adanya mekanisme verifikasi global. Artinya, semua laboratorium riset di negara-negara perbatasan teknologi harus benar-benar berhenti atau melambat, dan bisa saling memverifikasi bahwa komitmen tersebut dipatuhi. Tanpa mekanisme ini, dikhawatirkan akan ada pihak yang diam-diam terus mengembangkan teknologinya dan meninggalkan yang lain.
Namun, usulan ini tidak luput dari skeptisisme. Seperti dilaporkan The Wall Street Journal, sejumlah kritikus menilai peringatan Anthropic adalah bagian dari strategi pemasaran. Tujuannya, untuk membuat perusahaan terlihat sebagai pihak yang paling bertanggung jawab di tengah hiruk-pikuk industri AI yang agresif, atau bahkan untuk mencitrakan produk mereka sebagai yang terbaik dan paling aman.
Kritik ini menguat setelah perilisan model keamanan siber terbaru mereka, Mythos. Anthropic hanya merilis Mythos ke segelintir mitra terpilih dengan alasan potensi penyalahgunaan kemampuan identifikasi kerentanan sistem. Banyak pihak menilai langkah ini hanya gimmick untuk menaikkan hype atau justru menutupi niat menjual produk tersebut hanya ke perusahaan-perusahaan besar.
Terlepas dari kontroversi, usulan Anthropic bukan tanpa dasar. Perusahaan ini mendirikan Anthropic Institute pada Maret lalu, sebuah divisi riset yang bertugas mengkaji tantangan seputar pengembangan AI tingkat lanjut. Institut ini, bersama para kolaborator, akan meneliti apa saja yang dibutuhkan untuk membangun sistem yang memungkinkan perlambatan atau jeda yang kredibel.
Anthropic sendiri berencana mengadakan pembicaraan dengan para pembuat kebijakan, peneliti, dan perusahaan AI lain dalam beberapa bulan ke depan. Hasil diskusi tersebut rencananya akan dipublikasikan. Menariknya, perusahaan yang dikabarkan akan segera melantai di bursa saham dan mencatatkan kuartal pertamanya yang menguntungkan ini justru menyerukan penghentian sementara laju industrinya sendiri.
Anthropic mengakui bahwa usulan ini hanya bisa terwujud jika semua perusahaan AI di dunia bersatu dan berjanji untuk berhenti mengembangkan teknologi dalam waktu bersamaan. Mereka mencontohkan perjanjian senjata nuklir sebagai preseden, meski mengakui bahwa kesepakatan tersebut memakan waktu puluhan tahun untuk terbentuk. "Kami tidak punya waktu selama itu," tulis Anthropic, mengingatkan bahwa laju perkembangan AI saat ini sangat cepat.
Pertanyaan besarnya kini: apakah industri yang sedang berlomba secepat mungkin ini benar-benar mau menginjak rem? Atau, akankah usulan Anthropic hanya menjadi catatan kaki dalam sejarah perlombaan AI yang tak terbendung?