BOSTON — CEO Anthropic Dario Amodei menyerukan perlambatan signifikan dalam perlombaan meningkatkan kemampuan model kecerdasan buatan (AI). Menurut dia, jeda tersebut dibutuhkan agar manusia memiliki lebih banyak waktu untuk mengantisipasi berbagai risiko yang dapat muncul ketika teknologi berkembang terlalu cepat.
“Kita harus memperlambat laju peningkatan kemampuan model AI. Kemajuan akan tetap terjadi dengan cepat, dan kita perlu memanfaatkan waktu tambahan yang kita peroleh dengan bijak,” tulis Amodei melalui situs web pribadinya.
Seruan itu disampaikan oleh pemimpin perusahaan pengembang Claude, chatbot berbasis AI. Amodei selama ini dikenal sebagai pendukung pengembangan kecerdasan buatan, tetapi ia juga berulang kali mengingatkan bahwa kemajuan teknologi tersebut membawa risiko serius apabila tidak diarahkan dan dikendalikan secara tepat.
Risiko kehilangan kendali hingga gangguan ekonomi
Dalam pandangannya, salah satu ancaman yang perlu diwaspadai adalah kemungkinan manusia kehilangan kendali atas sistem AI. Teknologi tersebut juga berpotensi dieksploitasi untuk kepentingan berbahaya, termasuk melancarkan serangan siber dan bioterorisme.
Dampaknya, menurut Amodei, tidak hanya berkaitan dengan keamanan. Pengembangan AI yang berlangsung tanpa langkah mitigasi memadai juga dapat menimbulkan gangguan serius terhadap perekonomian. Karena itu, ia menilai risiko AI harus diperlakukan sebagai persoalan mendesak, meskipun teknologi yang sama berpeluang membawa perubahan positif bagi umat manusia.
Amodei menggambarkan skenario ketika kemampuan AI berkembang dalam waktu sangat singkat. Ia memperingatkan bahwa sekelompok aktor AI dapat mengendalikan seluruh internet hanya dalam enam hingga 12 bulan. Dalam skenario tersebut, kerugian yang ditimbulkan dapat mencapai ratusan miliar dolar.
Peringatan itu menjadi dasar bagi usulannya agar peningkatan kemampuan model tidak dibiarkan berlangsung tanpa pengaturan laju. Perlambatan yang dimaksud bukan penghentian kemajuan AI, melainkan upaya memperoleh waktu tambahan yang dapat digunakan untuk menghadapi konsekuensi teknologi tersebut.
Industri diminta menghindari “kesalahan arah”
Amodei juga meminta para pemimpin industri AI bekerja sama untuk mencegah “kesalahan arah” dalam pengembangan teknologi. Kolaborasi dinilai penting agar kemampuan AI tidak berkembang dengan cara yang justru membahayakan umat manusia.
Namun, ia mengingatkan bahwa memperlambat pengembangan AI juga tidak boleh dilakukan tanpa mempertimbangkan persaingan dan pihak yang dapat menguasai teknologi tersebut. Menurutnya, langkah yang terlalu lambat dapat membuka peluang bagi aktor yang tidak tepat untuk mengambil kendali.
“Jika kita terlalu lambat, saya masih percaya bahwa orang yang salah akan mengendalikan teknologi ini. Itu akan kembali sangat meningkatkan risiko konsekuensi yang tidak diinginkan,” tulis Amodei.
Posisi tersebut menempatkan Amodei pada dua kekhawatiran sekaligus: kemajuan AI yang terlalu cepat dapat membuat risiko sulit dikendalikan, sedangkan respons yang terlampau lamban dapat menyerahkan teknologi itu kepada pihak yang berpotensi menyalahgunakannya. Karena itu, ia menekankan perlunya menggunakan setiap tambahan waktu secara bijak sembari tetap mengakui bahwa perkembangan AI akan terus berlangsung cepat.
