Jakarta – Kekhawatiran mengenai potensi risiko eksistensial dari perkembangan kecerdasan buatan (AI) kembali menguat. Dalam sepekan terakhir, sejumlah perusahaan AI terkemuka dunia dilaporkan tengah menghadapi perdebatan internal mengenai seberapa cepat teknologi tersebut seharusnya dikembangkan.
Situasi ini mencuat setelah peneliti Anthropic, Jacob Coxon, memutuskan mengundurkan diri dan secara terbuka menyampaikan kekhawatirannya terhadap perkembangan AI yang dinilai berlangsung terlalu cepat serta membawa risiko yang semakin besar.
Mengutip laporan The New York Times berdasarkan pesan internal dan wawancara dengan lebih dari selusin karyawan Anthropic, OpenAI, Meta, dan Google, pengunduran diri Coxon memicu pembahasan luas di berbagai kanal komunikasi internal perusahaan.
Sejumlah karyawan bahkan disebut mulai meminta para pimpinan perusahaan mempertimbangkan jeda pengembangan AI sampai sistem pengamanan yang dinilai memadai benar-benar tersedia.
Persaingan Industri Membuat Perlambatan Tidak Mudah
Perdebatan mengenai keselamatan AI terjadi ketika sejumlah perusahaan teknologi tersebut tengah bersiap menghadapi agenda bisnis besar, termasuk rencana penawaran saham perdana atau initial public offering (IPO).
Pada saat yang sama, perusahaan AI asal Amerika Serikat juga menghadapi persaingan yang semakin ketat dari pengembang teknologi asal China. Kondisi tersebut membuat keputusan untuk memperlambat pengembangan AI menjadi tidak sederhana.
CEO OpenAI Sam Altman dan CEO Anthropic Dario Amodei sebelumnya juga telah beberapa kali memperingatkan mengenai potensi bahaya besar yang dapat muncul dari teknologi AI.
Dalam pertemuan internal dengan karyawan pada pekan ini, Altman disebut menyatakan terbuka terhadap kemungkinan memperlambat pengembangan AI bersama para pesaingnya. Ia berharap langkah tersebut nantinya dapat menjadi standar industri sampai aturan keselamatan yang diakui secara luas terbentuk.
Sementara itu, Amodei pada Sabtu lalu menerbitkan esai panjang yang menyerukan kehati-hatian dalam pengembangan teknologi AI. Ia menilai peningkatan kemampuan model AI perlu diperlambat pada masa mendatang.
Seruan tersebut dilaporkan mendapat dukungan dari sejumlah tokoh teknologi, termasuk Altman dan Elon Musk.
Model AI Disebut Pernah Lolos dari Sistem Pengamanan
Kekhawatiran terhadap kemampuan mengendalikan AI juga meningkat setelah OpenAI pada Juli lalu mengungkap bahwa sejumlah model AI miliknya pernah melewati sistem pengamanan dan melakukan peretasan terhadap Hugging Face, perusahaan AI lainnya.
Insiden tersebut kemudian mendorong pembahasan lintas perusahaan mengenai kemampuan industri dalam mengendalikan sistem AI yang mereka kembangkan sendiri.
Diskusi serupa juga muncul di kalangan peneliti Google DeepMind. Mereka mempertanyakan sejauh mana mekanisme keselamatan yang ada saat ini mampu mencegah model AI melakukan tindakan yang tidak diinginkan.
Sejumlah peneliti keselamatan AI bahkan mulai menyampaikan kekhawatiran mereka secara terbuka.
Evan Hubinger, peneliti keamanan di Anthropic, memperkirakan terdapat peluang lebih dari 10 persen bahwa AI dapat memicu kepunahan massal manusia dalam satu dekade mendatang.
Kekhawatiran serupa disampaikan Julie Steele, peneliti keamanan di OpenAI, yang mendorong perlunya memperlambat pengembangan AI. Sementara Andreas Kirsch, karyawan Google DeepMind, juga mengungkapkan kekhawatiran terhadap potensi risiko AI, baik dalam jangka pendek maupun jangka panjang.
Muncul Kelompok Internal yang Mendorong Keselamatan AI
Dorongan untuk memperkuat sistem pengamanan juga mulai terorganisasi di lingkungan internal perusahaan.
Salah satu kelompok yang muncul adalah Coalition of Concerned AI Staff. Kelompok tersebut mendorong perusahaan AI untuk membangun mekanisme pengamanan yang lebih kuat sekaligus memastikan komitmen keselamatan yang telah dibuat benar-benar diterapkan.
Perdebatan mengenai risiko AI pun tidak hanya berlangsung di lingkungan perusahaan teknologi. Isu tersebut mulai mendapat perhatian serius dari pemerintah Amerika Serikat.
Sejumlah anggota Kongres dari Partai Demokrat maupun Republik, termasuk Senator Bernie Sanders dan Senator Josh Hawley, mendorong dilakukannya investigasi terhadap industri AI serta meminta adanya intervensi regulasi.
Anggota DPR AS Ro Khanna bahkan menyerukan pembentukan lembaga regulator khusus yang menangani perkembangan dan risiko teknologi AI.
Perusahaan AI Janji Siap Memperlambat Pengembangan
Anthropic mengatakan pihaknya secara rutin melakukan pengujian terhadap model-model AI untuk mendeteksi kemampuan berbahaya, termasuk yang berkaitan dengan keamanan siber dan biologi.
Perusahaan tersebut juga menyatakan mendukung mekanisme kerja sama industri yang sah dan dapat diverifikasi untuk mengatur kecepatan peluncuran model AI canggih.
Sementara itu, OpenAI melalui eksekutif kebijakannya, Chris Lehane, menegaskan perusahaan akan memperlambat atau bahkan menghentikan pengembangan sistem apabila teknologi tersebut tidak dapat diamankan dengan baik.
Google DeepMind sendiri memilih tidak memberikan komentar terkait perkembangan diskusi tersebut.
Perdebatan ini menunjukkan bahwa di tengah perlombaan mengembangkan AI yang semakin canggih, persoalan keselamatan menjadi tantangan yang tidak kalah penting. Pertanyaan besarnya kini bukan hanya seberapa pintar AI dapat dibuat, tetapi juga sejauh mana manusia mampu memastikan teknologi tersebut tetap berada dalam kendali.
