CEO Anthropic: Tanpa Tata Kelola Ketat, AI Berpotensi Jadi Ancaman Global
Jakarta, sustainlifetoday.com — CEO perusahaan kecerdasan buatan Anthropic, Dario Amodei, mengeluarkan peringatan keras soal arah perkembangan teknologi AI yang dinilainya kian melampaui kesiapan umat manusia dalam mengelolanya.
Peringatan tersebut disampaikan Amodei melalui sebuah esai panjang hampir 20.000 kata berjudul The Teenage Years of Technology (Masa Remaja Teknologi). Dalam esai itu, ia menggambarkan masa depan yang semakin dekat, di mana sistem AI dengan kecerdasan melebihi peraih Nobel atau tokoh negarawan ternama dapat tersedia secara luas hanya dalam hitungan tahun.
Amodei menilai percepatan perkembangan AI saat ini terjadi karena adanya lingkaran umpan balik yang saling menguatkan. AI tidak lagi sekadar dikembangkan oleh manusia, tetapi juga mulai berperan aktif dalam mengembangkan dirinya sendiri. Ia mengungkapkan bahwa di Anthropic, AI kini telah menulis sebagian besar kode perangkat lunak.
“Karena AI sekarang menulis sebagian besar kode di Anthropic, hal ini secara signifikan mempercepat kemajuan kami dalam membangun generasi AI berikutnya,” tulis Amodei, dikutip pada Minggu (1/2).
Ia memperingatkan industri AI tengah mendekati fase krusial, di mana AI generasi saat ini berpotensi membangun generasi AI berikutnya secara otomatis, dengan keterlibatan manusia yang semakin minim.
Menurut Amodei, tanpa pengelolaan yang sangat hati-hati, kemajuan AI dapat memicu berbagai risiko besar, mulai dari hilangnya pekerjaan secara massal hingga ancaman eksistensial bagi umat manusia. Salah satu skenario ekstrem yang disorot adalah kemungkinan munculnya kediktatoran totaliter global, yang ditopang oleh pengawasan massal, propaganda otomatis, serta senjata otonom berbasis AI.
BACA JUGA:
- KLH Siapkan Kajian Lingkungan dan Penegakan Hukum Pasca longsor Cisarua
- Bendung Katulampa Siaga 3, Pemprov DKI Siaga Banjir
- PIS Sukses Pangkas Emisi Ratusan Ribu Ton CO2e Sepanjang 2025
Ia juga menyinggung apa yang disebutnya sebagai “risiko otonomi”, yakni kondisi ketika sistem AI mampu bertindak di luar kendali manusia dan bahkan mengungguli kemampuan manusia itu sendiri. Ancaman ini, menurutnya, tidak harus hadir dalam bentuk robot fisik seperti dalam film fiksi ilmiah, karena banyak tindakan berbahaya dapat dilakukan dari jarak jauh.
Ancaman paling mengkhawatirkan, lanjut Amodei, adalah potensi AI dalam menurunkan hambatan pembuatan senjata biologis dan senjata pemusnah massal.
“Seseorang yang terganggu jiwanya mungkin bisa melakukan penembakan, tetapi tidak mampu membuat senjata nuklir atau wabah penyakit,” tulisnya.
“Namun AI canggih bisa membuat setiap orang menjadi ahli virologi setingkat PhD, dengan panduan langkah demi langkah,” lanjutnya.
Dalam skenario terburuk, Amodei memperingatkan bahwa AI berdaya tinggi secara teoritis dapat membantu menciptakan patogen sintetis yang mampu memusnahkan seluruh kehidupan di Bumi.
Sebagai salah satu tokoh kunci industri AI global sekaligus pesaing OpenAI, Amodei menyerukan penerapan regulasi yang ia sebut “presisi dan terarah”. Langkah awal yang diusulkannya adalah undang-undang transparansi guna membangun pagar pengaman bagi pengembangan teknologi AI.
“Umat manusia harus bangun,” tutup Amodei, seraya menegaskan bahwa beberapa tahun ke depan akan menjadi ujian kedewasaan peradaban manusia dalam mengelola kekuatan AI yang luar biasa.
