AI Disalahgunakan untuk Konten Seksual Anak, UNICEF Serukan Perlindungan Mendesak

Jakarta, sustainlifetoday.com — UNICEF, badan Perserikatan Bangsa-Bangsa (PBB) yang fokus pada perlindungan anak, mendesak setiap negara untuk mengkriminalisasi pembuat konten seksual anak berbasis kecerdasan buatan (Artificial Intelligence/AI). Desakan ini muncul seiring meningkatnya laporan penyalahgunaan teknologi AI untuk menghasilkan konten pelecehan seksual terhadap anak.

“Dampak dari penyalahgunaan deepfake itu nyata dan mendesak. Anak-anak tidak bisa hanya menunggu hukum untuk menyelesaikan,” kata UNICEF dalam pernyataannya yang dilansir Reuters, Sabtu (7/2).

UNICEF menyoroti praktik pembuatan deepfake, yakni gambar, video, atau audio hasil proses AI yang dapat meniru wajah dan identitas seseorang secara realistis. Dalam konteks pelecehan anak, teknologi ini digunakan untuk menciptakan konten seksual palsu tanpa persetujuan korban.

Selain mendorong kriminalisasi pelaku, UNICEF juga meminta pengembang teknologi menerapkan pendekatan safety-by-design guna mencegah penyalahgunaan model AI sejak tahap perancangan. Perusahaan teknologi pun didesak untuk memperkuat sistem moderasi konten dengan berinvestasi pada teknologi pendeteksian yang lebih canggih.

Menurut catatan UNICEF, sebanyak 1,2 juta gambar anak di 11 negara telah dimanipulasi menjadi deepfake seksual dalam kurun waktu satu tahun terakhir. Praktik tersebut dikenal sebagai nudification, yakni penggunaan AI untuk menghapus atau mengubah pakaian pada foto anak sehingga menampilkan konten seksual.

BACA JUGA:

• Izin Pengelola Bandung Zoo Dicabut, Kemenhut dan Pemkot Jamin Perawatan Satwa
• Pertamina Merger Tiga Anak Usahanya, Percepat Sistem Energi yang Terintegrasi
• Perluas Pendidikan Inklusif, Mensos dan Delapan Kepala Daerah Siap Jalankan Sekolah Rakyat

Lonjakan kasus ini mendorong Inggris menjadi negara pertama yang berencana mengategorikan penggunaan alat AI untuk menciptakan gambar pelecehan seksual anak sebagai tindak pidana.

Di tingkat global, Sekretaris Jenderal PBB Antonio Guterres mengusulkan pembentukan Panel Ilmiah Internasional Independen tentang Kecerdasan Buatan. Panel ini dirancang untuk memastikan pengembangan dan pemanfaatan AI berjalan demi kepentingan publik.

“Kita membutuhkan pemahaman bersama untuk membangun pagar pengaman yang efektif, membuka inovasi demi kepentingan bersama, dan mendorong kerja sama,” ujar Guterres.

Panel tersebut akan melibatkan 40 pakar dari 37 negara dengan keahlian di bidang pembelajaran mesin, tata kelola data, kesehatan masyarakat, keamanan siber, perkembangan anak, serta hak asasi manusia.

Kekhawatiran terhadap penyalahgunaan AI untuk menghasilkan konten pelecehan seksual anak juga meningkat dalam beberapa tahun terakhir, terutama terkait chatbot Grok milik xAI, perusahaan kepunyaan Elon Musk. Investigasi Reuters mengungkap bahwa chatbot tersebut tetap menghasilkan gambar seksual perempuan dan anak di bawah umur meskipun telah menuai kecaman dari publik.

Merespons hal tersebut, X (sebelumnya Twitter) mengumumkan langkah pemblokiran agar Grok tidak lagi menghasilkan konten provokatif dalam unggahan publik. xAI juga menyatakan telah membatasi fitur penyuntingan gambar Grok AI, serta memblokir pengguna berdasarkan lokasi geografis di wilayah hukum yang melarang pembuatan gambar orang dengan pakaian terbuka.

Namun, perusahaan tidak merinci negara-negara yang dimaksud. Sebelumnya, xAI juga telah membatasi fitur pembuatan dan penyuntingan gambar Grok hanya bagi pelanggan berbayar.

Rekanan Grosvenor Law, James Broomhall, menilai perusahaan seperti xAI berpotensi menghadapi denda besar atau gugatan perdata berdasarkan Undang-Undang Keamanan Daring Inggris 2023 apabila terbukti gagal mengawasi alat-alat AI yang mereka kembangkan.

Sementara itu, badan pengawas media Inggris, Ofcom, menyatakan masih menyelidiki X sebagai prioritas utama dengan tetap mengikuti proses hukum yang berlaku.

Di sisi lain, Meta menegaskan penolakannya terhadap pembuatan maupun penyebaran gambar intim tanpa persetujuan. Perusahaan menyatakan alat AI miliknya tidak akan memenuhi permintaan semacam itu. OpenAI juga menyampaikan bahwa mereka telah menerapkan pengamanan ketat serta melakukan pemantauan secara cermat terhadap penggunaan teknologi AI dalam operasionalnya.