CALIFORNIA – Sisi gelap kecerdasan buatan (Artificial Intelligence/AI) kembali memakan korban, dan kali ini pelakunya adalah teknologi yang seharusnya canggih dan aman.

Publik dunia maya dibuat gempar dan marah setelah mencuat laporan bahwa Grok, chatbot AI yang dikembangkan oleh perusahaan xAI milik Elon Musk, diduga memfasilitasi pembuatan gambar pornografi palsu (deepfake) dari foto seorang gadis remaja yang masih di bawah umur.

Kronologi: Foto Biasa Jadi Petaka

Insiden ini bermula ketika sebuah foto biasa seorang gadis remaja diunggah ke media sosial X (dahulu Twitter). Namun, oknum pengguna tak bertanggung jawab menggunakan fitur generasi gambar pada Grok untuk memanipulasi foto tersebut.

Dengan perintah (prompt) tertentu yang berhasil menembus filter keamanan, AI tersebut “melepas” pakaian remaja tersebut secara digital, menghasilkan gambar telanjang yang terlihat sangat realistis (photorealistic). Fenomena mengerikan ini dikenal sebagai Penelanjangan Digital atau Undressing.

Gagalnya Pagar Pengaman AI

Kasus ini memicu kritik keras terhadap xAI dan Elon Musk. Sebagai platform yang mengklaim menjunjung kebebasan berpendapat, Grok dinilai gagal memasang “pagar pengaman” (guardrails) yang memadai untuk mencegah pembuatan konten ilegal, terutama yang melibatkan eksploitasi seksual anak (Child Sexual Abuse Material/CSAM).

Meskipun perusahaan teknologi umumnya melarang konten NSFW (Not Safe For Work), para pengguna nakal terus menemukan celah (jailbreak) untuk memanipulasi algoritma agar menuruti perintah bejat tersebut.

Ledakan Kasus NCII

Apa yang terjadi pada remaja tersebut hanyalah puncak gunung es. Laporan global menunjukkan lonjakan drastis kasus Non-Consensual Intimate Imagery (NCII) berbasis AI.

Kini, siapa pun yang memiliki foto di internet—baik itu selebriti, guru, maupun pelajar—berisiko menjadi korban pelecehan seksual virtual. Pelaku hanya butuh satu foto wajah dan aplikasi AI untuk menghancurkan reputasi seseorang.

“Ini bukan lagi sekadar ‘gambar palsu’, ini adalah bentuk kekerasan seksual. Korbannya nyata, traumanya nyata,” ujar seorang aktivis keamanan digital menanggapi kasus Grok ini.

Desakan Regulasi Ketat

Insiden Grok ini menambah urgensi bagi pemerintah di seluruh dunia, termasuk Indonesia, untuk memperketat regulasi AI. Tanpa sanksi hukum yang berat bagi penyedia platform yang lalai dan pengguna yang jahat, ruang digital akan menjadi hutan rimba yang memangsa anak-anak dan perempuan.

Baca juga berita update lainnya disini: https://nakarimedia.com/

Baca juga berita update lainnya disini: https://binarnesia.com/