Kemkomdigi Tanggapi Penyalahgunaan Grok AI yang Produksi Konten Porno

Kemkomdigi Tanggapi Penyalahgunaan Grok AI yang Produksi Konten Porno

Kementerian Komunikasi dan Digital (Kemkomdigi) mengungkap bahwa Grok AI, chatbot yang dimiliki oleh X, terlibat dalam pembuatan konten asusila pengguna. Pihak kementerian mengklaim sedang menangani isu ini dengan serius.

Baca juga: Sherina Munaf Selamatkan Kucing dari Rumah Uya Kuya Pasca Perampokan

Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, menekankan bahwa Grok AI masih memiliki kekurangan dalam pengaturan untuk mencegah distribusi konten pornografi yang melanggar privasi individu di Indonesia.

Kurangnya Pengaturan di Grok AI

Alexander Sabar dalam penjelasannya menyatakan bahwa temuan awal menunjukkan kurangnya pengaturan spesifik dalam teknologi Grok AI untuk mencegah pemanfaatan dalam pembuatan konten pornografi. Hal ini dapat menimbulkan pelanggaran hak privasi dan citra diri warga negara.

Pernyataan ini disampaikan untuk menunjukkan bahwa manipulasi foto pribadi tidak hanya masalah kesusilaan. Alexander mengungkapkan, "hal ini dapat berdampak pada kontrol individu atas identitas visual mereka, yang berisiko menimbulkan kerugian baik psikologis maupun reputasi sosial."

Baca juga: Dampak Perkataan Kasar Orang Tua Terhadap Psikologi Anak

Sanksi bagi Pelanggar Kebijakan

Kemkomdigi juga menegaskan bahwa semua penyelenggara sistem elektronik (PSE) di Indonesia wajib mematuhi peraturan yang berlaku. Pelanggaran dapat berujung pada sanksi administratif hingga pemutusan akses layanan Grok AI dan platform X.

Menyusul isu ini, penyedia layanan AI yang terlibat dalam pembuatan atau penyebaran konten pornografi akan menghadapi sanksi administratif dan pidana. Pengguna yang melakukan tindakan serupa juga akan dikenakan sanksi sesuai hukum.

Perlindungan Hukum bagi Korban

Dengan diberlakukannya UU No 1 Tahun 2023 tentang Kitab UU Hukum Pidana, diatur bahwa pornografi tercantum dalam Pasal 172 dan 407. Pasal 172 mendefinisikan pornografi sebagai media yang mengandung kecabulan yang melanggar norma kesusilaan.

Korban dari manipulasi foto atau pelanggaran hak citra diri memiliki hak untuk melaporkan peristiwa tersebut kepada aparat penegak hukum atau Kemkomdigi. Alexander juga menyerukan agar semua pengguna teknologi memahami tanggung jawab mereka dan menghormati hak privasi serta citra diri orang lain.

Baca juga: Pentingnya Pemeriksaan Kesehatan Rutin untuk Masyarakat