-
Kementerian Komunikasi dan Digital memberikan peringatan keras terhadap platform X dan layanan Grok AI terkait penyalahgunaan kecerdasan buatan.
-
Teknologi Grok AI dituding memfasilitasi pembuatan konten pornografi non-konsensual melalui fitur manipulasi foto yang melanggar hukum di Indonesia.
Baca Juga: Kejari Kota Kediri Mutasi, Theresia Tri Widorini Geser Berganti Rivo Chandra Makarupa
-
Pemerintah menuntut langkah konkret dari Elon Musk untuk melakukan penyaringan konten demi menghindari pemutusan akses total di tanah air.
Dampak Penyalahgunaan AI Terhadap Keamanan Ruang Digital
Pemerintah Indonesia melalui Kementerian Komunikasi dan Digital (Komdigi) secara resmi melayangkan ancaman blokir terhadap platform media sosial X (dahulu Twitter) beserta layanan kecerdasan buatan miliknya, Grok AI. Langkah tegas ini diambil menyusul temuan maraknya penggunaan fitur
Grok AI untuk menciptakan konten manipulasi foto asusila atau pornografi non-konsensual. Komdigi menilai bahwa pembiaran terhadap penyalahgunaan teknologi ini telah menciptakan ancaman serius bagi keamanan digital dan martabat pengguna di Indonesia, terutama perempuan dan anak di bawah umur.
Menteri Komunikasi dan Digital menegaskan bahwa kebebasan berekspresi maupun inovasi teknologi tidak boleh menabrak batasan hukum yang berlaku di Indonesia, khususnya UU ITE dan UU Pornografi.
Grok AI, yang terintegrasi di dalam platform X, diketahui memiliki kemampuan generatif yang memungkinkan pengguna mengubah foto asli menjadi konten vulgar dalam hitungan detik. Tanpa adanya sistem moderasi yang ketat dan filter pelarangan konten pornografi, platform milik Elon Musk tersebut dianggap telah melanggar prinsip kepatutan dan regulasi nasional.
Isu ini mencuat setelah laporan masyarakat dan pengamat keamanan siber meningkat terkait penyebaran konten hasil rekayasa kecerdasan buatan (AI) yang sangat realistis di linimasa X. Ketajaman teknologi Grok AI dalam memproses perintah teks menjadi gambar (text-to-image) tanpa sensor yang memadai membuat platform tersebut menjadi sarana empuk bagi pelaku kejahatan siber untuk melecehkan individu secara digital.
FAQ
Ancaman blokir dilakukan karena adanya temuan penyalahgunaan Grok AI di platform X untuk membuat dan menyebarkan konten manipulasi foto asusila (pornografi non-konsensual).
Grok AI adalah layanan kecerdasan buatan generatif milik Elon Musk yang terintegrasi di platform X, mampu memproses perintah untuk menghasilkan teks maupun gambar.
Pemerintah menilai X melanggar UU ITE dan UU Pornografi karena minimnya moderasi dan filter terhadap konten ilegal hasil rekayasa AI.
Pemblokiran akan dilakukan jika pihak X tidak segera merespons peringatan pemerintah dengan memperbaiki sistem penyaringan konten dalam batas waktu yang ditentukan.
