-
Kementerian Komunikasi dan Digital memberikan peringatan keras terhadap platform X dan layanan Grok AI terkait penyalahgunaan kecerdasan buatan.
-
Teknologi Grok AI dituding memfasilitasi pembuatan konten pornografi non-konsensual melalui fitur manipulasi foto yang melanggar hukum di Indonesia.
-
Pemerintah menuntut langkah konkret dari Elon Musk untuk melakukan penyaringan konten demi menghindari pemutusan akses total di tanah air.
Dampak Penyalahgunaan AI Terhadap Keamanan Ruang Digital
Pemerintah Indonesia melalui Kementerian Komunikasi dan Digital (Komdigi) secara resmi melayangkan ancaman blokir terhadap platform media sosial X (dahulu Twitter) beserta layanan kecerdasan buatan miliknya, Grok AI. Langkah tegas ini diambil menyusul temuan maraknya penggunaan fitur
Baca Juga: RUU Perampasan Aset Jadi Terobosan 2 Skema Baru Negara Sita Harta Hasil Korupsi
Grok AI untuk menciptakan konten manipulasi foto asusila atau pornografi non-konsensual. Komdigi menilai bahwa pembiaran terhadap penyalahgunaan teknologi ini telah menciptakan ancaman serius bagi keamanan digital dan martabat pengguna di Indonesia, terutama perempuan dan anak di bawah umur.
Menteri Komunikasi dan Digital menegaskan bahwa kebebasan berekspresi maupun inovasi teknologi tidak boleh menabrak batasan hukum yang berlaku di Indonesia, khususnya UU ITE dan UU Pornografi.
Grok AI, yang terintegrasi di dalam platform X, diketahui memiliki kemampuan generatif yang memungkinkan pengguna mengubah foto asli menjadi konten vulgar dalam hitungan detik. Tanpa adanya sistem moderasi yang ketat dan filter pelarangan konten pornografi, platform milik Elon Musk tersebut dianggap telah melanggar prinsip kepatutan dan regulasi nasional.
Isu ini mencuat setelah laporan masyarakat dan pengamat keamanan siber meningkat terkait penyebaran konten hasil rekayasa kecerdasan buatan (AI) yang sangat realistis di linimasa X. Ketajaman teknologi Grok AI dalam memproses perintah teks menjadi gambar (text-to-image) tanpa sensor yang memadai membuat platform tersebut menjadi sarana empuk bagi pelaku kejahatan siber untuk melecehkan individu secara digital.
Pemerintah menganggap X gagal memberikan jaminan keamanan bagi penggunanya di Indonesia dengan membiarkan fitur tersebut dapat diakses secara bebas tanpa proteksi konten sensitif.
Saat ini, Komdigi telah mengirimkan surat peringatan resmi kepada pihak X untuk segera melakukan audit internal dan memperbarui sistem algoritma Grok AI. Pemerintah menuntut agar platform tersebut memasang pagar pembatas (guardrails) yang mampu mendeteksi serta mencegah pembuatan konten ilegal.
Jika dalam kurun waktu yang ditentukan pihak X tidak menunjukkan itikad baik atau perubahan signifikan pada sistem moderasi mereka, pemerintah tidak akan ragu untuk mengambil langkah ekstrem berupa pemutusan akses atau pemblokiran secara menyeluruh terhadap situs dan aplikasi X di wilayah Indonesia.
Situasi ini menambah daftar panjang ketegangan antara pemerintah Indonesia dengan platform digital global terkait moderasi konten. Komdigi juga mengingatkan bahwa setiap platform yang beroperasi dan mengambil keuntungan dari pasar Indonesia wajib tunduk pada aturan PSE (Penyelenggara Sistem Elektronik).
Ancaman blokir ini diharapkan menjadi peringatan bagi pengembang teknologi AI lainnya agar lebih bertanggung jawab dalam meluncurkan fitur yang memiliki risiko tinggi disalahgunakan untuk tindakan kriminal.
Ke depannya, nasib X di Indonesia sepenuhnya bergantung pada respons Elon Musk dan tim pengembangnya dalam menangani keresahan pemerintah. Publik kini menanti apakah platform tersebut akan memilih untuk berkompromi dengan regulasi lokal demi mempertahankan basis penggunanya yang besar di Indonesia, atau tetap pada kebijakan moderasi longgarnya yang berisiko berujung pada pemblokiran permanen.
FAQ
Ancaman blokir dilakukan karena adanya temuan penyalahgunaan Grok AI di platform X untuk membuat dan menyebarkan konten manipulasi foto asusila (pornografi non-konsensual).
Grok AI adalah layanan kecerdasan buatan generatif milik Elon Musk yang terintegrasi di platform X, mampu memproses perintah untuk menghasilkan teks maupun gambar.
Pemerintah menilai X melanggar UU ITE dan UU Pornografi karena minimnya moderasi dan filter terhadap konten ilegal hasil rekayasa AI.
Pemblokiran akan dilakukan jika pihak X tidak segera merespons peringatan pemerintah dengan memperbaiki sistem penyaringan konten dalam batas waktu yang ditentukan.
