Wakil Menteri Kominfo, Nezar Patria, berbagi cerita tentang teman-temannya yang hampir percaya pada video deepfake Jokowi yang berbicara dalam bahasa Mandarin, meskipun mereka sebenarnya memiliki pemahaman digital yang cukup baik.
“Dunia semakin maju. Banyak teman saya yang mahir di dunia digital hampir saja percaya bahwa pidato tersebut terjadi di Beijing, sampai terungkap bahwa itu hanyalah hasil dari teknologi deepfake,” ujar Nezar dalam Diskusi Multi-Pemangku Kepentingan untuk Pengembangan Kerangka Etika Kecerdasan Buatan di Jakarta, pada hari Selasa (5/12/2023).
Dia mengakui bahwa kecerdasan buatan sering kali digunakan untuk menyebarkan informasi yang salah dan menyesatkan, baik oleh kelompok tertentu maupun individu. Penggunaan kecerdasan buatan generatif dalam pembuatan deepfake dapat memperburuk kekacauan informasi, bahkan sulit untuk membedakan informasi yang benar dan yang salah.
“Kehadiran kecerdasan buatan generatif menjadi ancaman serius. Ini dapat mengganggu aliran informasi yang kita terima,” tambahnya.
Oleh karena itu, Kementerian Kominfo telah merancang draf Surat Edaran tentang Kecerdasan Buatan yang berisi pedoman dan ketentuan etis dalam pemanfaatan teknologi ini di Indonesia. Tujuannya adalah agar penerapan kecerdasan buatan dapat memberikan manfaat maksimal dan menghindari dampak negatifnya.
Pembatasan Penggunaan AI dalam Pemilu 2024: Langkah dan Ancaman Teknologi Terhadap Keabsahan Informasi
Pembatasan yang diberlakukan oleh perusahaan-perusahaan raksasa teknologi seperti Google dan Meta (sebelumnya dikenal sebagai Facebook) terhadap penggunaan kecerdasan buatan (AI) dalam pemilihan umum 2024 memiliki implikasi luas.
Langkah-langkah ini, yang meliputi larangan iklan politik oleh Meta serta penyesuaian kebijakan Google terhadap jawaban AI terkait pemilu, menjadi respons atas kekhawatiran akan penyebaran informasi palsu dan hoaks.
Di sisi lain, Twitter X yang dimiliki Elon Musk mengecualikan iklan politik, yang saat ini tengah diselidiki oleh Uni Eropa. Di Indonesia, penggunaan AI dalam pemilu mendapat sorotan, dengan pemerintah mencari cara untuk mengatur agar teknologi ini tidak disalahgunakan.
Wakil Menteri Kominfo menyatakan kekhawatiran akan deepfake dan informasi palsu yang dihasilkan AI, yang menegaskan perlunya aturan etis yang ketat.
