Kementerian Komunikasi dan Digital (Kemkomdigi) menegaskan bahwa pemerintah dapat menerapkan kebijakan putus sementara akses terhadap Penyelenggara Sistem Elektronik (PSE) yang tidak kooperatif dalam menangani dugaan penyalahgunaan Grok AI untuk membuat dan menyebarkan konten asusila berbasis foto pribadi.
Pemerintah menemukan indikasi bahwa Grok AI digunakan untuk menghasilkan konten manipulatif yang memanfaatkan foto warga Indonesia tanpa persetujuan. Minimnya proteksi bawaan terhadap pembuatan konten sensitif membuat kasus ini menjadi perhatian serius.
Poin Penyelidikan Utama
- Konten asusila dibuat dari foto pribadi tanpa izin.
- Kekurangan sistem proteksi pada Grok AI yang memungkinkan penyalahgunaan.
- Risiko pencemaran nama dan pelanggaran privasi individu.
Tindakan Pemerintah
Kemkomdigi melakukan koordinasi dengan platform X dan PSE terkait untuk memperkuat moderasi konten, memastikan respons cepat terhadap laporan publik, dan mengawasi praktik penggunaan AI.
Jika penyedia layanan tidak kooperatif, opsi putus sementara akses akan diberlakukan sebagai langkah hukum untuk menjaga keamanan ruang digital Indonesia.
Dampak bagi Bisnis
Bisnis digital perlu memperhatikan tata kelola AI, regulasi konten, dan sistem pengawasan internal. Ketidakpatuhan dapat berakibat pada risiko hukum, reputasi, hingga potensi pemutusan layanan.
Kesimpulan
Kebijakan putus sementara akses menegaskan komitmen pemerintah untuk melindungi masyarakat dari penyalahgunaan teknologi AI dan memastikan standar etika digital yang lebih kuat di Indonesia.
