Pemerintah Indonesia mengambil langkah tegas di awal 2026 dengan memutus akses sementara terhadap Grok AI, layanan kecerdasan buatan terintegrasi milik Elon Musk yang beroperasi di platform X. Keputusan ini diumumkan Kementerian Komunikasi dan Digital (Komdigi) sebagai respons atas maraknya penyalahgunaan teknologi AI untuk memproduksi konten pornografi berbasis deepfake yang menyasar warga negara Indonesia.
Pemblokiran tersebut bukan keputusan mendadak. Dalam beberapa bulan terakhir, Komdigi mencatat lonjakan signifikan laporan masyarakat terkait beredarnya foto dan gambar asusila hasil manipulasi AI yang tampak sangat realistis. Pemerintah menilai Grok AI belum memiliki sistem pengamanan yang memadai untuk mencegah pembuatan konten seksual non-konsensual, sehingga berpotensi melanggar hak privasi dan martabat individu.
Ancaman Serius Grok AI Deepfake Seksual
Dalam keterangan resmi Sabtu (10/1/2026), Komdigi menegaskan bahwa langkah pemutusan akses ini dilakukan demi melindungi hak asasi manusia di ruang digital. Fokus utama pemerintah tertuju pada kemampuan Grok AI mengubah foto nyata menjadi konten pornografi hanya melalui perintah teks sederhana.
Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, menyebut hasil investigasi awal menemukan celah pengamanan yang serius. Menurutnya, Grok AI belum dilengkapi pagar pembatas yang efektif untuk menolak permintaan pembuatan konten asusila yang melibatkan individu tanpa persetujuan. Kondisi ini dinilai sangat berbahaya karena dapat merusak reputasi, kesehatan mental, hingga kehidupan sosial korban.
Teknologi AI seharusnya menjadi sarana kemajuan, bukan alat pelecehan digital, tegas Alexander.
Dasar Hukum Pemblokiran
Langkah Komdigi merujuk pada Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat. Regulasi tersebut mewajibkan setiap platform digital memastikan layanannya tidak memfasilitasi konten yang melanggar hukum, termasuk pornografi dan pelanggaran kesusilaan.
Pemerintah menilai pengelola Grok AI belum memenuhi kewajiban tersebut di Indonesia. Pemutusan akses bersifat sementara dan dapat dicabut apabila pihak pengembang melakukan perbaikan sistem filter konten serta menyesuaikan proteksi dengan konteks hukum dan budaya Indonesia.
Menuai Sorotan Global
Pemblokiran Grok AI di Indonesia menambah daftar panjang tantangan hukum yang dihadapi Elon Musk di berbagai negara. Sejumlah negara Eropa sebelumnya juga menyoroti isu serupa terkait perlindungan privasi dan transparansi data.
Di dalam negeri, kebijakan ini mendapat dukungan luas dari aktivis perlindungan perempuan dan pakar keamanan siber Tuna55. Namun, sebagian pengguna dan komunitas teknologi menyayangkan langkah tersebut karena menutup akses ke salah satu asisten AI paling canggih saat ini.
Meski demikian, pemerintah menegaskan bahwa inovasi teknologi tidak dapat berjalan tanpa tanggung jawab etika dan kepatuhan hukum. Kasus Grok AI menjadi sinyal kuat bahwa Indonesia serius menjaga kedaulatan dan keamanan ruang digitalnya.
