JAKARTA — Polemik seputar kecerdasan buatan Grok AI di platform X terus bergulir dan kian meluas. Setelah maraknya penggunaan Grok untuk membuat konten asusila dan pornografi berbasis manipulasi foto, pemilik X, Elon Musk, akhirnya membatasi fitur pembuatan dan penyuntingan gambar. Namun, kebijakan tersebut justru memunculkan gelombang kritik baru karena dinilai belum menyelesaikan persoalan mendasar.
Sejak 9 Januari 2026 waktu Amerika Serikat, fitur pembuatan dan edit gambar Grok di X hanya dapat diakses oleh pelanggan X Premium. Pengguna gratis yang mencoba memanggil Grok melalui unggahan dengan tagar @Grok akan menerima pesan otomatis yang menyatakan bahwa fitur tersebut dikunci dan hanya tersedia untuk pelanggan berbayar. Pengguna kemudian diarahkan untuk berlangganan layanan premium.
Langkah ini diambil setelah meningkatnya laporan penyalahgunaan Grok AI untuk menghasilkan gambar pornografi, termasuk deepfake. Dalam praktiknya, foto seseorang dapat dimanipulasi sedemikian rupa hingga tampak seolah terlibat dalam adegan asusila, padahal tidak pernah terjadi. Teknologi ini dinilai berbahaya karena dapat digunakan tanpa persetujuan korban dan sulit dibedakan dari gambar asli oleh masyarakat awam.
Meski sudah dibatasi, kebijakan xAI belum sepenuhnya menutup akses. Sejumlah pengguna melaporkan bahwa pembuatan gambar masih dapat dilakukan melalui tab Grok yang tersedia langsung di aplikasi X. Selain itu, aplikasi Grok yang berdiri terpisah dari X juga masih memungkinkan pembuatan gambar tanpa pembatasan serupa. Fakta ini memunculkan kritik bahwa pembatasan yang diterapkan bersifat setengah hati dan tidak konsisten.
Reaksi keras muncul dari berbagai negara. Di Inggris, pemerintah menilai kebijakan tersebut hanya memindahkan fitur bermasalah ke layanan berbayar. Menurut pejabat setempat, inti persoalan bukan pada siapa yang membayar, melainkan pada absennya sistem pencegahan yang kuat untuk mencegah pembuatan konten ilegal sejak awal. Komisi Eropa juga menyampaikan pandangan serupa, dengan menegaskan bahwa konten asusila tetap tidak dapat diterima dalam kondisi apa pun.
Di Amerika Serikat, polemik Grok AI bahkan masuk ke ranah politik. Sejumlah senator dilaporkan melayangkan surat kepada Apple dan Google untuk meminta evaluasi terhadap keberadaan aplikasi X di toko aplikasi mereka. Para senator menilai platform X belum sepenuhnya memenuhi standar distribusi aplikasi terkait keamanan pengguna dan perlindungan dari konten berbahaya.
Di Indonesia, isu ini mendapat perhatian serius dari Kementerian Komunikasi dan Digital atau Komdigi. Pemerintah menyatakan telah melakukan penyelidikan awal terhadap Grok AI. Hasil penelusuran sementara menunjukkan bahwa Grok belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto asli warga Indonesia.
Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, menegaskan bahwa manipulasi foto pribadi menjadi konten asusila merupakan pelanggaran serius terhadap privasi dan hak atas citra diri. Hak ini memberikan setiap individu kendali atas bagaimana identitas visualnya digunakan. Ketika foto seseorang dimanipulasi dan disebarkan tanpa izin, dampaknya tidak hanya bersifat moral, tetapi juga psikologis dan sosial.
Menurut Komdigi, pelanggaran hak citra diri dapat menimbulkan trauma berkepanjangan bagi korban. Reputasi korban bisa rusak, hubungan sosial terganggu, dan kepercayaan diri menurun. Dalam konteks digital, jejak konten semacam ini juga sulit dihapus sepenuhnya, sehingga dampaknya bisa berlangsung lama.
Pemerintah Indonesia menegaskan bahwa seluruh Penyelenggara Sistem Elektronik wajib memastikan teknologi yang mereka sediakan tidak menjadi sarana pelanggaran hukum. Saat ini, Komdigi tengah berkoordinasi dengan berbagai PSE untuk memperkuat sistem moderasi konten, mencegah pembuatan deepfake asusila, serta memastikan adanya mekanisme pelaporan dan penanganan cepat bagi korban.
Jika ditemukan ketidakpatuhan atau sikap tidak kooperatif, pemerintah dapat menjatuhkan sanksi administratif hingga pemutusan akses layanan. Opsi pemblokiran terhadap layanan Grok AI maupun platform X tidak dikesampingkan apabila pelanggaran dinilai serius dan berulang.
Ancaman sanksi tersebut diperkuat dengan berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana sejak 2 Januari 2026. Dalam KUHP baru, konten pornografi diatur antara lain dalam Pasal 172 dan Pasal 407. Pasal-pasal tersebut memuat definisi pornografi serta ancaman pidana penjara paling singkat enam bulan dan paling lama sepuluh tahun, atau pidana denda sesuai ketentuan hukum yang berlaku.
Aturan ini tidak hanya menyasar pengguna yang membuat atau menyebarkan konten pornografi, tetapi juga membuka ruang tanggung jawab bagi penyedia layanan yang lalai melakukan pencegahan. Dengan demikian, penyedia teknologi kecerdasan buatan dituntut untuk lebih proaktif dalam membangun sistem pengamanan sejak awal.
Kasus Grok AI menjadi contoh nyata tantangan besar dalam pengelolaan kecerdasan buatan generatif. Di satu sisi, AI menawarkan efisiensi dan kemudahan luar biasa. Di sisi lain, tanpa pengawasan dan regulasi yang memadai, teknologi yang sama dapat berubah menjadi alat pelanggaran privasi dan martabat manusia.
Polemik ini juga mencerminkan meningkatnya tuntutan publik terhadap tanggung jawab platform digital. Masyarakat dan pemerintah kini menuntut agar inovasi teknologi tidak berjalan liar tanpa kendali. Grok AI, yang awalnya dipromosikan sebagai terobosan kecerdasan buatan, kini justru menjadi pengingat bahwa kemajuan teknologi harus selalu dibarengi perlindungan hukum, etika, dan penghormatan terhadap hak dasar setiap individu.
