Pemerintah Indonesia melalui Kementerian Komunikasi, Informasi, dan Digital (Komdigi) resmi memblokir penggunaan Grok di platform X (dulunya Twitter) untuk sementara waktu. Keputusan ini disampaikan Menteri Komdigi Meutya Hafid pada Sabtu, 10 Januari 2026 melalui sebuah pernyataan resmi.

Dasar hukumnya adalah kewenangan Kementerian Komunikasi dan Digital sebagaimana diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat, khususnya Pasal 9, yang mewajibkan setiap Penyelenggara Sistem Elektronik (PSE) memastikan sistem elektronik yang dikelolanya tidak memuat, memfasilitasi, atau menyebarluaskan informasi elektronik dan/atau dokumen elektronik yang dilarang.

Dalam pernyataan resminya, Komdigi menyebut, suspensi penggunaan Grok sebagai langkah melindungi perempuan, anak, dan seluruh masyarakat dari risiko penyebaran konten pornografi palsu yang dihasilkan dari teknologi akal imitasi (artificial intelligence/AI). Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital.

Belakangan, Grok memang sering dipakai pengguna untuk menghapus pakaian, menggantinya dengan pakaian sensual, dan menempatkan objek dalam pose sensual pula. Konten hasil akal imitasi itu lalu muncul di beranda X lalu disaksikan pengguna lain, seringkali dalam kondisi tanpa konsensus. Situasi ini tentu merugikan setiap orang yang menjadi objek.

Rekayasa foto sensual oleh Grok menambah panjang daftar kekerasan digital di ruang maya tanpa ada mekanisme perlindungan yang jelas. Pengguna X tidak memiliki banyak opsi untuk melindungi privasi, selain melapor ke X atau langsung memberi perintah ke Grok. Sederhananya, siapapun berpotensi menjadi korban rekayasa pornografi oleh Grok.

X dan xAI sebagai pengembang Grok sudah merespons berbagai tekanan pemerintah. Baru-baru ini mereka mengumumkan bahwa fitur pembuatan dan pengeditan gambar kini hanya tersedia bagi pelanggan berbayar. Pembatasan ini dinilai sebagai langkah darurat untuk mengendalikan penyalahgunaan. Pada saat yang sama, Komdigi juga masih menunggu klarifikasi resmi X terkait “tingkah” Grok.

Keresahan Global

Dari hasil pengamatan Socindex, alat analitik media sosial, diketahui terdapat lima konten berbahasa Inggris teratas yang memuat kata kunci Grok di X antara 1 Agustus 2025 – 13 Januari 2026, tiga diantaranya adalah cuitan Elon Musk, sisanya cuitan dari dua akun centang biru @StrangerNews11 dan @TheMG3D yang meminta Elon Musk segera berbuat sesuatu untuk menghentikan Grok dari upaya sensualisasi foto Neil Fisher, aktris cilik yang bermain sebagai Holly Wheeler dalam serial terkenal Stranger Things 5. Jika dua cuitan itu masuk lima konten teratas, artinya rekayasa foto sensual di Grok sudah sangat meresahkan.

Kekhawatiran serupa juga melanda negara-negara Barat. Selain Indonesia dan Malaysia yang memblokir Grok, tekanan juga datang dari Inggris, Uni Eropa, dan India. Mereka jengah melihat Grok dipakai untuk menelanjangi tidak hanya para perempuan dewasa, tapi juga anak-anak yang kondisi mentalnya masih rentan.

Regulator komunikasi Inggris, Ofcom sudah meluncurkan investigasi resmi terhadap Grok berkaitan dengan konten deepfake yang meresahkan. Ofcom bahkan mempertimbangkan untuk melabeli konten rekayasa Grok sebagai materi kekerasan seksual pada anak yang hukumannya cukup serius.

Komisi Uni Eropa juga mengecam Grok. Setelah konten kekerasan seksual Grok mengalir deras, Komisi meminta X untuk menahan semua dokumen yang berkaitan dengan pengembangan Grok. Dokumen itu diperlukan untuk memeriksa kelayakan operasional Grok di seluruh Uni Eropa. Untuk merespons kecaman keras Uni Eropa, divisi keamanan Grok sudah menghapus semua konten seksual hasil rekayasa Grok di platform X dan mensuspensi akun-akun yang mengunggahnya.

Grok juga menambah mimpi buruk para perempuan di India, negara yang perlindungan hukum pada perempuannya sangat rendah. Beberapa perempuan yang diwawancarai media independent.co.uk mengaku foto-foto selfie mereka yang sopan dan positif disalahgunakan banyak pria untuk fantasi seksual. Salah satu korbannya adalah Ruchi Kokcha, perempuan yang mengunggah selfie pertama di 2026 sebagai wujud optimisme menyambut tahun baru, justru mendapati swafotonya dalam balutan bikini berkat “kreativitas” Grok.

Seiring melejitnya popularitas Grok, fabrikasi konten sensual nonkonsensus di Grok juga sangat masif dalam beberapa bulan terakhir. Data dari situs peneliti AI, Genevieve mencatat dalam 24 jam antara 5-6 Januari 2026, Grok menghasilkan setidaknya 6.700 gambar setiap jam yang diidentifikasi “sexually suggestive or nudifying.“Angkanya bahkan 85 kali lebih banyak daripada lima situs teratas lain yang memiliki cara kerja seperti Grok. Situs-situs ini “hanya” menghasilkan 79 gambar sensual berbasis AI setiap jam.

Grok, Salah Sejak Dalam Pikiran

Sejak diluncurkan oleh xAI pada November 2023, Grok terus mengalami pembaruan. Versi pertamanya adalah Grok-1 diperkenalkan dalam akses beta terbatas untuk pengguna X Premium+. Grok lalu mengalami pembaruan pada Maret 2024 dalam versi Grok 1.5 yang menampilkan peningkatan kemampuan penalaran dan jendela konteks yang lebih panjang (128.000 token). Grok terus mendapatkan pembaruan hingga terakhir pada November 2025 lewat Grok 4.1.

Versi dasarnya, Grok 4 seharusnya menjadi magnum opus karya xAI sebagai terobosan di dunia kecerdasan buatan. Grok 4 ada di level yang berbeda dan berpikir bak “filsuf”. Mesin ini didesain agar berpikir dengan dasar-dasar yang kuat, pemecahan masalah yang kompleks, dan dibantu dengan coding kelas wahid. Pelatihannya saja menggunakan Colossus, superkomputer milik xAI yang dijalankan dengan lebih dari 200 ribu GPU (graphic processing unit/pengolah video dan grafis). Dengan skala seperti ini, Grok 4 berjalan layaknya dewa diantara mesin kecerdasan buatan lain.

Secara komersial, Grok 4 bersaing ketat dengan karya OpenAI, GPT-5 yang juga banyak dipakai secara global. Saat Elon Musk mengumumkan Grok 4 bisa dipakai secara gratis, balapan di dunia kecerdasan buatan berubah seketika. Termasuk, mengubah lanskap percakapan pengguna di platform X.

X yang menjadi platform favorit untuk diskusi ringan tapi bermakna, mendapatkan pengalaman baru setelah Grok digratiskan. Banyak pengguna yang memakai Grok untuk menanyakan pertanyaan sederhana, menguji validitas cuitan pengguna lain, hingga memerintah Grok untuk memodifikasi foto. Aspek terakhir yang belakangan ini menjadi keluhan.

Masalahnya, sejak diluncurkan, Grok berperilaku sangat ofensif, kontroversial, dan terkadang bertindak atas nilai-nilai yang dianut Elon Musk. Bukan kebenaran universal. Grok menjawab pertanyaan berbasis cuitan, pernyataan, dan preferensi pemiliknya. Selain itu, Grok pernah membuat kontroversi saat menyebut bahwa nama belakangnya adalah “Hitler” dan memposting pernyataan antisemit yang menjadi topik serius di negara-negara Eropa.

Kedua masalah di atas memang sudah diperbaiki xAI dengan cukup rasional. Sebagai respons, xAI telah memperbarui prompt sistem Grok yakni instruksi dasar yang membentuk cara berpikir model tersebut. Prompt lama yang mengizinkan gaya humor kering yang “fantastik” dan respons tidak sesuai norma politik kini telah dihapus. Kontroversi ini menjadi catatan bahwa Grok sudah salah sejak dalam pikiran dan berlawanan dengan etika global.

Etika Kecerdasan Buatan

Perdebatan tentang etika, legalitas, dan siapa yang bertanggungjawab dalam pengembangan AI masih terus berlanjut. Beberapa perusahaan pengembang seperti ChatGPT dan CharacterAI misalnya, sedang menghadapi sidang gugatan karena mendorong orang untuk melakukan bunuh diri. Belum lagi etika hak cipta yang dipakai dalam melatih AI selama masa pengembangan. Dan terakhir, isu rekayasa foto sensual nonkonsensus Grok menjadi palu godam terakhir untuk industri AI.

Beberapa chatbot AI bisa diperintah untuk membuat deepfake pornografi, akan tetapi hanya Grok yang mau melakukannya. Dalam beberapa kasus, Grok justru yang mendominasi percakapan dan mengarahkan ke aspek-aspek tertentu. Parahnya lagi, percakapan Grok dan pengguna terjadi di linimasa tempat semua orang bisa melihat perintah dan hasil akhir yang diberikan Grok. Singkatnya, Grok menyajikan foto menjijikkan hasil rekayasa ke seluruh dunia.

Tidak seperti biasanya, Komdigi merespons cepat isu yang merugikan publik – apalagi perempuan – dengan memblokir Grok di Indonesia. Keputusan ini diapreasiasi masyarakat, sekaligus menegaskan stance pemerintah adalah bersama para korban kekerasan seksual di ruang digital.

Selain melindungi anak dan perempuan, pemblokiran Grok juga menjadi peringatan untuk X, xAI, dan Elon Musk. Ketiganya, sebagai pemilik, platform dan perusahaan pengembang Grok dianggap lalai dalam mengontrol produknya. Apalagi menembus batas-batas privasi yang sangat sensitif di media sosial.

Pengaturan penggunaan AI di Indonesia tercantum dalam dua dokumen strategis penting, yakni Etika Kecerdasan Buatan Nasional dan Peta Jalan Pengembangan AI Indonesia hasil pengembangan Komdigi dan BRIN. Kedua instrumen tersebut akan menjadi panduan bagi sektor publik, swasta, maupun akademik dalam mengimplementasikan teknologi AI secara bertanggung jawab.

Peta jalan AI di Indonesia fokus pada empat pilar:

1. Etika dan Kebijakan untuk memastikan pengembangan KA didasarkan pada nilai-nilai Pancasila dengan prinsip transparansi, akuntabilitas, dan berpusat pada manusia.
2. Pengembangan Talenta melalui jalur pendidikan formal, pelatihan vokasi, dan kerja sama lintas sektor.
3. Pembangunan Infrastruktur dan Data dengan memperkuat ekosistem data nasional seperti program Satu Data Indonesia, serta membangun infrastruktur cloud dan edge computing yang dapat diakses secara luas.
4. Riset dan Inovasi Industri dengan mendorong kolaborasi Quadruple Helix (pemerintah, industri, akademisi, dan komunitas) untuk mengaplikasikan AI di sektor prioritas seperti kesehatan, reformasi birokrasi, pendidikan, ketahanan pangan, dan kota pintar (smart city).

Dari wajah peta jalan AI nasional, etika dan kebijakan menjadi poin utama yang menjadi pijakan penggunaan AI secara bertanggungjawab. Dasar itu juga yang membuat Komdigi bergerak cepat dengan memblokir Grok serta memanggil X untuk memberikan klarifikasi.

Nah, masalahnya adalah siapa yang harus bertanggungjawab atas konten rekayasa sensual nonkonsensus tersebut? Pengguna yang memberi perintah atau X yang memberikan wadah dan alat untuk mengeksekusi fantasi liar pengguna? Perdebatan ini bak logika ayam dan telur.

Musk dalam dalam cuitannya sudah memeringatkan, siapapun yang memanfaatkan Grok untuk membuat konten ilegal atau mengunggahnya di X akan menghadapi konsekuensi hukum serius. Bisa diartikan, Musk meyakini wabah sensualisasi foto dengan deepfake adalah kesalahan pengguna, bukan Grok.

Sebaliknya, Komdigi belum merancang langkah hukum sejauh itu untuk menghentikan penyebaran konten-konten sensual deepfake. Sejauh ini, baru platform yang menjadi target penertiban, bukan para pengguna yang akunnya bisa dilacak dan diberi ancaman hukum pidana.

Namun, sepertinya penindakan pada pembuat konten-konten ilegal berbasis AI masih belum akan terjadi dalam waktu dekat. Fokus utama Komdigi di industri yang sangat dinamis ini adalah pemerataan infrastruktur dan investasi talenta industri AI. Pembuatan regulasi akan berbasis insentif dan tidak menekankan biaya kepatuhan tinggi agar watak industri AI yang sangat fleksibel dan inovatif bisa berkembang dalam skala yang maksimal.

Anomali Popularitas Grok

Sejak digratiskan pada Agustus 2025, popularitas Grok terus melejit, bahkan sampai pada level yang melelahkan. Antara 1 Agustus 2025 sampai 13 Januari 2026, ditemukan 248.752 konten dan komentar berbahasa Indonesia yang menyebut Grok di X. Konten di X ini mendapat 462.073 engagement, 305.586 likes, dan melibatkan 636.706 audiens.

Menariknya, dari analisis bot percakapan oleh Socindex menunjukkan arah diskusi berjalan secara organik. Sebanyak 86,51% komentar datang dari akun organik (human), 11,03% dari gabungan bot dan manusia, dan hanya 2,46% komentar yang muncul dari bot. Poin ini menunjukkan bahwa Grok benar-benar dipakai dalam percakapan X, bahkan untuk hal-hal yang remeh.

Seperti disampaikan sebelumnya, penggratisan Grok untuk seluruh pengguna X mengubah wajah percakapan di platform secara drastis. Alih-alih mencari riset secara mandiri, pengguna X dengan mudahnya menyebut Grok untuk memvalidasi fakta yang disampaikan pengguna lain. Akibat masifnya penyebutan Grok, banyak pengguna yang jengah dengan kebiasaan ini.

Pada rentang waktu yang sama, justru dua konten teratas yang paling banyak mendapat likes dan retweet adalah konten yang meluapkan kejengahan pada Grok, dan chatbot AI lain. Cuitan @donjulido yang berisi kekesalan pengguna karena terlalu banyak memakai Grok bahkan untuk percakapan sederhana menjadi cuitan yang paling banyak disukai.

Keresahan akun @donjulido mendapat validasi dari pengguna X lain. Mereka jenuh dengan penggunaan Grok secara berlebihan, lalu membisukan kata kunci Grok. Ada juga yang konsen dengan isu lingkungan berpendapat, penggunaan Grok (dan AI lain) secara masif berkontribusi pada pemanasan global yang lebih buruk.

Rupanya, popularitas Grok bak pedang bermata dua. Di satu sisi banyak pengguna yang memanfaatkan Grok untuk memudahkan interaksi. Kubu yang lain, merasa terganggu dengan pemakaian Grok yang dirasa sudah melewati batas. Kedua kelompok ini, langsung atau tidak langsung, rupanya justru semakin mempopulerkan Grok di platform X.

Pemblokiran Grok yang menjadi isu internasional rupanya tidak banyak diangkat media. Platform monitoring media massa Newstensity hanya mendapatkan 565 berita antara 1 – 13 Januari 2026 untuk berita yang memuat kata ″grok″ dan ″blokir.″ Angkanya tidak mencerminkan spektrum percakapan di media sosial yang teramplifikasi dengan sangat masif.

Isunya juga tidak mampu bertahan lama. Sejak diumumkan pemblokiran oleh Komdigi pada 10 Januari 2026, relevansi isu hanya bertahan hingga dua hari dan kemudian terjun bebas hingga kemarin, 14 Januari 2026. Diperkirakan, lonjakan spektrum isu akan muncul saat momentum klarifikasi X dan pembukaan suspensi diberikan Komdigi. Sampai saat itu terjadi, volume publikasi media massa diprediksi masih akan stagnan.

Penutup

Langkah Komdigi memblokir Grok mendapat apresiasi publik untuk melindungi anak-anak dan perempuan dari penyebaran konten pornografi palsu. Sayangnya, seperti biasa Komdigi sebagai regulator masih tergagap dengan reaktif memanggil X untuk memberi klarifikasi. Jika ingin memberi efek gentar, Komdigi sebaiknya mengancam pidana para pembuat dan penyebar konten pornografi di X, palsu atau asli. Etika penggunaan AI masih diperdebatkan secara global, sementara peta jalan industri AI di Indonesia belum terdiseminasi secara maksimal. Padahal, regulasi yang berimbang akan memajukan industri AI yang diprediksi bernilai USD 388 miliar atau Rp 6.148 triliun pada 203,0 menurut Kementerian Perindustrian.

Kontributor

Khoirul Rifai (Jangkara)

Aan K. Riyadi