Penyebaran Konten Asusila Menggunakan AI Memicu Perubahan Kebijakan
Perkembangan teknologi kecerdasan buatan (AI) terus menghadirkan berbagai tantangan, termasuk dalam hal penggunaannya yang tidak bertanggung jawab. Salah satu contohnya adalah penyalahgunaan Grok AI untuk membuat konten asusila, yang kini menjadi perhatian serius dari berbagai pihak. X/Twitter, yang mengoperasikan Grok AI, akhirnya mengambil langkah tegas dengan membatasi fitur pembuatan dan penyuntingan gambar hanya untuk pelanggan berbayar. Langkah ini dilakukan setelah banyak laporan tentang maraknya pembuatan konten ilegal menggunakan AI.
Pembatasan Fitur untuk Pengguna Berbayar
Kebijakan baru ini berlaku di X Twitter pada Jumat (9/1/2026) waktu Amerika Serikat. Ketika pengguna gratis mencoba meminta Grok untuk membuat gambar, chatbot tersebut akan menampilkan pesan yang mengarahkan mereka untuk berlangganan layanan Premium. Pesan tersebut menyatakan, “Pembuatan dan penyuntingan gambar saat ini dibatasi untuk pelanggan berbayar. Anda dapat berlangganan untuk membuka fitur ini.”
Namun, kebijakan ini tidak sepenuhnya menghalangi pengguna gratis. Jika pengguna langsung membuka tab Grok di X/Twitter, mereka masih bisa memerintahkan bot untuk membuat gambar. Selain itu, pengguna juga masih bisa menggunakan aplikasi Grok yang terpisah dari X/Twitter tanpa adanya batasan sejenis.
Kritik terhadap Kebijakan Baru
Langkah X/Twitter ini mendapat kritik dari berbagai negara, karena dinilai tidak menyelesaikan akar masalah, melainkan hanya memindahkan akses fitur ke layanan berbayar. Di Inggris, juru bicara Perdana Menteri Keir Starmer mengecam kebijakan ini dengan menyebutnya sebagai “hanya mengubah fitur AI yang bisa membuat gambar ilegal, menjadi layanan premium.”
Di AS, beberapa senator mengirim surat ke Apple dan Google, meminta keduanya untuk menghapus X/Twitter dari toko aplikasi karena dianggap melanggar ketentuan distribusi. Sementara itu, juru bicara Komisi Eropa juga menilai bahwa batasan ini tidak mengubah masalah inti. “Ini tidak mengubah masalah intinya, berlangganan atau tidak, kami tidak ingin melihat gambar-gambar seperti itu,” kata juru bicara Komisi Eropa.
Penyelidikan oleh Kementerian Komunikasi dan Digital (Komdigi)
Selain itu, Kementerian Komunikasi dan Digital (Komdigi) juga melakukan penyelidikan terhadap Grok AI. Menurut Komdigi, praktik mengedit foto menjadi konten asusila dapat melanggar privasi dan hak citra diri, serta berpotensi dikenai sanksi hingga pemutusan akses layanan atau blokir.
Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, menyatakan bahwa hasil penelusuran awal menunjukkan bahwa Grok AI belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto asli warga Indonesia. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga.
Tindakan Hukum yang Dapat Diterapkan
Komdigi menegaskan bahwa penyedia layanan AI maupun pengguna yang terbukti memproduksi dan/atau menyebarkan konten pornografi atau manipulasi citra pribadi tanpa hak, bisa dikenakan sanksi administratif dan/atau pidana sesuai ketentuan hukum yang berlaku.
Sejak berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) pada 2 Januari 2026, konten pornografi diatur antara lain dalam Pasal 172 dan Pasal 407. Pasal 172 mendefinisikan pornografi sebagai media yang memuat kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan, sementara Pasal 407 mengatur ancaman pidana penjara paling singkat 6 (enam) bulan dan paling lama 10 (sepuluh) tahun atau pidana denda sesuai ketentuan.
Alexander mengimbau seluruh pihak untuk menggunakan teknologi secara bertanggung jawab. “Ruang digital bukan ruang tanpa hukum, ada privasi dan hak atas citra diri setiap warga yang harus dihormati dan dilindungi,” ujarnya.
