Jakarta, Arina.id —Biasanya hal yang akan terdengar dari Bernadya Ribka adalah nyanyian merdu menyoal kegalauan anak muda. Tentu, ingatan soal lagu bertajuk Satu Bulan (2023), Apa Mungkin (2023), Untungnya Hidup Harus Tetap Berjalan (2024) masih terngiang-ngiang di telinga masyarakat Indonesia. Namun, kali ini yang keluar dari mulut Bernadya bukan lagu, melain kemarahan. Ia menyoroti penyalahgunaan AI yang marak terjadi di X.
Dalam cuitan di akun X pribadinya (@bearnotber), Bernadya menyoroti perilaku warganet yang memanfanfaatkan kecerdasan buatan untuk hal-hal yang melewati batas etika; utamanya mengedit foto-foto perempuan menjadi vulgar, termasuk dirinya dan anggota JKT48 yang diubah bernuansa seksual tanpa izin. Pernyataan yang Bernadya tulis: “Seperti anak kecil yang baru dikasih pegang hp.”
Kemarahan penyanyi kelahiran tahun 2004 itu bisa dipahami. Hadirnya AI Grok amat meresahkan. Banyak oknum yang tidak bertanggung jawab mengedit foto orang lain–paling banyak foto perempuan dan anak di bawah umur–demi kepentingan pribadi tanpa menyadari dampak yang dilakukan.
Tempo (5/1/2026) menyoroti bagimana awal mula Grok menjadi mesin eksploitasi digital. Mulanya AI ini oleh penciptanya diperuntukan untuk memanipulasi foto diri sendiri menjadi lebih terbuka sebagai bentuk pemasaran konten pribadi. Namun, situasi berubah ketika pengguna lain meniru metode tersebut pada subjek yang tidak memberi izin. Grok akhirnya berbuhan fungsi dari alat representasi diri konsensual menjadi mesin pembangkit gambar non-seksual berskala besar.
Grok jelas menyalahi keamanan orang lain. Manipulasi foto semacam ini dapat merusak reputasi dan martabat seseorang, terutama jika wajah korban disunting tanpa izin lalu disebarkan ke publik, sehingga memicu trauma psikologis, rasa malu, kecemasan, hingga depresi. Di sisi sosial, fenomena ini memperparah budaya pelecehan digital, menurunkan rasa aman di ruang maya, serta mengikis kepercayaan masyarakat terhadap teknologi kecerdasan buatan.
Jika tidak dikendalikan, praktik ini dapat menormalisasi eksploitasi digital dan menjauhkan fungsi AI dari tujuan utamanya sebagai alat edukatif dan produktif bagi kemanusiaan.
Beberapa negara telah mengambil sikap atas maraknya penyalahgunaan Grok dalam dunia digital. Prancis dan Malaysia telah memulai penyelidikan resmi terhadap Grok menyusul laporan pembuatan konten AI yang tidak senonoh, termasuk deepfake seksual yang menargetkan perempuan dan anak di bawah umur. Pemerintah India turut meminta X untuk segera memperbaiki Grok setelah adanya insiden konten AI yang dianggap tidak senonoh. India mengancam akan memberikan sanksi berat jika platform tersebut mengabaikan aturan baru terkait konten digital.
Indonesia, melalui Kementerian Komunikasi dan Informatika (Komdigi) konon sedang mendalami dugaan penyalahgunaan Grok AI di platform X untuk konten manipulasi foto cabul dan mengancam akan memblokir Grok AI dan X jika ditemukan pelanggaran serius terhadap aturan konten pornografi.
Kesadaran masyarakat
Karena beberapa AI yang berkembang kerap luput dibarengi keamanan bagi para pengguna, meningkatkan kesadaran masyarakat tentang privasi, consent, dan pelecehan seksual sangat perlu disuarakan. Dimulai dari perubahan cara pandang bahwa isu-isu ini bukan hal tabu atau urusan pribadi semata, melainkan persoalan sosial yang menyangkut hak asasi dan martabat manusia.
Masyarakat agaknya perlu memahami bahwa setiap individu memiliki hak penuh atas tubuh, data pribadi, dan batasan dirinya, baik di ruang fisik maupun digital. Privasi bukan hanya soal menutup diri, tetapi tentang hak untuk menentukan siapa yang boleh mengakses tubuh, cerita, foto, dan informasi personal seseorang.
Pemahaman tentang consent (persetujuan) dan etika amat penting agar masyarakat berhenti menormalkan perilaku seperti memaksa, menggoda berlebihan, menyentuh tanpa izin, atau menyebarkan konten pribadi orang lain dengan dalih bercanda, iseng, atau dengan dalih sudah saling mengenal.
Antisipasi penyalahgunaan Grok
Sembari terus ikut menyuarakan penyalahgunaan Grok dalam dunia digital agar segera direspon dengan cepat oleh pembuat dan pihak berwenang, masyarakat bisa melakukan antisipasi dini.
Beberapa hal yang bisa dilakukan adalah dengan membatasi foto pribadi di ruang publik digital dan tidak sembarangan mengunggah foto ke aplikasi edit foto atau AI yang tidak memiliki kebijakan privasi yang jelas.
Selain beberapa hal di atas, IDN Times (6/1/2026) memberi beberapa langkah untuk melindungi foto pengguna. Disarankan untuk mematikan akses Grok di X. Langkah ini penting untuk dilakukan karena Grok bisa memanfaatkan data publik dan interaksi pengguna untuk pelatihan dan personalisasi.
Pengguna bisa membatasi itu langsung dari pengaturan dengan langkah berikut:
1. Buka aplikasi X, masuk ke Settings and Privacy
2. Kemudian pilih Privacy and Safety
3. Gulir ke menu Grok and Third Party Collaborators
4. Di sana, nonaktifkan dua opsi utama. Pertama, izin penggunaan data publik, interaksi, input, dan hasil pengguna untuk pelatihan Grok dan xAI. Kedua, izin personalisasi pengalaman pengguna dengan Grok.
Sumber PilihanEditor: Kendi Setiawan
