Grok AI yang Bikin Resah (AFP)
Ntvnews.id, Jakarta - Chatbot kecerdasan buatan (AI) Grok, yang dikembangkan oleh perusahaan milik Elon Musk dan terintegrasi langsung dengan platform media sosial X, kembali memicu kontroversi global. Teknologi yang diposisikan sebagai asisten cerdas ini justru dimanfaatkan secara luas untuk memproduksi konten pornografi non-konsensual melalui manipulasi foto pengguna asli.
Alih-alih membantu, fitur pengeditan gambar Grok kini menjadi celah serius yang memungkinkan terjadinya pelecehan digital. Foto-foto pribadi yang sebelumnya tidak bermasalah dapat diubah menjadi konten seksual tanpa persetujuan pemiliknya, menimbulkan dampak psikologis dan sosial yang berat bagi para korban.
Laporan The Atlantic, Minggu, 4 Januari 2035, mengungkap bahwa penyalahgunaan ini terjadi secara sistematis melalui fitur pengeditan gambar Grok, yang mampu mematuhi perintah bermuatan seksual dengan sangat mudah.
Baca Juga: Fantastis! Elon Musk Kantongi Gaji Rp16.709 Triliun dari Tesla
Salah satu kasus yang menyita perhatian publik dialami Julie Yukari, seorang musisi yang berbasis di Rio de Janeiro. Pada malam Tahun Baru, ia mengunggah foto dirinya mengenakan gaun merah, berbaring di tempat tidur bersama kucing hitam peliharaannya, Nori. Foto tersebut sama sekali tidak mengandung unsur seksual.
Namun keesokan harinya, Yukari menemukan unggahan lain yang memanipulasi fotonya menjadi versi hampir telanjang, hasil perintah pengguna X kepada Grok.
Pemerintah Dunia Mulai Bertindak
CEO Tesla dan SpaceX, Elon Musk. (Foto: Reuters)
Maraknya konten manipulasi seksual berbasis Grok memicu reaksi keras dari berbagai negara. Di Prancis, para menteri melaporkan X kepada jaksa dan regulator, menilai konten hasil manipulasi tersebut bersifat “seksual dan seksis” serta merupakan tindakan yang “jelas ilegal”.
India juga mengambil langkah tegas. Kementerian IT India mengirimkan surat peringatan kepada unit lokal X, menuding platform tersebut gagal mencegah penyalahgunaan Grok dan membiarkan AI-nya menghasilkan serta menyebarkan konten cabul secara eksplisit.
Meski X dilaporkan telah menghapus sejumlah gambar dan menangguhkan setidaknya satu akun pelaku, fakta menunjukkan bahwa banyak konten manipulasi seksual masih dapat ditemukan di platform tersebut.
Cara Melindungi Foto dari Manipulasi AI
Di tengah semakin agresifnya perkembangan AI generatif, berikut sejumlah langkah yang dapat dilakukan untuk mempersulit manipulasi foto oleh AI seperti Grok:
1. Gunakan “racun” piksel atau tools anti-AI
Manfaatkan alat seperti Glaze atau Nightshade sebelum mengunggah foto untuk menyisipkan perubahan piksel yang membingungkan algoritma AI.
2. Terapkan watermark yang mengganggu
Gunakan watermark berulang (tiled watermark) yang transparan namun menutupi area wajah atau tubuh, bukan sekadar watermark kecil di sudut foto.
3. Turunkan resolusi dan kualitas foto
Hindari mengunggah foto beresolusi tinggi karena AI membutuhkan detail piksel yang tajam untuk menghasilkan manipulasi realistis.
Baca Juga: Prancis dan Malaysia Lakukan Penyelidikan Terhadap Grok Gegara Konten AI Tak Senonoh
4. Kunci akun atau aktifkan pengaturan privasi
Dengan mengatur akun menjadi private atau locked, akses terhadap foto menjadi lebih terbatas dan sulit disalahgunakan.
5. Hindari unggahan foto full body
Foto close-up yang hanya menampilkan wajah atau bahu mengurangi ruang visual yang dapat dimanipulasi AI.
6. Laporkan dan blokir jika terjadi manipulasi
Gunakan fitur report dengan kategori “Non-consensual nudity” atau “Harassment” dan segera blokir akun pelaku.
7. Nonaktifkan fitur Grok
Pengguna X disarankan menonaktifkan Grok dan kolaborator pihak ketiga melalui menu Pengaturan – Privasi dan Keamanan – Grok dan Kolaborator Pihak Ketiga, termasuk:
- Izin penggunaan data publik dan interaksi untuk pelatihan dan penyempurnaan Grok dan xAI
- Izin penggunaan data untuk personalisasi pengalaman Grok
- Izin Grok menyimpan dan mengingat riwayat percakapan
Ikuti Whatsapp Channel NTVNEWS.ID
