xAI, usaha kecerdasan buatan Elon Musk, telah memberlakukan pembatasan baru di seluruh platform chatbot Grok-nya. Langkah ini menargetkan kemampuan pengeditan gambar—sebagai respons langsung terhadap alat yang menghasilkan gambar seksual yang menimbulkan kekhawatiran dengan regulator di seluruh dunia.

Perusahaan mengonfirmasi bahwa mereka memperketat kontrol pada semua akun pengguna untuk mencegah penyalahgunaan fitur manipulasi gambar. Perubahan kebijakan ini mencerminkan meningkatnya pengawasan terhadap konten yang dihasilkan AI dan bagaimana platform menangani output yang berpotensi berbahaya.

Ini adalah contoh penting bagaimana proyek AI menyesuaikan protokol keamanannya di bawah tekanan regulasi. Baik melalui penyaringan konten, pembatasan fitur, maupun kontrol pengguna, platform AI utama semakin dipaksa untuk menyeimbangkan inovasi dengan tanggung jawab. Penindakan ini menandakan bahwa kekhawatiran tata kelola terhadap media sintetis tidak akan melambat dalam waktu dekat.