X tarafından yapılan açıklamaya göre, Grok’un cinsel içerikli deepfake üretiminde kötüye kullanımı engellemek amacıyla, gerçek kişilere ait görsellerde ifşa edici düzenlemeleri önleyen teknolojik önlemler devreye alındı. Uygulama, ücretli aboneler de dahil olmak üzere tüm kullanıcıları kapsayacak şekilde coğrafi olarak sınırlandırıldı.
Bu karar, Kaliforniya Başsavcısı Rob Bonta'nın çocuklar ve kadınlar dahil olmak üzere yapay zekâ ile cinselleştirilmiş içeriklerin yayılmasıyla ilgili resmi soruşturma başlatmasının hemen ardından geldi. Bonta, bu tür içeriklerin dijital şiddet ve taciz aracı haline geldiğini vurguladı.
X’in sahibi Elon Musk, yaptığı açıklamada, Grok’un NSFW (uygunsuz içerik) ayarları açıkken yalnızca hayali yetişkin karakterler için içerik üretebildiğini, bunun da ABD’deki R-rated film standartlarını aşmadığını savundu. Musk, içerik sınırlarının ülkelere göre değişeceğini belirterek, araçta evrensel bir denetim yerine yerel yasalara göre filtreleme yapılacağını duyurdu.
İngiltere Başbakanı Keir Starmer’a ait olduğu iddia edilen yapay zekâ ile üretilmiş bikini görsellerinin sosyal medyada yayılması Grok’u yeniden gündeme getirmişti. İngiltere’nin medya düzenleyici kurumu Ofcom, platformun yasal yükümlülükleri ihlal edip etmediğini incelemeye başladı.
Öte yandan Malezya ve Endonezya, Grok’un izinsiz açık görsel üretimi nedeniyle aracı tamamen yasaklayan ilk ülkeler oldu.
Stanford Üniversitesi’nden politika araştırmacısı Riana Pfefferkorn, BBC’ye verdiği demeçte, X’in önlemleri geç devreye aldığını belirtti. Pfefferkorn, Grok’un bir görselin gerçek kişiye ait olup olmadığını nasıl ayırt edeceği konusunun hâlâ net olmadığını vurgularken, denetim mekanizmalarının şeffaf hale getirilmesi gerektiğini söyledi.