İngiltere’de yayıncılık, internet ve iletişim hizmetlerini denetleyen İletişim Ofisi (Ofcom), yapay zeka sohbet robotu Grok’un sahte cinsel içerikli görüntüler üretmesi üzerine resmî inceleme başlattığını duyurdu. İncelemenin, İngiltere’nin Çevrimiçi Güvenlik Yasası kapsamında yürütüldüğü bildirildi.
Ofcom’dan yapılan açıklamada, Elon Musk’ın sahibi olduğu xAI tarafından geliştirilen ve X platformuna entegre edilen Grok’un ürettiği görüntülerin son derece endişe verici olduğu belirtildi. Açıklamada, mağdurlar arasında çocukların da bulunabileceğine dikkat çekildi.
Yetkililer, 5 Ocak’ta X ile temasa geçildiğini ve 9 Ocak’a kadar söz konusu içeriklerle ilgili açıklama talep edildiğini aktardı. Ofcom, X’in Çevrimiçi Güvenlik Yasası kapsamındaki yükümlülüklerini yerine getirip getirmediğini tespit etmek amacıyla resmî soruşturma başlatıldığını bildirdi.
İnceleme kapsamında; yasa dışı içeriklerin engellenmesi, çocukların cinsel istismarına ilişkin materyallerin kaldırılması, rıza dışı cinsel içeriklerin yayılmasının önlenmesi, risk değerlendirmelerinin yapılması ve etkili yaş doğrulama sistemlerinin uygulanıp uygulanmadığı araştırılacak.
Ofcom, ihlal tespiti halinde X’e savunma için süre tanıyacak. Yasanın ihlal edildiğine karar verilmesi durumunda şirkete, ihlalleri gidermesi için süre verilebileceği ve 18 milyon sterline ya da küresel cironun yüzde 10’una kadar para cezası uygulanabileceği belirtildi.
Ofcom sözcüsü, “Grok’un yasa dışı ve rıza dışı cinsel içerikler üretmesi son derece kaygı verici. Özellikle çocukları korumakta başarısız olan platformlara karşı gerekli tüm adımları atmaktan çekinmeyeceğiz” ifadelerini kullandı. İncelemenin yüksek öncelikle yürütüleceği vurgulandı.