X kullanıcılarının, Grok'un görsel üretme kabiliyetlerini kullanarak, platformdaki diğer kullanıcıların ya da ünlülerin fotoğraflarından saniyeler içinde rızasız bir şekilde sahte çıplaklık ya da bikinili görseller üretmesi büyük tepki toplamıştı.
X'TEN RIZA DIŞI DEEPFAKE GÖRÜNTÜLERE KARŞI GROK'A SINIRLAMA
TRT Haber'de yer alan habere göre; Elon Musk'ın yapay zeka modeli Grok, dünya genelinde rıza dışı cinsel içerikli deepfake görüntülerin yayılmasına ilişkin artan tepkilerin ardından, gerçek kişilerin fotoğraflarını müstehcen şekilde düzenleme özelliğine kısıtlama getirdi.
X platformunun güvenlik birimi tarafından yapılan açıklamada, Grok'un gerçek kişileri bikini veya benzeri açık kıyafetlerle gösterecek şekilde fotoğrafları düzenlemesini engelleyen teknik önlemlerin devreye alındığı duyuruldu.
Bu kısıtlamanın ücretli aboneler de dahil olmak üzere tüm kullanıcılar için geçerli olacağı belirtildi.
YASAL DÜZENLEMELERE GÖRE BÖLGESEL ENGELLEME
Şirket, rıza dışı cinsel içerikli görsellerin üretiminin yasa dışı olduğu bölgelerde, Grok üzerinden gerçek kişilerin bikini veya iç çamaşırıyla tasvir edildiği görsellerin oluşturulmasını tamamen engellemek için "coğrafi engelleme" (geoblocking) yöntemini kullanmaya başladı.
X yönetimi, bu adımın yasalara veya platform politikalarına aykırı hareket eden kullanıcıların hesap verebilirliğini artıracağını savundu.
Elon Musk ise yaptığı paylaşımda, Grok'un yalnızca hayali yetişkin karakterler için sinema standartlarına uygun çıplaklık içerebileceğini, ancak gerçek kişiler söz konusu olduğunda yerel yasalara uyulacağını ifade etti.
KÜRESEL TEPKİ ÇEKTİ
Bu teknik kısıtlamalar, California Başsavcılığının Grok tarafından üretilen cinsel içerikli deepfake görüntülere yönelik soruşturma başlatmasından birkaç saat sonra geldi.
İngiltere Başbakanı Sir Keir Starmer da bu tür içerikleri "iğrenç" olarak nitelendirerek, X'in kendi denetimini sağlayamaması durumunda hükümetin müdahale edeceği uyarısında bulundu.
Geçtiğimiz günlerde Malezya ve Endonezya, rıza dışı üretilen açık içerikler nedeniyle Grok yapay zeka aracına erişimi yasaklayan ilk ülkeler olmuştu.
İngiltere'deki medya denetleme kuruluşu Ofcom da X'in çevrim içi güvenlik yasalarına uyup uymadığını belirlemek için kapsamlı bir soruşturma yürütüyor.
