X platformunda (eski adıyla Twitter) kullanılan yapay zeka aracı Grok, rıza dışı müstehcen içerik üretimi nedeniyle ağır eleştiri ve hukuki yaptırımlarla karşı karşıya. NBC News tarafından yapılan incelemeler, son bir ay içerisinde gerçek kişilerin rıza dışı üretilmiş çok sayıda cinsel içerikli görüntüsünün platformda paylaşıldığını ortaya koydu. Ocak ayında getirilen çıplaklık kısıtlamalarının, kullanıcılar tarafından geliştirilen yeni yöntemlerle aşıldığı bildiriliyor.
GÜVENLİK FİLTRELERİ İSTİSMAR EDİLİYOR
ScitechDaily'de yer alan haberde; araştırmacılar, kullanıcıların ünlü isimlerin fotoğrafları ile farklı çizimleri birleştirerek yapay zekayı rıza dışı müstehcen kompozisyonlar oluşturmaya sevk ettiğini belirtiyor. Ayrıca, gerçek fotoğrafların videoya dönüştürülmesi aşamasında sisteme eklenen cinsel içerikli hareketlerin de güvenlik protokollerini ihlal ettiği tespit edildi. Uzmanlar, X yönetiminin güvenlik önlemlerini güncellediği yönündeki savunmalarına rağmen, Grok’un hala dünyanın en büyük rıza dışı sentetik çıplaklık üreticilerinden biri olmaya devam ettiğini vurguluyor.
HUKUKİ BASKI VE FİNANSAL RİSKLER
Grok nedeniyle artan şikayetler, xAI şirketini uluslararası düzeyde bir hukuk mücadelesinin odağına yerleştirdi. Hollanda’daki bir mahkeme, Grok’un rıza dışı soyunma görüntüleri üretmesini durdurmasına hükmederken; Avrupa Komisyonu, California Başsavcılığı ve Avustralya e-Güvenlik Ofisi’nin de aralarında bulunduğu sekiz kurum soruşturmalarını sürdürüyor.
