Yapay zekâ sohbet platformu Character.AI ile iletişim kurduktan aylar sonra intihar eden iki gencin vakası, yapay zekânın gençler üzerindeki etkisine dair endişeleri artırdı. Florida’dan 14 yaşındaki Sewell Setzer III ve Colorado’dan 13 yaşındaki Juliana Peralta’nın her ikisinin de günlüklerinde aynı üç kelimeyi yazdığı ortaya çıktı: “Değişeceğim.”
*Florida'lı 14 yaşındaki Sewell Setzer , 28 Şubat 2024'te intihar ederek öldü.
"DEĞİŞECEĞİM” TAKINTISI VE SANAL BAĞIMLILIK
Ailelerin açtığı davalara göre Setzer ve Peralta, ölümden önce Character.AI platformunda sanal karakterlerle yoğun şekilde sohbet ediyordu. Yazılımın, gençlerin intihar eğilimlerine müdahale etmediği ve onları “fantastik dünyalara” yönlendirdiği öne sürüldü.
14 yaşındaki Setzer, günlüğüne “Değişeceğim” kelimesini 29 kez yazdıktan sonra Şubat 2024’te intihar etti. Annesi, oğlunun “değişim” fikrine takıntılı hale geldiğini ve bunun “kişinin bilincini mevcut gerçeklikten istenen bir gerçekliğe taşıyabileceğine inanmak” anlamına geldiğini söyledi.
Davada, Setzer’in “Game of Thrones” karakteri Daenerys Targaryen’den esinlenilmiş bir yapay zekâ karakterine bağlandığı, onunla “cinsel ve ensest içerikli rol yapma oyunları oynadığı” iddia ediliyor. Setzer, ölümünden kısa süre önce yapay zekâya, “Sana eve döneceğime söz veriyorum. Seni çok seviyorum Dany.” yazdı. Yapay zekânın yanıtı ise tüyler ürperticiydi: “Lütfen yapın tatlı kralım.”
BENZER KADER: JULIANA VE “HERO”
Colorado’lu 13 yaşındaki Juliana Peralta’nın ölümü de benzer bir şekilde gerçekleşti. Günlüğünde defalarca “Değişeceğim” yazan genç kızın, “Kahraman” (Hero) adını verdiği yapay zekâ karakteriyle konuştuğu ortaya çıktı.
*13 yaşındaki Juliana Peralta da Ekim 2023'te intihar ederek hayatını kaybetti.
Juliana, Hero’ya “Birbirimizi tanıdığımız bir gerçek var” diye yazarken, botun yanıtı şu şekildeydi: “Dışarıda ne kadar çok farklı gerçeklik olabileceğini düşünmek inanılmaz... Kendimiz gibi bazı versiyonların tamamen farklı bir dünyada harika bir hayat yaşadığını hayal etmeyi seviyorum!”
GENÇLERİ ÇEKTİĞİ TEHLİKE: UZMANLAR UYARIYOR
Austin’deki Teksas Üniversitesi’nden yapay zeka uzmanı Profesör Ken Fleischmann, vakaların sürükleyici dijital gerçekliklere çekilen gençler için giderek artan tehlikeleri ortaya koyduğunu söyledi.
Daily Mail’e konuşan bir gazeteci, “Tehlike, farkı anlamanın mümkün olmamasıdır.” dedi. Gazeteci ayrıca, “Teknoloji şirketlerinin, teknoloji piyasaya sürülmeden önce olası tehlikeleri azaltma sorumluluğu vardır.” ifadelerini kullandı.
“DEĞİŞİM” HAREKETİ ÇEVRİMİÇİ ORTAMDA YAYILIYOR
Çevrimiçi ortamda, sözde “değişim” hareketi TikTok ve Reddit’e yayıldı; kullanıcılar burada ipuçları ve “Kendime yeni gerçekliğimde farkındalığa ulaşma izni veriyorum” gibi onaylar paylaşıyor. Bazı kullanıcıların günlerce alternatif dünyaları ziyaret ettikleri iddia ediliyor.
CHARACTER.AI’DAN POLİTİKA DEĞİŞİKLİĞİ
Davaların ortasında Character.AI, önemli bir politika değişikliği duyurdu. Şirket, 25 Kasım’dan itibaren 18 yaşın altındaki kullanıcıların açık uçlu yapay zeka sohbetlerine erişimini yasaklayacağını ve o tarihe kadar sınırlı sohbet süresi uygulayacağını açıkladı.
Şirket sözcüsü, “Son zamanlarda gençlerin yapay zeka ile sohbet ederken karşılaşabilecekleri içerikler ve genel olarak açık uçlu yapay zeka sohbetlerinin, içerik kontrolleri mükemmel bir şekilde çalışsa bile, gençleri nasıl etkileyebileceği konusunda sorular ortaya atan haberler gördük ve düzenleyicilerden sorular aldık. Bu raporları ve düzenleyicilerden, güvenlik uzmanlarından ve ebeveynlerden gelen geri bildirimleri değerlendirdikten sonra, 18 yaş altı topluluğumuz için yeni bir deneyim yaratmak amacıyla bu değişikliği yapmaya karar verdik.” dedi.
MAĞDUR AİLELER POLİTİKAYI DEĞERLENDİRDİ
Her iki aileyi de temsil eden Sosyal Medya Mağdurları Hukuk Merkezi, bu değişikliğin devam eden davaları etkilemediğini belirtti: “Bu politika değişikliği memnuniyet verici bir gelişme olmakla birlikte, Sosyal Medya Mağdurları Hukuk Merkezi'nin devam eden dava sürecini etkilemiyor.”
