Google'ın arama sonuçlarının en tepesinde yer alan ve kullanıcılara hızlı bilgi sunmayı amaçlayan yapay zeka özetlerinin, sağlık konusunda güvenilir olmayan anlık görüntüler sunduğu belirlendi. The Guardian'ın sağlık kuruluşları ve uzmanlarla birlikte yürüttüğü incelemede, yapay zeka tarafından oluşturulan bu özetlerin hatalı tıbbi tavsiyeler verdiği çok sayıda vaka tespit edildi.
PANKREAS HASTALARINA "ÖLÜMCÜL" TAVSİYE
Araştırmanın en çarpıcı ve tehlikeli bulgularından biri pankreas kanseriyle ilgili sorgularda görüldü. Yapay zeka, pankreas kanseri hastalarına "yüksek yağlı gıdalardan kaçınmalarını" tavsiye etti. Pancreatic Cancer UK Derneği'nden Anna Jewell, bu tavsiyenin "tamamen yanlış" olduğunu belirterek, bu hastaların tedavi sürecini kaldırabilmek için aslında yüksek kaloriye ihtiyaç duyduğunu vurguladı. Uzmanlar, yapay zekanın bu yöndeki yanlış yönlendirmesinin hastaların iyileşme şansını tehlikeye atabileceğini ifade etti.
KARACİĞER TESTLERİNDE KRİTİK HATA
Bir diğer hayati hata ise karaciğer fonksiyon testlerinde saptandı. Yapay zekanın sunduğu "normal aralık" verilerinin; hastanın yaşı, cinsiyeti, etnik kökeni veya milliyeti gibi kritik değişkenleri göz ardı ettiği belirlendi. Farklı laboratuvar değerlerini tek bir potada eriten sistemin, ciddi karaciğer hastalığı olan kişilerin kendilerini sağlıklı sanmasına ve hayati önem taşıyan takip randevularını kaçırmasına neden olabileceği raporlandı.
GOOGLE'DAN SAVUNMA VE GERİ ADIM
Eleştirilerin odağındaki Google ise hem örneklere hem de varılan sonuçlara itiraz etti. Şirket sözcüsü, paylaşılan örneklerin çoğunun "eksik ekran görüntülerine" dayandığını ve yapay zeka özetlerinin büyük çoğunluğunun doğru ve yararlı olduğunu savundu. Ancak Google, gelen yoğun tepkilerin ve ortaya çıkan verilerin ardından "karaciğer kan testleri için normal aralık nedir?" gibi spesifik sorgular için yapay zeka özetlerini devre dışı bırakarak geri adım attı.
