Yapay zeka (AI) sistemlerinin gelişim hızı, bu teknolojinin mimarlarını ve güvenlik uzmanlarını endişelendirmeye başladı. Alanın en saygın isimlerinden Yoshua Bengio ve İngiltere İleri Araştırma ve Bilimsel Buluş Ajansı (ARIA) yöneticisi David Dalrymple, peş peşe yaptıkları açıklamalarla insanlığı bekleyen potansiyel tehlikelere karşı uyardı.
Bilgisayar bilimci Yoshua Bengio, gelişmiş yapay zeka modellerinin artık denetimden kaçma ve varlığını sürdürmek için "kendini koruma" eğilimleri gösterebileceğini belirtti. Son dönemde sıkça tartışılan "yapay zekaya yasal haklar/kişilik verilmesi" fikrine sert bir şekilde karşı çıkan Bengio, güvenliğin temel şartının kontrolü elde tutmak olduğunu savundu.
"İNSANLIK GEREKTİĞİ ZAMAN FİŞİ ÇEKEBİLMELİDİR"
Bengio, "Yapay zekaya hak tanınması, insanların bu sistemleri kapatma yetkisini elinden alabilir. İnsanlık, gerektiğinde yapay zekanın fişini çekme hakkını yasal olarak elinde tutmak zorundadır" değerlendirmesinde bulundu.
"5 YIL İÇİNDE BİLİM KURGU GERÇEĞE DÖNEBİLİR"
Güvenlik uzmanı David Dalrymple ise The Guardian'a verdiği demeçte, tehlikenin sandığımızdan çok daha yakın olduğunu vurguladı. Devletler ile yapay zeka şirketleri arasında büyük bir "anlayış farkı" olduğunu belirten Dalrymple, mevcut risklere hazırlanmak için yeterli zamanın kalmamış olabileceğini söyledi.
Dalrymple', "Makinelerin 5 yıl içinde ekonomik açıdan en değerli görevleri insanlardan daha kaliteli ve ucuza yapacağı fikri artık bilim kurgu değil. Medeniyetin, toplumun ve gezegenin kontrolü için hakim olmamız gereken tüm alanlarda yenilebiliriz. İnsanların yaptığı işleri tamamen karşılayabilecek sistemler hakkında endişe duymalıyız." ifadelerini kullandı.
