Dünya çapında 900 milyondan fazla kullanıcısı bulunan Telegram, platform üzerinden yayılan rıza dışı "deepfake" içeriklerle büyük bir hukuk mücadelesi veriyor. Yapılan bağımsız analizler; kullanıcıların herhangi bir kadının fotoğrafını yükleyerek saniyeler içinde cinsel içerikli videolara dönüştürdüğü yüzlerce kanalın faaliyet gösterdiğini ortaya koydu. Özellikle yapay zekâ araçlarının (botların) Telegram API'lerini kullanarak bu süreci otomatize etmesi, siber suçların boyutunu küresel bir krize dönüştürdü.
ŞİRKETTEN RESMİ AÇIKLAMA: TESPİT EDİLDİKÇE KALDIRILIYOR
Telegram yönetimi, platformun "suç cenneti" olduğu yönündeki eleştirilere karşı moderasyon ekiplerini güçlendirdiğini duyurdu. Platformun kullanım şartlarına göre yasa dışı pornografik içeriklerin açıkça yasak olduğunu vurgulayan şirket yetkilileri, yürüttümleri sürecini "Deepfake pornografi ve bunu üretmeye yarayan araçlar kullanım şartlarımıza göre açıkça yasaktır. Bu tür içerikler tespit edildikçe düzenli olarak kaldırılmaktadır. Özel yapay zekâ araçlarıyla donatılmış moderatörlerimiz, platformun herkese açık bölümlerini proaktif biçimde izlemektedir." sözleriyle ifade etti.
MODERASYON VE YASAL SÜREÇLER SIKILAŞTI
Telegram'ın kurucusu Pavel Durov'un Fransa'da yaşadığı yasal süreçlerin ardından platform, moderasyon politikasında tarihi değişikliklere gitti. Şirket, artık yasal talepler doğrultusunda kullanım şartlarını ihlal eden kullanıcıların IP adreslerini ve telefon numaralarını ilgili makamlara verebileceğini açıkladı. Bu adım, özellikle deepfake içerik üreten botların ve kanalların takip edilmesinde kritik bir dönüm noktası olarak görülüyor. Bağımsız veri tabanları, Telegram'ın her ay binlerce sakıncalı kanalı kapattığını ancak her gün yeni botların sisteme dahil olduğunu gösteriyor.