Yapay zekâ ile çocuk istismarı içeriklerinde yüzde 14 artış

Kuruluş, son bir yıl içinde kullanıcı ihbarları doğrultusunda 8 binden fazla yapay zekâ üretimi görüntü ve video tespit etti. Araştırmacılar, içerikleri; görsel hatalar, mağdur beyanları ya da içerik üreticisinin açıklamaları gibi kriterlere göre yapay zekâ üretimi olarak sınıflandırıyor.

Her ne kadar yapay zekâ ile üretilen içerikler toplam verinin henüz küçük bir bölümünü oluştursa da IWF, artış hızının endişe verici boyutlara ulaştığını vurguluyor.

Rapora göre tespit edilen içeriklerin 3 bin 400’den fazlası hiper gerçekçi, hareketli videolardan oluşuyor. Bu videoların yüzde 65’inden fazlası ise en ağır istismar kategorisinde yer alıyor. Bu oran, yapay zekâ kullanılmadan üretilen içeriklerde yüzde 43 seviyesinde kalıyor.

Uzmanlar, bu verilerin suçluların yapay zekâyı daha açık, karmaşık ve aşırı içerikler üretmek için kullandığını gösterdiğini belirtiyor. IWF CEO’su Kerry Smith, raporda yaptığı değerlendirmede “Artık sınırsız sayıda ihlalin çok daha kolay üretilebildiği bir teknolojik ortamla karşı karşıyayız.” ifadelerini kullandı.

Araştırma, suçluların yalnızca içerik üretmekle kalmayıp aynı zamanda bu amaçla kullanılan araçları geliştirmek ve paylaşmak için organize şekilde hareket ettiğini de ortaya koydu. Karanlık ağ üzerindeki bazı forumlarda, kullanıcıların özel yapay zekâ modelleri geliştirdiği ve bu sistemleri ticari olarak sunduğu belirlendi.

Bazı ilanlarda, kullanıcıların yapay zekâ ile yasa dışı içerik üretmeyi öğrenebileceği özel eğitimler teklif edildiği tespit edildi. Rapora göre, günümüzde tek bir uygulama bile teknik bilgi gerektirmeden bu tür içerikleri üretmeye olanak tanıyor ve bu durum suçlara erişim eşiğini ciddi şekilde düşürüyor.

Araştırmacılar, bazı gelişmiş kullanıcıların daha uzun ve karmaşık içerikler ürettiğini de ortaya koydu. Örnek olarak, bir içerik üreticisinin hazırladığı 30 dakikalık yapay zekâ videosu için 3 binden fazla teşekkür mesajı aldığı belirtildi.

IWF, elde edilen verilerin internet üzerindeki toplam yasa dışı içeriklerin yalnızca bir kısmını yansıttığını ve gerçek boyutun çok daha büyük olabileceğini vurguladı. Bunun nedeni ise araştırmacıların şifreli platformlar ve ödeme duvarlarının arkasındaki içeriklere erişememesi olarak açıklandı.

Kuruluş, Avrupa Birliği’ne çağrıda bulunarak hem yapay zekâ ile üretilen çocuk istismarı içeriklerinin hem de bu içerikleri oluşturan araçların blok genelinde yasaklanmasını talep etti. Bu tür bir düzenlemenin, paylaşılmasa dahi kişisel kullanım için içerik üretimini de suç kapsamına alabileceği ifade edildi.

Öte yandan Avrupa’da, internet platformlarının bu tür içerikleri tespit etmesine olanak tanıyan ePrivacy Directive kapsamındaki geçici düzenlemenin süresi 3 Nisan’da sona erecek. Bu süreçte yasa yapıcıların kalıcı bir yasal çerçeve üzerinde uzlaşması bekleniyor.

IWF ayrıca, EU AI Act kapsamında çocuk istismarı üretme riski taşıyan yapay zekâ sistemlerinin yüksek riskli olarak sınıflandırılmasını talep ediyor. Bu sınıflandırma, söz konusu sistemlerin piyasaya sunulmadan önce daha sıkı denetimlerden geçirilmesini zorunlu kılacak.

Uzmanlara göre, yapay zekâ teknolojilerindeki hızlı gelişim, gerekli önlemler alınmadığı takdirde çocukların güvenliği açısından küresel ölçekte ciddi riskler doğurabilir. (İLKHA)