Pedofiller yapay zekâ kullanarak ünlü isimlerin “çocuklaştırılmış” görsellerini üretiyor

Joe Tidy
BBC Teknoloji Muhabiri

İngiltere’de hazırlanan bir rapor, pedofil şahısların yapay zeka ile, ünlü şahısların düzmece çocukluk görsellerini de üretmeye başladığını ortaya koydu.

Internet güvenliği alanında çalışan Internet Watch Foundation (İnternet Müşahede Vakfı) bu nitelikte görsellerin paylaşıldığını tespit etti.

Vakfın tespit ettiği içerikler ortasında, ünlü bir bayan müzikçinin çocuklaştırılmış uydurma görseli de yer alıyor.

Görseller çoğunlukla dark web olarak bilinen takibi güç sanal ağlar üzerinden yayılıyor.

Hali hazırda çocuk yaşta olan aktrislerin fotoğrafları da çocuk istismarına yönelik imajlara dönüştürülebiliyor.

Pedofil içerik üreticileri, gerçek hayatta çocuk istismarı kurbanı olmuş bireylere ilişkin yüzlerce uydurma görseli de yeniden bu teknolojiyle yaratıyor.

İnternet Müşahede Vakfı’nın internet ortamındaki istismara ait son raporu, pedofillerin yapay zeka teknolojisini maksatları için giderek daha fazla kullandığını da gösteriyor.

Yapay zeka teknolojisi, bilgisayarların ekseriyetle insan zekasına gereksinim duyan birtakım vazifeleri yapabilmesine imkân tanıyor.

Örneğin Stable Diffusion programı, sözlerle komutlar verilerek istenen rastgele bir görselin tanım edilmesini mümkün kılıyor, akabinde program bu görselleri yaratıyor.

BBC’nin daha evvelki bir araştırması Stable Diffusion’un, bebek ve çocuklara tecavüz üzere içerikler de dahil çocuk cinsel istismarı içeren ve gerçek üzere görünen görsellerin üretiminde kullanıldığını ortaya koydu.

İngiltere’de bir bilgisayar tarafından tasarlanmış ve çocuk istismarı içeren “sahte bir görsel” de yasalar önünde gerçek bir görsel üzere muamele görüyor. Bu cins gereçleri taşımak, yayımlamak ya da transfer etmek suça tabi tutuluyor.

Uzmanlar pedofiller ortasında, kamuoyunun bildiği çocuk istismarı kurbanlarının manzaralarını, yapay zeka ile geçersiz olarak yine üretme trendinin tespit edildiğini söylüyor.

Yalnızca bir evrakta, 9 – 10 yaşlarında istismara uğrayan bir çocuğun imajı kullanılarak üretilmiş 501 görsel bulundu.

Araştırmayı yapan vakıf, ünlü isimlerin ‘çocuklaştırmış’ geçersiz görsellerinin, birtakım durumlarda son derece gerçekçi göründüğünü ve ayırmanın güç olduğunu kaydediyor.

Uzmanların incelediği düzmece görsellerde çoğunlukla bayan müzikçiler ve bayan oyuncular yer alıyor.

Raporda hangi ünlülerin maksat alındığı açıklanmıyor.

Vakıf, bu araştırmanın gelecek ay İngiltere hükümetinin yapay zeka üzerine yapacağı bir dorukta gündeme gelmesini sağlamak için paylaşıldığını kaydetti.

Rapor neler içeriyor?

İnternet Müşahede Vakfı araştırmacıları bir ay içinde yapay zeka ile üretilmiş 11 bin 108 dijital görseli inceledi. Bu görseller çocuk tacizcilerinin kullandığı bir dark web forum sitesinde paylaşıldı.

  • Bunlardan çocuk istismarı kapsamına giren görsel sayısı 2 bin 978.
  • Suç kapsamına giren görsellerin de 564’ü “A Kategori” olarak sınıflanıyor ve en ağır hata kapsamında bedellendiriliyor.
  • 2 bin 978 görselin yarısından fazlası, 7 ila 10 yaş aralığındaki uydurma çocuk imajlarından oluşuyor.
  • Üç ila 6 yaş ortasındaki düzmece çocuk imajlarına ise 143 dijital görselde rastlandı. İki dijital gereçte ise iki yaş altı çocuk fotoğrafı üretildiği tespit edildi.

Vakıf, Haziran ayında yapay zeka kullanılarak üretilen çocuk istismarı görsellerinin ulaştığı gerçekçilik düzeyi konusunda ikazda bulunmuştu.

Uzmanlar şu anda o dehşetin gerçek olduğunu açıklıyor.

Vakfın yöneticisi Susie Hargreaves, “En müthiş kabuslarımız gerçek oldu” diyerek durumun vahametini aktarıyor:

“Bu yılın başlarında yapay zekâ üretimi görsellerin, gerçek çocuk istismar fotoğraflarından ayırt edilemeyeceği ikazını yapmıştık. Şu anda artık o noktayı geçtik”

İnternet Müşahede Vakfı raporu yapay zekâ görsellerinin yan zararlarına da dikkat çekiyor.

Bu üretim içeriklerde, her ne kadar çocuklar gerçekte ziyan görmüyor olsa da pedofil davranışlar normalleştirilebiliyor. Polisin maddi kaynaklarının gerçekte varolmayan çocukları kurtarmak için kullanılması da bir öteki ziyan.

Bu durum emniyet güçleri için yeni ve karmaşık bir çeşit çaba manasına geliyor.

 

 

 

İlk yorum yapan olun

Bir yanıt bırakın

E-posta hesabınız yayımlanmayacak.


*