Yapay zekâ teknolojisi kullanılarak oluşturulan yasa dışı çocuk cinsel istismarı içeriklerinde korkutucu bir tırmanış yaşanıyor. Yıl henüz tamamlanmadan, bu yıl incelenen vakaların sayısı 2025'in tüm toplamını yüzde 40 aştı.
İngiltere merkezli İnternet İzleme Vakfı'nın yayımladığı verilere göre, analistler bu yıl şimdiye kadar yapay zekâyla üretilmiş ve hukuken çocuk cinsel istismarı materyali kapsamında değerlendirilen 6 bin 310 görseli inceledi. Oysa 2025 yılının tamamında bu rakam 4 bin 500'ün biraz üzerindeydi. Vakıf, yalnızca yılın ilk altı ayı içinde tespit edilen fotogerçekçi yapay zekâ istismar görsellerinin, bir önceki yılın toplamını aştığını bildirdi.
İncelenen içeriklerin büyük bölümünde kız çocuklarının yer aldığı, en sık 7 ila 13 yaş aralığındaki çocukların hedef alındığı belirtiliyor.
Gerçek fotoğraflar da manipüle ediliyor
Sorun yalnızca sıfırdan üretilen sahte görsellerle sınırlı değil. Yapay zekâ araçları, çocuklara ait gerçek fotoğrafların cinsel içerikli görsele dönüştürülmesi ya da değiştirilmesi amacıyla da yaygın biçimde kullanılıyor.
Kişisel görüntülerin internetten kaldırılmasına yardımcı olan Report Remove hizmetine, 2026 yılı içinde çocuklardan 420 başvuru yapıldı. Başvurularda çocuklar, kendilerine ait fotoğrafların manipüle edildiğini ya da yapay olarak cinsel içerikli hale getirildiğini düşündüklerini bildirdi. Bu rakam, 2025'in tamamında kaydedilen 397 başvuruyu da geçmiş durumda.
Yılın başında Grok platformu tarafından üretilen cinsel içerikli çocuk görselleri geniş tepki çekmiş, platform güvenlik önlemlerindeki eksiklikleri kabul etmişti. Şubat ayında ise İspanya'daki yetkililer, yapay zekâ aracılığıyla oluşturulan çocuk istismarı içerikleri nedeniyle Meta, X ve TikTok hakkında inceleme başlatmıştı.
Daha sıkı yasa çağrısı
İnternet İzleme Vakfı, yeni verilerin yapay zekâ sistemleri için bağlayıcı ve daha sıkı kurallara duyulan ihtiyacı gözler önüne serdiğini savunuyor. Kuruluşa göre şirketler, modellerinin yasa dışı içerik üretiminde kolayca kullanılmasını engelleyecek güvenlik önlemlerini daha tasarım aşamasında devreye sokmalı.
İngiltere'de çocuk cinsel istismarı materyali, gerçek bir istismar vakasından üretilmiş olsun ya da yapay zekâyla oluşturulmuş olsun yasa dışı sayılıyor. Bu tür içeriklerin üretilmesine özel olarak tasarlanmış yapay zekâ modellerini değiştirmek veya dağıtmak da suç kapsamında. İhlaller beş yıla kadar hapis cezasıyla sonuçlanabiliyor.
Vakıf ile İngiltere Ulusal Suç Ajansı, ebeveynlere ve bakıcılara şu uyarıları yaptı:
- Çocuklara ait fotoğraflar sosyal medyada herkese açık biçimde paylaşılmamalı
- Görseller yalnızca sınırlı ve güvendikleri bir kullanıcı grubuyla paylaşılmalı
- Sosyal medya hesapları gizli tutulmalı
