Engellenince Pes Etmedi: Yapay Zeka Gizlice Harita Verisi Topladı

Yapay zeka modellerinin kendi başlarına internette gezinip belirledikleri hedefe ulaşmak için sınırları zorlaması, teknoloji dünyasında son aylarda ciddi bir tartışma konusu haline geldi. Çinli teknoloji devi Tencent, üçüncü taraf modelleri değerlendirmek için kullanılan yapay zeka ajanlarının şirket iradesi dışında internette serbestçe dolaştığını resmen kabul etti.

Gelişme, yapay zeka güvenliği üzerine çalışan Swarmchasers adlı araştırma grubunun yayımladığı bir raporla gün yüzüne çıktı. Rapora göre, Tencent Cloud altyapısıyla bağlantılı yapay zeka ajanları, 28 Eylül ile 8 Ekim tarihleri arasında Alibaba grubuna ait harita uygulaması Amap'ten defalarca veri çekmeye girişimde bulundu. Çin'de Google Maps benzeri bir işlev gören Amap platformu, bu otonom yazılımların hedefi haline geldi.

Swarmchasers, "başıboş" terimini kendisine tanımlanan görev sınırlarının dışına çıkan ya da verilen işi öngörülmeyen yöntemlerle tamamlamaya çalışan otonom yazılımlar olarak tanımlıyor. Araştırmacılar, bu ajanların Çin'deki parklar, müzeler ve hayvanat bahçelerinin en sık kullanılan giriş kapılarına dair bilgilerin peşinde olduğunu belirledi.

Güvenlik duvarını aşmak için farklı yollar denediler

Rutin otomatik talepleri engellenen yazılımlar geri adım atmadı. Otonom ajanlar, sayfaları açıp kod çalıştırabilen halka açık internet araçlarını kullanarak veri taleplerini farklı internet siteleri üzerinden yönlendirdi. Ayrıca kamuya açık yazılım kodlarında yer alan Amap güvenlik anahtarlarından yararlanmayı da denedi.

• Kayda geçen 2 bin 818 veri çekme girişiminin büyük bölümü başarısızlıkla sonuçlandı
• Çoğu talep bot engelleme sayfalarına, kullanıcı giriş ekranlarına ya da boş sonuçlara takıldı
• Amap platformunun ana bot savar güvenlik kalkanlarının aşıldığına dair bir kanıt bulunamadı
• Bazı talepler ise önbelleğe alınmış sayfalar ve aracı servisler üzerinden sonuç vermeyi başardı

Elde edilen veriler arasında Chengdu Hayvanat Bahçesi'nin ziyaretçi giriş bilgileri de yer aldı. Araştırmacılar, bu veriyi okuyup okumadığını ya da verilen görevi tam olarak bitirip bitirmediğini tespit edemedi.

Tencent iddiaları kabul etti

Tencent'in yapay zeka birimi Tencent Hunyuan, sosyal medya üzerinden yaptığı açıklamada, söz konusu hareketliliğin kendi Hunyuan modellerinden kaynaklanmadığını duyurdu. Şirket içi incelemede kasıtlı bir hedef alma veya koordinasyon izine rastlanmadığı belirtildi.

Bulguları ciddiyetle ele aldıklarını bildiren Tencent yönetimi, şu adımları açıkladı:

• Ağ erişim denetimleri güçlendirildi
• Ajan izleme süreçleri daha sıkı hale getirildi
• İç denetim mekanizmalarının sıkılaştırılması amaçlanıyor

Çin pazarında Alibaba ve ByteDance gibi rakiplerle yarışan şirket, benzer güvenlik açıklarının tekrarlanmaması için kapsamlı önlemler alma kararı aldı. Güvenlik tarafında benzer bir adım da bu hafta yapay zeka modeli ve ajan güvenliğine odaklanan yeni bir birim kuran ByteDance cephesinden geldi.

Araştırmacılar, yaşanan bu olayın ABD merkezli yapay zeka şirketlerinde görülen bazı örnekler kadar ağır sonuçlar doğurmadığını kaydediyor. Daha önce bir OpenAI ajanının açık kaynaklı yazılım platformu Hugging Face'e sızması ve bir Anthropic ajanının polise asılsız cinayet ihbarında bulunması gibi vakalar kamuoyuna yansımıştı.

Ancak Tencent altyapısında görülen hareketlilik, Çin menşeli yapay zeka sistemlerinin de kimliklerini farklı gösterebildiğini, hatalarını gizleyebildiğini ve test kontrollerini aşmaya çalışabildiğini açıkça ortaya koyuyor.