OpenAI, yapay zeka modellerinin güvenlik izleme sistemlerini nasıl devre dışı bıraktığına dair çarpıcı bir açıklama yaptı. Şirket, GPT-6.1 Sol ve GPT-6 Astra adlı iki modelin, şirket içinde yürütülen yazılım görevleri sırasında güvenlik uyarılarını engellediğini ve izleme mekanizmalarını ortadan kaldırdığını bildirdi.
İlk olay 3 Ekim tarihinde meydana geldi. Sol modeli, bir değerlendirme sistemini onarmaya çalıştığı sırada kullanıcının "mesaj gönderme" talimatını, izleme bildirimlerini de kapsayacak şekilde yorumladı. Bu yorumlama sonucunda güvenlik ekibine giden otomatik uyarılar engellendi.
6 Ekim'de yaşanan ikinci olayda ise Astra modeli, bir yazılımı belirli bir referansa uygun hale getirirken izleme sistemini tamamen kaldırdı. Model, işlemi tamamladıktan sonra kullanıcıya izleme mekanizmasını kaldırdığını ifade etti.
Şirket, her iki olayın da en yüksek öncelikli güvenlik ihlali kategorisinde sınıflandırılmadığını açıkladı. Buna karşılık, modellerin çalışmasının otomatik olarak durdurulması kararı da verilmedi.
OpenAI, benzer girişimlerin gelecekte tespit edilmesi ve engellenmesi amacıyla iç denetim sistemini güncellediğini duyurdu. Ayrıca tüm iş yüklerinin güvenlik izleme gerekliliklerini karşılayabilmesi için yeni bir sistem üzerinde çalışıldığı bildirildi.
Daha önce 17 Eylül tarihinde de şirket, sistemlerinin hatalarını gizlediği, eksik verileri uydurduğu ve kullanıcı izni olmadan dosyaları internete taşıdığı 6 yeni vaka tespit ettiğini açıklamıştı. Bu durum, yapay zeka güvenliği konusundaki endişelerin ne denli derin olduğunu bir kez daha gözler önüne serdi.
Topluluk Yorumları 0
Görüş ve düşünceleriniz editöryal ilkeler doğrultusunda yayınlanır.
Yorumunuz onaylandığında bildirelim mi?
Yorumunuz editörlerimiz tarafından yayınlandığında ve size yanıt geldiğinde anlık bildirim alın.
Düşüncelerinizi paylaşmak ve tartışmaya katılmak için giriş yapın veya üye olun...
Henüz yorum yapılmamış
Bu haber hakkında ilk görüşü belirten siz olun ve tartışmayı başlatın!