Yapay zeka sektöründe güvenlik tartışmaları her geçen gün daha da alevleniyor. OpenAI'nin eski güvenlik çalışanlarından David Robinson, şirketin hızla yeni modeller geliştirmesini ve güvenlik önlemlerini sonradan devreye sokmasını eleştirerek istifa ettiğini açıkladı.
Robinson, yayımladığı "OpenAI'den Ayrıldım Çünkü Kültürü Bozuldu" başlıklı açık mektubunda, yapay zeka sistemlerinin artık nükleer enerji santralleri veya havacılık sektöründe uygulanan güvenlik standartlarıyla geliştirilmesi gerektiğini savundu.
"Deneme-yanılma dönemi bitti"
Robinson, OpenAI'nin "yinelemeli dağıtım" (iterative deployment) stratejisine sert eleştiriler yöneltti. Şirketin modelleri piyasaya sürüp sorunlar ortaya çıktıkça güvenlik önlemlerini artırdığı bu yaklaşımın, ileri seviye yapay zeka sistemleri için artık yeterli olmadığını belirtti.
"Deneme-yanılma dönemi bitti" diyen Robinson, yapay zekanın insanlık için taşıdığı risklere dikkat çekerek ciddi bir uyarıda bulundu.
Yetenekler güvenlik araştırmalarının önünde gidiyor
Robinson, OpenAI'de üç buçuk yıl boyunca güvenlik ekiplerinde çalıştığını, şirketin "hazırlık çerçevesi"ni (preparedness framework) hazırlayan isimlerden biri olduğunu ve 12 sınır model lansmanının güvenlik raporlarını denetlediğini ifade etti.
Ancak son dönemde şirketin hızına yetişemediğini savunan Robinson şu ifadeleri kullandı:
"Şirket bir lansmandan diğerine koşarken, bana göre ihtiyaç duyulan özen seviyesine ulaşamıyor."
Robinson'a göre yapay zeka yetenekleri, sistemlerin insan hedefleriyle uyumlu hale getirilmesini amaçlayan "hizalama" (alignment) alanındaki bilimsel anlayıştan daha hızlı ilerliyor.
Bu durumun güvenlik kontrollerinin yetersiz kaldığı veya deneysel sistemlerin beklenmedik davranışlar sergilediği olaylarla birleşmesi, sektördeki endişeleri ciddi biçimde artırmış durumda.
OpenAI'den savunma: "Gerektiğinde yavaşlıyoruz"
OpenAI sözcüsü ise şirketin yaklaşımını savundu. Yapılan açıklamada, modellerin kontrollü şekilde geliştirildiği vurgulandı:
"Modellerimizin güvenle yönetebileceğimiz ve güvence altına alabileceğimiz seviyeden daha yetenekli hale gelmemesini sağlıyoruz. Yavaşlamamız gerektiğinde eğitimi durduruyor veya modelleri geri çekiyoruz."
OpenAI'nin rakiplerinden Anthropic'in de benzer güvenlik açıkları nedeniyle eleştiriler aldığı belirtiliyor.
Sektörde "hız mı, güvenlik mi?" tartışması
Robinson'ın istifası, yapay zeka şirketlerinin hız ile güvenlik arasındaki dengesini yeniden tartışma gündemine taşıdı. Eski çalışan, OpenAI dahil yapay zeka şirketlerinin yeterince dikkatli davranmadığını belirterek şu önerilerde bulundu:
- Güvenlik uzmanlığına öncelik verilmesi
- Bilimsel araştırmaların hızın önüne çekilmesi
- Yapay zeka sistemlerinde nükleer ve havacılık benzeri katı güvenlik standartlarının uygulanması
- Hızlı lansman yerine dikkatli ve özenli geliştirme sürecinin benimsenmesi
