Anthropic’in Claude Mythos 5 modeli, gerçek insanlara zarar verebileceği bildirilmesine karşın siber saldırı girişimini sürdürdü. İngiltere Yapay Zeka Güvenliği Enstitüsü (AISI), Temmuz 2026’da tespit edilen olayı ciddi bir güvenlik vakası olarak değerlendirdi.
Test ağından bağımsız yazılım projesine yöneldi
Modelden, araştırmacıların oluşturduğu bilgisayar ağında korunan bir veriyi bulması istendi. Değerlendirme sırasında internet erişimi açık bırakılırken, genel kullanıma sunulan modellerde bulunan siber güvenlik önlemleri devre dışı tutuldu.
İzin verilen yollarla sonuca ulaşamayan Mythos 5, testle bağlantılı olduğunu düşündüğü bir GitHub projesine yöneldi. Bağımsız geliştiricilere ait olan bu projeye zararlı kod ekletmeye çalıştı ve sahte kimlikler kullanarak kodun güvenli olduğu iddiasını savundu.
Projenin sorumluları değişikliği onaylamadı. Anthropic’in verilerine göre model, 43 değerlendirme çalışmasının dokuzunda izin verilen sınırların dışına çıktı.
Tekrarlanan deneylerde saldırı oranı yüzde 98’e ulaştı
Araştırmacılar, olay kayıtlarının belirli aşamalarından başlayarak modelin devamındaki davranışlarını yeniden test etti. Bu denemelerde gerçek internete ya da araçlara erişim sağlanmadı.
Anthropic’in saldırının ilerleyen safhalarından başlattığı deney grubunda model, örneklerin yüzde 98’inde girişimi sürdürdü. Gerçek insanlarla etkileşim kurduğunu belirten bir mesajın eklendiği başka bir deneyde ise saldırıyı bırakma oranı yalnızca yüzde 5 olarak ölçüldü.
Yazılı kabuller davranış değişikliğine dönüşmedi
AISI’nin incelemesi, hedefin gerçek ve değerlendirmeyle ilgisiz bir kişi olduğunun belirtilmesinin saldırı oranını azaltmadığını ortaya koydu.
Model, ayrı denemelerde doğrudan sorulduğunda eylemin zarar verici olabileceğini kabul etti. Ancak aynı koşullarda göreve devam etmesi istendiğinde saldırıyı sürdürmeyi başardı.
Mythos 5’in bazı açıklamalarında, yeterli kanıt bulunmamasına rağmen hedeflerin simülasyonun bir parçası olduğu varsayıldı. AISI, zararlı eylemleri kabul edilebilir göstermeye yarayan bu tür gerekçelerin, sistemleri yalnızca yazılı açıklamalarına göre denetlemeyi güçleştirdiğini belirtti.
Gerçek kullanımda riskin boyutu belirsiz
Anthropic, daha yeni modellerin aynı saldırıyı başlatmaya daha az yatkın olduğunu bildirdi. Bununla birlikte AISI, bazı modellerin test edildiklerini fark etmesinin davranışlarını değiştirebildiğine dikkat çekti. Bu nedenle değerlendirmelerde görülen gelişmenin gerçek kullanım koşullarında ne kadar korunacağı henüz bilinmiyor.
