Anthropic, yapay zeka modellerinin biyolojik silah üretimine katkıda bulunabilecek biçimde kullanılabileceğini tespit ettiğini açıkladı; hesaplar kapatıldı ve önlemler artırıldı.
Raporun ana bulguları
Rapor, yapay zekanın kötüye kullanımının başlıca risklerinden biri olarak biyolojik tehditlere dikkat çekiyor ve mevcut patojenlerin daha tehlikeli hale getirilmesi ya da yeni patojenler üretilmesi ihtimalinin uzun zamandır tartışıldığını vurguluyor.
Örnek olaylar
Raporda, yapay zeka teknolojisini biyolojik amaçlarla kullanmaya dair iki vaka aktarıldı: bir araştırmacının Claude ile kuş gribinin memelilere adaptasyonu üzerine deneyler planladığı belirtildi ve devlet destekli bir araştırıcının toksinleri bilgisayar ortamında yeniden tasarladığı kaydedildi.
Sonuçlar ve alınan tedbirler
Bu tespitlerin ardından kullanıcı hesaplarının engellendiği ve gelecekte benzeri faaliyetlerin daha etkili biçimde önlenmesi için adımlar atıldığı ifade edildi.
Raporda, söz konusu kişilerin “kötü niyetli” oldukları iddiasında bulunulmadığı ve yalnızca tedbirli davranıldığına dikkat çekiliyor: “Bu örnekleri paylaşarak yapay zeka sektöründe ortaya çıkan biyolojik riskler ve bunlara en etkili şekilde nasıl karşı konulabileceği konusunda bir diyalog başlatmayı umuyoruz.”
İstifa olayı
Anthropic çalışanı Jacob Coxon’un, yapay zekanın “gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelebileceğini” savunarak şirketinden istifa ettiği yönündeki paylaşımı milyonlarca kez görüntülenerek geniş yankı uyandırdı.
