Birleşmiş Milletler, yapay zeka destekli otonom silahların kullanımına hukuki sınır getirmek amacıyla Pazartesi günü Cenevre’de konferans düzenliyor. Uzmanlar ise bu alandaki rekabetin çoktan başladığına dikkat çekiyor.
Otonom silahlar için uluslararası çerçeve aranıyor
“Katil robotlar” olarak da adlandırılan otonom silahlar, savaşın niteliğini kökten değiştirmeye hazırlanırken bu teknolojileri denetleyecek bir hukuk düzeni henüz oluşturulmuş değil.
Toplantılar, Belirli Konvansiyonel Silahlar Sözleşmesi (CCW) kapsamında gerçekleştirilecek. Ancak hızla ilerleyen silah teknolojisinin bu görüşmelerle ne ölçüde takip edilebileceği tartışma konusu.
Birleşmiş Milletler Genel Sekreteri Antonio Guterres ile Uluslararası Kızılhaç Komitesi Başkanı Mirjana Spoljaric, Ağustos ayında yayımladıkları ortak bildiride tehlikeye işaret etti.
İki lider, “Ahlaki bir kırmızı çizgiyi aşmaya tehlikeli biçimde yaklaştık: Makinelerin insanları otonom olarak hedef alması” uyarısında bulundu.
Guterres ve Spoljaric ayrıca otonom silah sistemlerinin uzak bir geleceğe ait olmadığını, bu alandaki yarışın halihazırda başladığını vurguladı.
İnsan kontrolünün sınırı tartışılıyor
Cenevre Güvenlik Politikaları Merkezi Küresel ve Yükselen Riskler Bölüm Başkanı Jean-Marc Rickli, Ölümcül Otonom Silah Sistemleri’ni (LAWS) değerlendirdi.
Fransız AFP ajansına konuşan Rickli, bu sistemlerin “bir insan operatörün müdahalesi olmadan hedefi belirleyebildiğini, seçebildiğini ve hedefe yönelebildiğini” söyledi.
Otonom silahların aslında uzun süredir bulunduğunu belirten Fransa Uluslararası İlişkiler Enstitüsü (IFRI) Teknoloji Jeopolitiği Merkezi’nden Laure de Roucy-Rochegonde, anti-personel mayınlarının üzerine basıldığında patlaması nedeniyle bu kapsamda değerlendirilebileceğini ifade etti.
Ancak yapay zeka kullanan insansız hava araçlarının (İHA) yaygınlaşmasıyla tablo değişti. Rickli, bu silahların artık “önceden belirlenmemiş bir hedefi seçip vurabiliyor ve insan müdahalesi olmadan çevrelerine uyum sağlayabiliyor” olduğunu belirtti.
Bu durum, düzenleyiciler açısından silahın kullanılmasına ilişkin kararda insan denetiminin hangi seviyede tutulacağı sorusunu öne çıkarıyor.
ABD, otonom silahların kullanımında “uygun düzeyde insan muhakemesi” ifadesini benimsiyor. Fransa ise insanın karar alma sürecinde bulunması gerektiğini savunuyor; tam otonom sistemleri (LAWS) yasaklarken “kısmen otonom” sistemlere (PLAWS) izin veriyor.
Fransa Savunma Bakanlığı’na bağlı Savunma Yapay Zekası Ajansı (AMIAD) Başkan Yardımcısı Tümamiral Vincent Sebastien, insan unsurunun askeri komutanın “uygun kontrolü” ile korunabildiğini söyledi.
Sebastien, bu ifadenin anlamının “sistemin kritikliğine ve operasyonel bağlama göre değiştiğini” belirtti.
Cenevre görüşmeleri sahadaki gelişmelerin gerisinde
Uzmanlara göre Cenevre’deki müzakereler önemli olsa da sorunun yalnızca bir bölümünü ele alacak. İnsan etkisinin azalması, yapay zekanın analiz ve hedef tespitinde giderek daha fazla kullanılmasıyla bağlantılı.
Rickli, Cenevre’deki gündemin “çok dar” olduğunu ve “savaş alanındaki yapay zekayı çevreleyen tüm sorunları kapsayamadığını” söyledi.
Bu durumun bu yıl ABD ve İsrail’in İran’a karşı yürüttüğü savaşta görüldüğünü belirten Rickli, “Amerikalıların İran içinde günde bin kadar hedefi vurduğunu” aktardı.
De Roucy-Rochegonde ise “hedefleme ve karar destek sistemleriyle ilişkili bir dizi sorun ve kabul edilemez riskler” bulunduğunu dile getirdi.
Fransız uzman, “Bu tartışmanın bir kısmı, halihazırda savaş alanında yaygın olarak kullanılan sistemlerle ilgili” dedi.
De Roucy-Rochegonde ayrıca şu soruyu yöneltti: “Operatörün, makinenin önerilerini sadece onaylamak yerine gerçekten kendi muhakemesini kullandığından emin olmak için nasıl bir insan denetimi gerekiyor?”
Büyük güçler rekabete hazırlanıyor
Cenevre’de ele alınacak otonom silahlar henüz geniş çaplı kullanıma ulaşmış değil. Buna karşın uzmanlar, Rusya’nın Ukrayna’daki askeri müdahalesinde ve ABD’nin İran’a yönelik saldırılarında bu sistemlerden yararlanıldığına işaret ediyor.
Tümamiral Sebastien, “Otonomi çok yakında savaş alanında bir gerçeklik haline gelecek” uyarısında bulundu.
Yapay zeka şirketi Anthropic’in başkanı Dario Amodei ise bu yıl, “Bugün en gelişmiş yapay zeka sistemleri, tam otonom silahları yönetecek kadar güvenilir değil” açıklamasını yaptı.
Bununla birlikte, teknolojinin sunduğu avantajlar büyük güçler açısından güçlü bir teşvik oluşturuyor.
Rickli, “düşmanı yoğunlukla etkisiz hale getirmeyi amaçlayan” otonom İHA sürülerinin son derece etkili olabileceğini ve bazı devletlerin bu kapasiteyi önemli bir stratejik üstünlük olarak değerlendirdiğini söyledi.
Çin Savunma Bakanlığı da Ocak ayında otonom İHA sürülerini “savaşın yeni yüzü” şeklinde tanımladı.
Cambridge Üniversitesi araştırmacısı Gerald Mako, Small Wars Journal dergisindeki değerlendirmesinde şu uyarıyı yaptı:
“Bu keskin askeri rekabet çağında, tam otonom ölümcül saldırıları normalleştiren ilk devlet, herkes için beklentileri sıfırlayacaktır.”
