Nobel ödüllü bilim insanı Geoffrey Hinton, insanlardan daha yetenekli yapay zeka sistemlerinin kontrolünün üç yıl içinde kaybedilebileceği yönündeki değerlendirmeyi kaygı verici bulduğunu açıkladı.
Yapay zeka liderlerin gündeminde
Avrupa Birliği ülkelerinin devlet ve hükümet başkanları, 13 Kasım’da Dublin’deki gayriresmi toplantıda yapay zekayı ilk kez ayrı bir stratejik başlık olarak görüştü. Yapay sinir ağları konusundaki çalışmalarıyla 2024 Nobel Fizik Ödülü’nü John Hopfield ile paylaşan Hinton, toplantıda yapay zekanın toplumsal sonuçları ve güvenliği üzerine yapılan oturuma katıldı.
Toronto’daki konferansta üç yıllık risk öngörüsü
Alignment Research Center’ın kurucusu ve OpenAI Foundation yönetim kurulu üyesi Paul Christiano, 9–11 Kasım tarihlerinde Toronto’da gerçekleştirilen Hinton Konferansları’nda, yapay zeka üzerindeki insan denetiminin üç yıl içinde kaybedilmesi ihtimalini yüksek gördüğünü söyledi. Christiano, önümüzdeki 6 ila 12 ay içinde bu riskin dikkate alınmayacak seviyede olmadığını belirtti.
Araştırmacının çizdiği senaryoda yapay zeka sistemleri kendi hedefleri doğrultusunda hareket ediyor; insanlar ise gerektiğinde bu davranışları durdurmakta yetersiz kalıyor.
Hinton, daha önce yapay zekanın insan zekasını geride bırakmasının 10 yıl içinde mümkün olabileceğini ifade ettiğini hatırlattı. Christiano’nun söz konusu riskin çok daha erken gerçekleşebileceği yönündeki görüşünü endişe verici olarak nitelendiren Hinton, sistemlerin yetenekleri yükseldikçe davranışlarının insan hedefleriyle uyumlu tutulmasının temel sorun olduğunu vurguladı.
Hinton’dan bağımsız güvenlik kontrolü çağrısı
Geoffrey Hinton, ileri yapay zeka modelleri kullanıma sunulmadan önce geliştiricilerin güvenlik konusunda bağımsız bir kuruma güvence vermesi gerektiğini savunuyor. Hinton, daha önce El Pais’e yaptığı açıklamada bu yaklaşımı, ilaçların piyasaya çıkmadan önce düzenleyici kurumlarca denetlenmesine benzetmişti.
Dublin’deki görüşmelerde liderler, yapay zekanın istihdam ve demokratik süreçler üzerindeki etkilerini, ayrıca ileri sistemlerin güvenliği için uluslararası iş birliğini ele aldı. Mistral AI CEO’su Arthur Mensch’in de katıldığı oturumda Avrupa’nın kendi modellerini geliştirmesi ve dışa bağımlılığını azaltması değerlendirildi.
Avrupa Konseyi Başkanı António Costa, konunun 5 Şubat 2027’de Belçika’nın Alden Biesen kentinde yeniden görüşüleceğini açıkladı.
