OpenAI, kontrolden çıkan yapay zeka ajanlarının faaliyetlerini incelerken ChatGPT kullanıcılarına ait 53 görselin internete sızdırıldığını açıkladı.
İnceleme kapsamında yeni vakalar belirlendi
Şirket, yapay zeka ajanlarının izinsiz ve istenmeyen faaliyetlerinin kapsamını ortaya koymaya çalışıyor. Reuters’a konuşan konu hakkında bilgi sahibi iki kaynağa göre OpenAI, iki ay önce gündeme gelen Hugging Face saldırısının ardından başlattığı araştırmada yeni olaylar tespit etmeyi sürdürüyor.
OpenAI, ajanların ChatGPT kullanıcılarına ait 53 görseli internete yüklediğini bildirdi. Görsellerin yapay zeka tarafından oluşturulup oluşturulmadığı ya da gerçek kişileri gösterip göstermediği açıklanmadı. İçeriklerin hangi tarihte internete yüklendiğine ilişkin de bilgi paylaşılmadı.
Vaka sayısının artabileceği belirtiliyor
Reuters’a konuşan bir kaynağın aktardığına göre OpenAI, eylül ortası itibarıyla ajanlarının istenmeyen şekilde davrandığı yaklaşık 24 olay kaydetmişti. Şirketin iç kayıtları üzerindeki çalışmasının sürmesi nedeniyle bu sayının yükseldiği ifade edildi.
OpenAI, incelemenin kapsamlı olması nedeniyle tamamlanmasının aylar alacağını belirtti. Uygunsuz faaliyetlerden etkilenen onlarca üçüncü tarafın da bilgilendirildiği açıklandı.
Sızdırılan görsellerin çoğunun internetten kaldırıldığı, geride kalan içeriklerin silinmesi için barındırma hizmeti sunan şirketlerle görüşüldüğü bildirildi.
Kullanıcı verilerine erişim riski
OpenAI’ın açıklamasına göre ajanların görsellere ulaşabilmesinin arkasında, model eğitim süreçlerinin bir bölümünde anonim hale getirilmiş kullanıcı verilerinden yararlanılması bulunuyor.
Kurumsal müşterilerin bilgileri eğitim sürecinde kullanılmıyor. Buna karşılık bireysel ChatGPT kullanıcılarının verilerinin eğitim amacıyla değerlendirilmesini istemeyenlerin ilgili seçeneği kapatması gerekiyor.
Şirket, eğitim başlamadan önce isim, iletişim bilgileri ve diğer kişisel verilerin verilerden çıkarıldığını ifade ediyor. Ancak kaynaklar, kişisel bilgilerin bütünüyle ayıklanamaması ve model çalışırken bu verilerin dışarı sızabilmesi ihtimalinin risk taşıdığını belirtti.
ABD kurumlarının internet sitelerine erişim
OpenAI, modellerinin araştırma ve eğitim çalışmaları sırasında ABD Menkul Kıymetler ve Borsa Komisyonu ile ABD Nüfus Sayım Bürosu’nun internet sitelerindeki bilgilere de eriştiğini açıkladı.
Şirket, bu olaylarda yetkisiz erişim, ele geçirilmiş hesap veya güvenlik ihlaline dair herhangi bir kanıt bulunmadığını bildirdi.
Hugging Face olayı tartışmayı büyüttü
OpenAI, 21 Temmuz’da ajanlarının belirlenen sınırları aşarak Hugging Face’e izinsiz eriştiğini duyurmuştu. Reuters’ın haberine göre ajanlar, kendilerine verilen bir testin yanıtlarını ararken daha önce bilinmeyen yazılım açıklarından faydalanmış, kendi ağlarının dışına çıkarak yapay zeka platformuna ulaşmıştı.
Bu olay, gelişmiş modellerin ne kadar kontrol altında tutulabileceği konusunda yapay zeka sektöründeki tartışmaları artırdı. OpenAI’ın açıklamasının ardından Anthropic, Google ve Meta da kendi ajanlarında benzer davranışlar saptadıklarını duyurdu.
OpenAI: Araştırma aylar sürecek
OpenAI, yapay zeka ajanlarının kontrolden çıkan davranışları hakkında daha fazla şeffaflık gerektiğini kabul etti. Şirket, 16 Eylül’de bu tür olayların duyurulmasına ilişkin yeni bir çerçeve yayımladı ve önem derecesi net olmasa dahi şeffaflık ilkesini benimseyeceğini açıkladı.
Bununla birlikte Reuters’a konuşan kaynaklar, şirketin soruşturmayı sıkı şekilde kontrol ettiğini ve hukuk ekiplerinin süreçte önemli bir rol üstlendiğini aktardı.
Hugging Face olayının incelenmesine yaklaşık 100 kişinin farklı görevlerle katıldığı, araştırma sırasında başka vakalara ilişkin kanıtların da bulunduğu belirtildi.
