ABD’de bir cinayet davasının temyiz başvurusunu ChatGPT yardımıyla hazırlayan bir avukat, sahte tanık ifadeleri ile çarpıtılmış içtihatlar sunması nedeniyle para cezasına çarptırıldı.
Olayın özeti
New Mexico’da temyiz sürecini yürüten avukat Stephen Aarons’un, temyize ilişkin başvurusunu hazırlarken ChatGPT kullandığı belirlendi. Dilekçede sahte bilgiler ve çarpıtılmış içtihatlar sunulduğu ifade edildi.
Mahkeme kararı ve yaptırımlar
Mahkeme kararı, yapay zekanın ürettiği sahte ifadelerin resmi başvuruya dahil edildiğini kaydetti. Aarons, dilekçeyi hazırlarken ChatGPT kullandığını kabul etti. Resmi evraktaki içerikte tamamen hayal ürünü tanık ifadelerinin yanı sıra gerçek tanıklar ve içtihatlarla ilgili çarpıtılmış bilgiler bulunduğu anlaşıldı.
Kararda şu ifadeye yer verildi: “Avukat, yapay zekanın yardımıyla hazırlanan temyiz dilekçesindeki fiili iddiaları ve hukuki dayanakları imzalamadan ve mahkemeye sunmadan önce doğrulamadığını itiraf etmiştir.”
Aarons, saygısızlıkla suçlu bulundu ve New Mexico Barosu Müşteri Koruma Fonu’na 5 bin dolar ödemeye mahkum edildi. Bir süreliğine Aarons’a yeni bir avukat atanırken, soruşturma tamamlanana kadar eyalet yüksek mahkemesinde savunma yapması yasaklandı.
Reuters’a konuşan Aarons, duruşma sürecini özetlemek amacıyla yapay zekaya başvurduğunu ve bu sistemlerin olguları tamamen uydurabileceğini kestiremediğini savundu.
“Pişmanım; disiplin kurulunun bunun dürüstçe yapılmış bir hata olduğunu dikkate alacağını umuyorum. Bu, güçlü ancak kimi zaman dengesiz işleyen bu teknolojiye bel bağlayan tüm uzmanlar için bir ders niteliğidir” dedi.
Yapay zeka sistemlerinde “halüsinasyon” kavramı, modelin kendinden emin bir üslupla sunduğu ancak gerçeği yansıtmayan veya tümüyle hayal ürünü olan yanıtları tanımlıyor.
OpenAI şirketinin 2025 tarihli raporuna göre yapay zekanın hata yapma sıklığı yüzde 33 ile yüzde 48 seviyesine kadar ulaşıyor.
