Yapay Zekaya Güvenen Avukata Ağır Ceza: ChatGPT İmzalı Sahte Dilekçe Mahkemeyi Karıştırdı

Amerika Birleşik Devletleri hukuk dünyasında yapay zeka kullanımının sınırları ve doğurabileceği tehlikeli sonuçlar, emsal niteliğinde bir mahkeme kararıyla bir kez daha gözler önüne serildi. New Mexico Eyalet Yüksek Mahkemesi, bir cinayet davasının temyiz sürecinde ChatGPT kullanarak uydurma bilgilere dayalı bir dilekçe sunan avukat Stephen Aarons'ı cezalandırdı. Yapay zekanın ürettiği sahte tanık beyanlarını ve çarpıtılmış içtihatları kontrol etmeden resmi makamlara sunan deneyimli hukukçu, hem mesleki hem de maddi yaptırımlarla karşı karşıya kaldı.

Yapay Zekanın Uydurduğu Sahte Kanıtları Doğrulamadan İmzaladı

Davanın detaylarına göre, ağır bir cinayet yargılamasının temyiz aşamasını üstlenen avukat Stephen Aarons, savunma stratejisini kolaylaştırmak amacıyla popüler yapay zeka aracı ChatGPT'den yararlandı. Ancak hazırlanan resmi başvuru evrakında, tamamen hayal ürünü olan tanık ifadelerinin yanı sıra gerçek tanıklara ait beyanların tahrif edildiği ve var olmayan yargı içtihatlarının gerçekmiş gibi sunulduğu tespit edildi.

Mahkeme tarafından yayımlanan resmi kararda, "Avukat, yapay zekanın yardımıyla hazırlanan temyiz dilekçesindeki fiili iddiaları ve hukuki dayanakları imzalamadan ve mahkemeye sunmadan önce doğrulamadığını itiraf etmiştir." ifadelerine yer verilerek sürecin ciddiyeti vurgulandı.

Para Cezası ve Savunma Yapma Yasağı Geldi

Mahkemeye saygısızlıktan suçlu bulunan Aarons hakkında hızlıca disiplin süreci işletildi. New Mexico Eyalet Yüksek Mahkemesi, sorumsuz davranışı nedeniyle Aarons'ı New Mexico Barosu Müşteri Koruma Fonu'na 5 bin dolar ödemeye mahkum etti. Bununla da yetinilmeyen yaptırımlar kapsamında, davanın sanığına derhal yeni bir avukat atanırken, süren idari soruşturma netleşene kadar Aarons'ın eyalet yüksek mahkemesinde savunma yapması tamamen yasaklandı.

"Halüsinasyon" Riski: Yapay Zekanın Hata Oranı Yüzde 48'e Ulaşıyor

Kararın ardından Reuters haber ajansına konuşan avukat Stephen Aarons, büyük bir pişmanlık yaşadığını dile getirdi. Duruşma sürecini hızlıca özetlemek amacıyla yapay zekaya başvurduğunu belirten Aarons, bu tür sistemlerin olguları tamamen uydurabileceğini (halüsinasyon görebileceğini) tahmin edemediğini savundu.

Aarons yaptığı açıklamada, "Pişmanım; disiplin kurulunun bunun dürüstçe yapılmış bir hata olduğunu dikkate alacağını umuyorum. Bu, güçlü ancak kimi zaman dengesiz işleyen bu teknolojiye bel bağlayan tüm uzmanlar için bir ders niteliğindedir" diyerek meslektaşlarını uyardı.

Yapay zeka literatüründe "halüsinasyon" olarak adlandırılan bu durum, sistemlerin son derece ikna edici bir dille tamamen uydurma bilgiler üretmesini tanımlıyor. OpenAI şirketinin 2025 tarihli raporu da bu tehlikeyi doğrular nitelikte; zira rapora göre yapay zekanın hata yapma sıklığı yüzde 33 ile yüzde 48 gibi oldukça yüksek bir seviyede seyrediyor.