Son dönemde birçok kişi yapay zekâ araçlarını içerik üretmekte kullanıyor. Ancak bu araçların mahkeme salonlarına da sızması, hukuk dünyasında büyük endişe yaratmış durumda. Amerika’da görülen yeni bir davada, bir boşanma sürecinde taraflardan birinin avukatı, yapay zekâ tarafından üretilmiş hayali dava kararlarını resmi belgelere ekledi. Bu durum yalnızca davanın seyrini değil, yargıya olan güveni de sarsabilecek boyutlara ulaştı.

Olayın duyulmasıyla birlikte mahkemeler ve hukuk uzmanları, yapay zekânın “halüsinasyon” olarak adlandırılan içerik uydurma davranışına karşı daha temkinli olmaya başladı. Zira bu tür belgeler yalnızca avukatların değil, yoğunlukla boğuşan hâkimlerin de hatalı kararlar almasına neden olabiliyor.

Yapay Zeka ile Hazırlanan Belgeler Mahkemeleri Tehlikeye Atıyor

Georgia eyaletindeki temyiz mahkemesi, kısa süre önce verdiği kararda bu soruna dikkat çekti. Boşanma davasında, kocanın avukatı tarafından sunulan belgelerde, gerçekte var olmayan davalara atıf yapıldığı ortaya çıktı. Bu belgeler ilk aşamada fark edilmedi ve hâkim tarafından onaylanarak davanın seyrini etkiledi. Ancak kadının itirazıyla birlikte bu uydurma içerikler gün yüzüne çıktı ve temyiz mahkemesi belgeyi geçersiz sayarak avukata 2.500 dolar para cezası verdi.

Bu olay tekil bir hata değil. Daha önce benzer bir durumda bir avukat 15.000 dolar ceza ödemek zorunda kaldı. Hukuk uzmanları, bu tür örneklerin giderek artabileceğini ve yapay zekâ destekli belgelerin, yanlış yönlendirme riskini ciddi ölçüde artırdığını belirtiyor. Sistem hâlihazırda aşırı yük altında olduğu için, özellikle alt mahkemelerde bu tür içeriklerin fark edilmeden kabul edilmesi oldukça muhtemel.

Sorunun bir başka yönü ise yapay zekâ tarafından yazılan belgelerin gerçeğe çok yakın görünmesi. Uydurma davalar, kurgusal kararlar ve sahte hukuk dili; deneyimli bir hukukçuyu bile yanıltabilecek şekilde hazırlanabiliyor. Bu da hâkimlerin ve mahkeme çalışanlarının ekstra dikkatli olmasını gerektiriyor.

ABD’de yalnızca Michigan ve Batı Virginia eyaletleri hâkimlerden temel seviyede yapay zekâ bilgisi talep ediyor. Bazı mahkemeler ise önlem olarak yapay zekâyla yazılmış belgeleri tamamen yasakladı ya da kullanımı için beyan şartı getirdi. Ancak bu önlemler henüz sistematik değil ve dava yoğunluğu nedeniyle uygulanmaları da zor.

Robot Avukat Harika Çalışıyor

Yapay Zeka Hukuku Karıştırdı: Hatalı Dosyalar Artıyor yazısı ilk önce TeknoBurada üzerinde ortaya çıktı.