New Mexico Yüksek Mahkemesi, Amerikan adalet sisteminin kalbine ulaşan yapay zeka "halüsinasyonlarının" şimdiye kadarki en keskin örneklerinden biri olan, ChatGPT tarafından toptan üretilmiş, hiç var olmayan tanıklara dayanan bir cinayet temyiz başvurusunda bulunan bir avukata yaptırım uyguladı.

Reuters'in bir raporuna göre eyaletin en yüksek mahkemesi, Santa Fe avukatı Stephen Aarons'a 5.000 dolar para cezası verdi ve onu "yapay zeka tarafından oluşturulan brifingdeki gerçek iddiaları ve yasal otoriteyi doğrulamadığı" gerekçesiyle aşağılama cezasına çarptırdı. Müvekkilinin cinayet mahkûmiyetine karşı yapılan temyiz başvurusunun bir parçası olarak sunulan tutanakta, "tamamen uydurma tanıkların yalan ifadeleri yer alıyordu" ve ayrıca tetikçinin kıyafeti ve görünümü hakkında asılsız iddialar yer alıyordu. Bu hikayeyle ilgili daha fazla bağlam için devam eden son dakika yapay zeka haberlerimize bakın.

Mahkemenin Bulguları

Mahkemenin dosyasında küçük yanlışlıklar belirtilmedi. İnsanları yoktan var eden bir temyiz belgesini tanımlıyordu: ifadeler var olmayan tanıklara atfedildi ve tetikçinin ne giydiğine ve nasıl göründüğüne ilişkin polis ifadeleri icat edildi; tam da bir cinayet mahkûmiyetinin ortaya çıkarabileceği türden gerçek ayrıntılar.

Mahkeme başvurusunu bildiren The Verge'e göre yaptırım, Aarons'un mahkemeye sunmadan önce "yapay zeka tarafından oluşturulan brifingindeki gerçek iddiaları ve yasal otoriteyi doğrulamaması" nedeniyle uygulandı. Başka bir deyişle sorun, bir avukatın taslak hazırlamaya yardımcı olmak için bir yapay zeka aracı kullanması değildi. Avukatın, asıl duruşma tutanağına karşı tek bir uydurma iddiayı bile kontrol etmeden çıktıyı sunmasıydı.

"Avukat, Haberleri İzliyor musunuz?"

Davanın olağanüstü niteliği, Aarons'un ChatGPT'yi kullandığını itiraf ettiği ve mahkemeye, chatbot'un duruşmanın "kurşun geçirmez bir özetini" sunmasını beklediğini söylediği Ağustos ayındaki duruşmada ortaya çıktı. Bu beklenti New Mexico Yüksek Mahkemesi Yargıcı C. Shannon Bacon'dan sert bir yanıt aldı.

"Avukat, haberleri izliyor musunuz? Radyo dinliyor musunuz? Dünyada olup bitenlerle ilgili bir şey okuyor musunuz?" Reuters'e göre Bacon sordu. "Çünkü AI halüsinasyonlarına güvenen avukatların sorunu her gün abartılı bir hikaye."

Yargıcın azarlaması, yapay zeka tarafından üretilen alıntıların ve ifadelerin niş bir teknik sorundan, hakimlerin artık her avukatın bilmesi gerektiğini varsaydığı ana mesleki sorumluluğa ne ölçüde dönüştüğünü ortaya koydu.

Yapay Zeka Yaptırımları Dizisindeki Son Gelişmeler

New Mexico davası, kontrolsüz yapay zeka kullanımı nedeniyle avukatları cezalandıran ve hızla büyüyen mahkemeler listesinin sonuncusu. The Verge, geçen yıl bir yargıcın iki hukuk firmasını "çok sayıda yanlış, yanlış ve yanıltıcı yasal alıntı ve alıntılar" içeren bir brifing sundukları için sert bir şekilde eleştirdiğini, MyPillow'un kurucusu Mike Lindell'i temsil eden avukatların da mahkeme dosyasında yapay zeka tarafından üretilen yanlış alıntılar ve sahte alıntılar içerdiği için para cezasına çarptırıldığını belirtti.

New Mexico yaptırımını diğerlerinden ayıran şey, üretilen malzemedir. Daha önceki davaların çoğu, uydurma hukuki alıntılar içeriyordu; sahte emsaller, gerçek davalardan sahte alıntılar. Burada uydurma, gerçeklere dayanıyordu: cezai itirazda tanıklar, ifadeler ve fiziksel delillerin açıklamaları. Bu ayrım önemlidir, çünkü bir cinayet davasında gerçeklerin uydurulması, temyiz incelemesinin korumak için var olduğu şeyin özüne vurmaktadır.

Trend çizgisi açıktır. The Verge'ın gözlemlediği gibi, çalışmalarında yapay zeka araçlarını kullanan avukatların sayısı arttıkça, mahkemelerin yapay zeka tarafından uydurulmuş veya halüsinasyona uğramış alıntıları keşfettiği durumlar da artıyor. Bir zamanlar utanç verici bir gözetim olarak görülen bu olay, giderek mesleki yeterliliğin başarısızlığı olarak, para cezaları, aşağılama kararları ve disiplin otoritelerinin incelemeleriyle cezalandırılıyor.

"Pişmanım"

Aarons ise Reuters'e yaptığı açıklamada, profesyonel disiplinin sağlanamaması halinde bu durumun sona ermesini umduğunu söyledi. Bir açıklamasında "Pişmanım ama disiplin kurulunun bunun dürüst bir hata olduğunu dikkate alacağını umuyorum" dedi.

Disiplin kurulunun bunu dürüst bir hata olarak değerlendirip değerlendirmeyeceği henüz bilinmiyor, ancak eyaletin en yüksek mahkemesi zaten kendi görüşünü açıkça ortaya koydu: 5.000 dolar para cezası ve hiçbir zaman gerçeğe aykırı olduğu doğrulanmayan bir brifing için saygısızlık kararı.

Neden Önemlidir

Dava, ülke genelindeki mahkemelerin davalarda yapay zeka kullanımına ilişkin konumlarını sertleştirmesiyle sonuçlandı. Hakimler giderek artan bir şekilde avukatlardan yapay zeka tarafından oluşturulan başvuruların doğrulandığını onaylamalarını talep ediyor ve yaptırımlar görünür uygulama mekanizması haline geldi. New Mexico Yüksek Mahkemesi'nden gelen mesaj muhtemelen sınırlarının çok ötesine geçecek: doğrulama görevi kişiseldir, devredilemez ve bir chatbot kendinden emin görünen bir dil ürettiği için ortadan kalkmaz.

Hukuk mesleği için hesaplama değişiyor. Yapay zeka taslak hazırlama araçları saatlerce çalışma tasarrufu sağlayabilir, ancak dosyalanmış bir brifingdeki tek bir uydurma tanık artık para cezasına, hakaret kararına ve disiplin yetkililerine sevk edilmeye mal olabilir; bu, birkaç uygulayıcının çekici bulacağı bir meslektir. Diğer herkes için bu durum, yapay zekanın çıktılarını kontrol etmesi gereken kişilerin, bunları gerçekten kontrol etmeleri konusunda her zamankinden daha fazla baskı altında olduklarını hatırlatıyor.

Ceza davalarında riskler en yüksektir. Sahte alıntılara uygulanan yaptırımlar adli zamanı boşa harcıyor; Bir cinayet temyizindeki uydurma deliller, mahkûmiyet kararının geçerli olup olmadığına karar veren mekanizmayı etkiliyor. Temyiz mahkemesi yalnızca gerçek kayıtlara dayalı iddiaları değerlendirebilir ve hayalet tanıkların yer aldığı bir brifingde hakimlerden hiç gerçekleşmemiş olaylar hakkında karar vermeleri istenir.

---

Yapay Zekanın Önünde Olun

En son AI haberlerini, analizlerini ve buluşlarını tek bir yerden alın.

Daha fazla AI haberini okuyun →