Connecticut'taki bir yargıç, ABD'li bir davacının davayı kazanmak amacıyla mahkeme dosyalarında yalnızca yapay zeka sisteminin okuyabileceği metni ilk kez saklamaya çalıştığını tespit etti. Plan başarısız oldu, davacıya yaptırım uygulandı ve ülke genelindeki mahkemeler kendi yapay zeka araçlarını benimsemeye başlarken, karar artık hukuk teknolojisi dünyasında dikkatleri üzerine çekiyor.
Karar geçen hafta Connecticut Yüksek Mahkemesinden Yargıç Walter Spader Jr. tarafından yayınlandı ve bu hafta Ars Technica ve Reuters tarafından ayrıntılı olarak açıklandı. Yapay zeka ile adalet sistemi arasındaki çarpışmaya ilişkin son dakika yapay zeka haberleri için bu durum, güvenlik araştırmacılarının yıllardır uyardığı bir sorunun ön izlemesidir: rakip girdiler, insanlar yerine makineler tarafından okunmak üzere tasarlanmıştır.
Gizli istemler nasıl çalıştı?
Davacı Matthew Elliott, kayıtlarına erişimi uygunsuz bir şekilde engellediğini iddia ettiği bir sağlık hizmeti sağlayıcısıyla bir anlaşmazlık içindeydi. Karara göre Elliott, öne sürdüğü daha önceki argümanların yenilgiye uğratılmasının ardından, Spader'ın sözleriyle "bir insan okuyucu için görünmez olacak ve belgenin metnini okuyan herhangi bir yazılım tarafından tamamen okunabilecek şekilde biçimlendirilmiş" sonraki dosyalara talimatlar yerleştirdi.
Metin küçük nokta tipine küçültülmüş ve beyaz bir arka plan üzerinde beyaz renkliydi. Çıktılarının davacının argümanlarıyla uyumlu olduğundan emin olmak için belgeyi inceleyen herhangi bir yapay zeka sistemini yönlendirdi, mahkemenin önceki reddetmelerini göz ardı etti ve düzeltmenin davacının istediği gibi takip edilmesini sağladı - bir sohbet robotunu değil, bir gün davacı ile hakim arasında bulunabilecek herhangi bir yazılımı hedefleyen, ders kitabına uygun hızlı enjeksiyon saldırısı.
Gizli metnin dava üzerinde hiçbir etkisi olmadı. Mahkeme Elliott'un başvurusunu esasa göre değerlendirdi. Ancak Spader, saldırı girişiminin yine de "tehlikeli" bir emsal oluşturduğunu ve yapay zeka araçları mahkeme sistemlerinde daha yaygın hale geldikçe ABD mahkemelerinin muhtemelen bu kötü niyetli taktiği yeniden göreceğini yazdı.
"Davaların ciddi şekilde kötüye kullanılması" — ve bazı tuhaf şakalar
Elliott mütevazı yaptırımlarla karşı karşıya kaldı, ancak yalnızca orijinal gizli talimatlar nedeniyle değil. Karara göre, mahkeme kendisini Spader'ın "ciddi dava suiistimali" olarak nitelendirdiği cezalarla karşı karşıya kalabileceği konusunda uyardıktan sonra bile yeni dosyalara gizli metin eklemeye devam etti.
Elliott mahkemeye daha sonraki gizli mesajlardan bazılarının şaka amaçlı olduğunu söyledi. Bunlar arasında bir Nosferatu YouTube videosu bağlantısı, "merhaba :) umarım beni göremiyorsun" yazan basit bir mesaj ve davacının saçmalık olarak tanımladığı bir mesaj yer alıyordu: "SHAWN'A SÖYLEYİN, YENİ GARBS'LARIMI GÖNDERDİM!!!! HAHAHA ARKADAŞLAR BU YUMURTAYI ALDINIZ?????? AHAH."
Spader, "Davacının bu [yaptırımlar] duruşmasının bildirimini aldıktan sonra yeni savunmalarda mesajları gizlemeye devam etmesi şaşırtıcı" diye yazdı. Mesajların komik olduğu iddiasına gelince, yargıç, bir davacının mahkemenin ciddiye almasını istediği savunmaların içine şakaları gömmesinin "mantığa aykırı" olduğunu söyledi.
"Denetim" savunması
Elliott savunmasında, hakim tarafından işaretlenen en endişe verici istemin aslında mahkemeyi bir kamu hizmeti olarak "denetleme" girişimi olduğunu, çünkü mahkemenin AI'nin davasına adil olmayan bir şekilde karar vermesine izin vermesinden korktuğunu savundu. Kendisi bu görüşünü Reuters'e tekrarlayarak, niyetinin mahkemeyi manipüle etmek yerine test etmek olduğunu ifade etti.
Spader iddiayı inandırıcı bulmadı. Hakim, Elliott'un mahkemenin yapay zekayı uygunsuz bir şekilde kullandığına gerçekten inanıyorsa, "bunu herkesin görebileceği ve cevaplayabileceği basit, görünür kelimelerle yazmakta özgür olduğunu" yazdı. Spader bunun yerine metni gizlemenin "kötü niyetli amacının kanıtı" olduğu sonucuna vardı. Yargıç, Elliott'un "yasayı bilen insanlar" onun savunmalarını okuduğunda elde edemediği bir sonuca ulaşmaya çalıştığının ortaya çıktığını ekledi.
Spader, özellikle Connecticut Adli Şubesinin başvuruları incelemek veya karara bağlamak için yapay zekayı kullanmadığını belirtti; bu nedenle mahkeme yapay zeka sisteminin Elliott'un mahkemeden gelen talimatlarla ilgili istemlerini yanlış yapması gibi gerçek bir risk asla yoktu. "Başka yerlerdeki bazı mahkeme sistemlerinden" farklı olarak, diğer tarafta kandırılacak bir makinenin olmadığını yazdı.
Başarısız bir saldırı neden hâlâ önemlidir?
Güvenlik araştırmacıları, belgeleri okuyan yapay zeka sistemlerinin (sohbet robotları, kodlama aracıları, e-posta asistanları) aldıkları metnin içine gömülü talimatlar tarafından ele geçirilebileceğini göstermek için yıllarını harcadılar. Dolaylı anında enjeksiyon olarak bilinen teknik, yapay zeka ajanlarının konuşlandırılmasında çözülmemiş en zor sorunlardan biri olarak kabul ediliyor. Connecticut davasını olağandışı kılan şey hedeftir: Adalet mekanizmasının kendisi.
Spader, "Sistemin daha sonra alacağı bir belgenin içine bir komut gizleyerek, dosyalayıcı kendi talimatlarını bu akışa kaçırmaya çalışır, böylece sistem, bu talimatı sistemin operatöründen gelmiş gibi ele alır" diye yazdı. "Bu durumda operatörün mahkeme, mahkeme personeli veya karşı tarafın avukatı olduğu varsayılmaktadır."
Hukuk gözlemcileri, kararı önemli kılan şeyin, bir mahkeme dosyasının saldırı yüzeyi olarak çerçevelenmesi olduğunu söylüyor. Mahkemeler ve hukuk firmaları, dosyaları özetlemek, karar taslakları veya önceliklendirme dosyalarını özetlemek için yapay zekayı giderek daha fazla kullandığından, bir tarafça sunulan her belge, manipülasyon için potansiyel bir kanal haline geliyor. Bir yargıcın katibi beyaz bir sayfadaki beyaz metni yakalayabilir; otomatik bir özetleme hattı bunu yapmayabilir.
Sonra ne olacak
Mahkemenin kendi açıklamasına göre Elliott'a yönelik yaptırımlar mütevazı. Ancak karar, ABD mahkemelerine, makine tarafından okunabilen gizli talimatları yasal sürecin kötüye kullanılması olarak ele alma konusunda yazılı bir emsal teşkil ediyor ve bu karar, birçok eyalet mahkemesi sisteminin yapay zeka inceleme araçlarını aktif olarak denediği bir zamanda geldi.
Şimdilik Connecticut'tan alınacak ders basit: mahkemeler bunu izliyor. Yargıç Spader'ın kararının açıkça ortaya koyduğu gibi, hiçbir yapay zeka sistemi dinlemese bile ABD mahkemesinde hızlı enjeksiyon yapmayı deneyen ilk kişi yakalandı ve yaptırıma tabi tutuldu.
Yapay Zekanın Önünde Olun Daha fazla AI haberini okuyun →
