California milletvekilleri, avukatların üretken yapay zekayı uygulamalarında nasıl kullanabilecekleri konusunda bağlayıcı kurallar belirleyen türünün ilk örneği olan eyalet yasası olan Senato Yasa Tasarısı 574'ü onayladı ve bu önlem şu anda Vali Gavin Newsom'un masasında duruyor.
Mahkeme A.I. olarak bilinen yasa tasarısı. Koruma Yasası, Senato'nun 31 Ağustos'ta Meclis değişikliklerini 39-0 oyla kabul etmesinin ardından bu hafta Yasama Meclisini temize çıkardı. Bu öneri, Santa Ana'lı bir Demokrat olan ve Senato Yargı Komitesi'ne başkanlık eden Senatör Thomas Umberg tarafından tanıtıldı; bu komitenin ofisi, yapay zeka araçlarının mesleğe yayılmasıyla amacının hukuki hizmet alan kişileri korumak olduğunu söylüyor. Reuters, tedbiri, avukatların üretken yapay zeka kullanımını düzenleyen türünün ilk eyalet yasası olarak nitelendirdi. Ancak Newsom bunu imzalayana kadar şartları kanun değildir. Bu hikayeyle ilgili daha fazla bağlam için devam eden Yapay Zeka eğilimleri bölümümüze bakın.
SB 574'ün Gerektirdikleri
Tasarı özünde parlak bir çizgi çiziyor: Avukatlar avukatlık mesleğini üretken bir yapay zeka sistemine devredemez. Yapay zekayı kullanan bir avukat, onunla üretilen hukuki çalışmalardan tamamen sorumlu olmaya devam eder.
Doğrulama görevleri en somut olanlardır. Üretken yapay zeka kullanan avukatlar, dava ve yasal alıntılar da dahil olmak üzere çıktının doğruluğunu doğrulamak için makul adımlar atmalı ve ona güvenmeden önce hatalı veya uydurma materyali düzeltmelidir. Daha da ileri giderek, Kaliforniya mahkemesine sunulan bir brifing, dilekçe, savunma veya başka bir belgeden sorumlu herhangi bir avukatın, kaynağı ne olursa olsun, başvurudaki her alıntıyı kişisel olarak doğrulaması gerekecektir. Bir yapay zeka aracına güvenmek yanlış alıntıyı mazur göstermez.
Açıklama ikinci sütundur. Avukatların, kendisine sunulan belgeler için üretken yapay zekanın kullanımını mahkemeye açıklaması gerekecek ve halka dağıtılan materyal oluşturmak için yapay zekayı kullananların, bunun kullanımını açıklayıp açıklamamayı düşünmeleri gerekecek.
ChatGPT Dönemi için Gizlilik Kuralları
Tasarının üçüncü ayağı avukatların verilerinin nereye gideceğini ele alıyor. SB 574, avukatların gizli, kişisel olarak tanımlayıcı veya diğer kamuya açık olmayan bilgileri, bu bilgilere erişim avukatla ve avukatın yetkilendirdiği ve gizliliğini korumakla yükümlü kişilerle sınırlı olmadığı sürece üretken bir yapay zeka sistemine girmesini yasaklayacaktır.
Hüküm, kapsamdaki hassas kategorileri sıralamaktadır: Sosyal Güvenlik numaraları, doğum tarihleri, tıbbi ve psikiyatrik kayıtlar, mali bilgiler, hesap numaraları ve taraflara, tanıklara, mağdurlara ve mahkeme personeline ait adresler veya telefon numaraları. Özellikle tasarı, yapay zeka sistemlerinin gizli materyallerle kullanımını doğrudan yasaklamıyor; test, sistemin girilenlere erişimi yeterince kısıtlayıp kısıtlamadığıdır.
Milletvekilleri Neden Harekete Geçti?
Mevzuat, mahkeme salonlarında yapay zekanın en görünür başarısızlık moduna yanıt veriyor: halüsinasyonlu otorite. Büyük dil modelleri, davalar, alıntılar ve kanunlar icat ederken güvenilir görünen yanıtlar üretebilir ve ülke çapındaki mahkemeler, yapay zeka tarafından oluşturulan hayali yasal otoritelere atıfta bulunarak brifing veren avukatlara yaptırım uyguladı.
Bununla birlikte gizlilik endişeleri de arttı. Bu yılın başlarında, New York'taki ABD Bölge Yargıcı Jed Rakoff, United States v. Heppner davasında, suçlu bir sanığın Anthropic'ten Claude ile kendi kendine yaptığı görüşmelerin avukat-müvekkil ayrıcalığı veya iş ürünü doktrini tarafından korunmadığına karar verdi; bunun nedeni kısmen, sanığın üçüncü taraf bir yapay zeka platformuna bilgi ifşa etmesiydi. Her ne kadar bu dava bir avukat yerine bir müvekkili ilgilendirse de, hassas hukuki bilgilerin üçüncü taraf yapay zeka sistemlerine girildiğinde maruz kalındığını gösteriyor.
Kaliforniya zaten bu sorularla profesyonel rehberlik yoluyla ilgileniyor. Kaliforniya Eyalet Barosu, Mayıs 2026'da, Yetkinlik, gizlilik, denetim, müvekkil iletişimleri ve mahkemelere karşı açık sözlülüğü kapsayan Üretken Yapay Zekanın Hukuk Uygulamasında Kullanımına İlişkin Pratik Kılavuzunu güncelledi. Kaliforniya Yüksek Mahkemesi, 2025 yılında Eyalet Barosu'na, AI ile ilgili ilkeleri Mesleki Davranış Kurallarına dahil etmeyi düşünmesi yönünde talimat verdi; avukatların hem AI sistemlerine girenler hem de ortaya çıkanlar konusundaki sorumluluğunu açıklığa kavuşturacak önerilen değişiklikler değerlendiriliyor. SB 574 bu kavramların birçoğunu kılavuzdan kanuna taşıyor.
Avukatların Ötesinde: Hakemler ve Hakimler
Tasarı avukatların ötesine geçiyor. Hakemlerin, karar verme sorumluluklarının herhangi bir bölümünü üretken yapay zekaya devretmeleri yasaklanacak ve delil kaydı dışında yapay zeka tarafından oluşturulan bilgilere, öncelikle bunların kullanımını taraflara açıklamadan ve mümkün olduğunda onlara yanıt verme fırsatı vermeden güvenemeyecek. Tedbir aynı zamanda Kaliforniya Yargı Konseyinin, teknoloji geliştikçe üretken yapay zekanın yargısal kullanımını düzenleyen standartlarını yeniden gözden geçirmesini gerektiriyor.
Sırada Ne Olacak?
Newsom henüz tasarıyı uygulamaya koymadı ve kararı Kaliforniya'nın çok ötesinde izlenecek. Eyaletin piyasa gücü, eyaleti yapay zeka endüstrisinin fiili düzenleyicisi haline getirdi - sınır modelleri için SB 53 şeffaflık yasası 2025'te imzalandı - ve geçmişte yapay zeka tanıtımını ve yapay zeka uyarısını dengeleyen bir vali, artık profesyonel yapay zeka kullanımının ülkenin en büyük avukat nüfusu için yasal bir görev meselesi olup olmadığına karar veriyor.
SB 574 imzalanırsa, diğer eyaletlerin muhtemelen inceleyeceği bir orta yolu test edecek: Kaliforniya, AI'nın yasal uygulamalarda yasaklanması yerine, bunun kullanımını mesleğin mevcut yükümlülüklerine (doğrulama, dürüstlük ve gizlilik) bağlayacak ve sorumluluğu araç değil avukata bırakacaktır.
---
Yapay Zekanın Önünde OlunEn son yapay zeka haberlerini, analizlerini ve buluşlarını tek bir yerden alın.
Daha fazla AI haberini okuyun →
