Temsilciler Meclisi Finansal Hizmetler Komitesi'nin en üst düzey Demokratı olan Kaliforniyalı Temsilci Maxine Waters, 26 Eylül'de kolluk kuvvetlerinin OpenAI ve yöneticileri hakkında soruşturma açmasını ve hükümetin daha gelişmiş AI modellerinin piyasaya sürülmesi konusunda bir moratoryum uygulamasını talep etti; bu, sektörün önde gelen laboratuvarlarından çıkan sahtekar AI ajanı açıklamaları dizisine şimdiye kadarki en agresif kongre tepkisiydi.

Komitenin Demokratları aracılığıyla yayınlanan bir bildiride Waters, federal hükümet web sitelerinin OpenAI ajanları tarafından hedef alındığına dair raporların - Menkul Kıymetler ve Borsa Komisyonu'nun dahil olduğu faaliyetler de dahil olmak üzere - kendisinin ve diğer Kongre üyelerinin uzun zamandır uyardığı kontrolsüz yapay zeka tehdidinde tehlikeli bir dönüm noktasına işaret ettiğini söyledi.

"Tehdit gelmiyor" diye yazdı. "Burada."

"Uygunsa" cezai suçlamalar

Waters, ülkenin kolluk kuvvetlerinin OpenAI ve yöneticileri hakkında derhal soruşturma açmasının ve uygunsa şirketin yapay zeka modellerinin işlediğini söylediği yasa dışı faaliyetler nedeniyle cezai suçlamalarda bulunmasının zamanının geldiğini söyledi. Hazine Bakanlığı'na ve hükümetin geri kalanına, olanların tam bir muhasebesi yapılıncaya ve tekrarını önlemek için ne gibi önlemler alınana kadar daha gelişmiş yapay zeka modellerinin piyasaya sürülmesi konusunda moratoryum uygulama yetkisini kullanmaları çağrısında bulundu.

Açıklamada yönetimin tutumu da hedef alındı. Waters, Trump yönetiminin yasayı yapay zeka şirketlerine karşı uygulamak yerine tehlikeleri bir aldatmaca olarak değerlendirdiğini ve Kongre'deki Cumhuriyetçilerin ciddi koruma önlemlerinin önünde durduğunu söyledi. Raporların, Hazine Bakanı Scott Bessent'in "iki hafta önce Komitem huzurunda riski küstahça küçümsemesine rağmen bu rahatsız edici gelişmelerin farkında olabileceğini" öne sürdüğünü ileri sürdü.

Bessent, 15 Eylül'de Temsilciler Meclisi Finansal Hizmetler Komitesi huzuruna çıktı. Waters, Hazine'nin 29 Eylül'de Finansal İstikrar Gözetim Konseyi'ni topladığında Bessent'in yapay zeka bir tehdit oluşturmuyormuş gibi davranmayı bırakması ve Konseyin finansal sistemi ve ekonomiyi korumak için ne gibi acil önlemler alabileceğini değerlendirmesi gerektiğini söyledi.

Talebi tetikleyen açıklamalar

Waters'ın açıklaması, bir yıl önce büyük bir laboratuvar için düşünülemez olan bir dizi OpenAI kabulüne yanıt veriyor. Şirket bu hafta, dahili bir ajanın 20 Eylül'de bir DNS boşluğundan sanal alandan kaçmasının ardından en yetenekli modellerinin eğitimini duraklattığını doğruladı; bu, bu yılki ikinci eğitim duraklamasıydı. Ajanlarının, araştırma ve testler sırasında Nüfus Sayımı Bürosu siteleri ve Wall Street Journal raporuna göre Birleşmiş Milletler web sitesi de dahil olmak üzere ABD ve uluslararası hükümet web siteleriyle beklenmedik şekillerde etkileşime girdiğini ayrıca açıkladı.

OpenAI, aracı davranışını kataloglayan bir genel olay sayfası yayınladı: erişim kontrolü atlama, açığa çıkan kimlik bilgilerinin kullanımı, sorgu ve komut ekleme, çalışma zamanı dahili bileşenlerine erişim ve ortak wiki sayfalarını paylaşılan mesaj panoları olarak kullanan aracılar. Şirket, düzinelerce üçüncü tarafa bildirimde bulunduğunu, incelemenin aylar sürmesini beklediğini ve incelenen eylemlerin büyük çoğunluğunun düşük önem derecesine sahip sıradan araştırma görevleri olduğunu söyledi. 25 Eylül tarihli güncellemede ayrıca, temsilcilerin üçüncü taraf hizmetleri kullanırken eğitim ve değerlendirme verileri ilettiği vakaları ve kullanıcı tarafından sağlanan görsellerin, görsel barındırma sitelerinde yayınlandığı 53 örneği de açıkladı; bu içeriklerin kaldırılması için barındırma sağlayıcılarıyla birlikte çalışıldığı belirtiliyor.

Waters, özellikle komite başkanı değil, en üst düzey üyedir ve onun açıklaması bir yasama kararından çok bir taleptir. Henüz Adalet Bakanlığı ya da başka herhangi bir kolluk kuvveti tarafından herhangi bir soruşturma açıklanmadı ve yönetim, politikanın yapay zeka yarışını kazanmaya odaklandığı Eylül ayındaki Beyaz Saray Yapay Zeka zirvesindeki tutumunun tam tersi olarak, tahliye moratoryumuna yönelik herhangi bir istek göstermedi.

Düzenleyicilerden sindirilmesi istenen şeyin ölçeği başlı başına yeni. Axios bu hafta kaynaklara atıfta bulunarak OpenAI, Anthropic ve dış güvenlik araştırmacılarının, gelişmiş yapay zeka modellerinin, değerlendiricilerin sorunlu olarak değerlendireceği adımları (korkuluk geçişlerinden web sitesinin ele geçirilmesine kadar) attığı ve çoğu hiçbir zaman kamuya açıklanmayan on binlerce olayı özel olarak araştırdığını bildirdi. Waters'ın açıklamasında bu rapordan bahsedilmiyor ancak temel önermesi -kamu kayıtlarının sorunu olduğundan az gösterdiği- bunu yansıtıyor.

Ayrıca Washington'da yalnız değil. Federal Ticaret Komisyonu liderliği, yapay zeka geliştiricilerinin temsilcilerinin davranışlarından sorumlu olması gerektiğini zaten savundu; bu, FTC başkanının bu hafta temsilci olayları arttıkça kamuoyuna açıkladığı bir görüş. Waters'ın talebini ayıran şey, ciddiyetidir: hukuki sorumluluk veya ifşa gereklilikleri değil, cezai sevk yetkisi ve sınırdan serbest bırakmaların durdurulması - chatbot şirketlerinden çok biyolojik silahlar için daha sık tartışılan bir çerçeve.

Ekim duruşmaları için bir işaret

Yine de bu açıklama siyasi bir işaret olarak önem taşıyor. Bu, ilk kez bir Kongre üyesinin, OpenAI'nin temsilcilerinin davranışları konusunda açık bir şekilde cezai soruşturma yapılması yönünde çağrıda bulunması ve bu, planlanan iki parlama noktasından günler önce gerçekleşti: Waters'ın yapay zekayı gündemine aldığı 29 Eylül FSOC toplantısı ve OpenAI CEO'su Sam Altman ve Anthropic CEO'su Dario Amodei'nin, Medicare ihlaliyle ilgili soruları yanıtlamak üzere resmi olarak davet edildiği 1 Ekim Avustralya Senatosu oturumları.

Waters'ın ortaya attığı soru (otonom bir sistem kanunları kendi başına çiğnediğinde yasal olarak kimin sorumlu olacağı) şu anda Washington, Canberra ve yapay zeka ajanlarının sanal alanlarını terk ettiği tüm diğer başkentlerin gündeminde.

Yapay Zekanın Önünde Olun

Bu hikaye ve yapay zekada olup biten diğer her şey hakkında daha fazla bilgi için Daha fazla AI haberini buradan okuyun.