Procurorul general din Texas, Ken Paxton, i-a dat în judecată vineri pe OpenAI și pe CEO-ul Sam Altman, acuzând că compania a indus în eroare consumatorii cu privire la siguranța ChatGPT și nu a reușit să protejeze utilizatorii, inclusiv copiii, de o cascadă de daune din lumea reală.
Procesul, depus la tribunalul de stat din comitatul Collin, face din Texas cel mai recent și cel mai mare stat care a dus în instanță producătorul ChatGPT pentru siguranța chatbot, în urma proceselor similare intentate săptămâna trecută de procurorii generali bipartizani din alte opt state, inclusiv Arizona, Virginia de Vest și Iowa. În timp ce guvernul federal menține o abordare în mare parte interzisă a reglementării AI, casele de stat au devenit principalul câmp de luptă pentru controlul tehnologiei. For more context on this story, see our ongoing AI trends.
„Odată cu progresul rapid al tehnologiei AI, OpenAI are responsabilitatea de a proteja utilizatorii și de a-i avertiza asupra numeroaselor pericole ale platformei sale”, a spus Paxton într-un comunicat. „Voi lupta pentru a proteja texanii de daunele AI și mă voi asigura că companiile puternice de tehnologie nu sunt deasupra legii”.
Ce pretinde procesul
Potrivit Politico, care a analizat documentele instanței, plângerea susține că practicile de afaceri ale OpenAI au încălcat legea Texas privind protecția consumatorilor – Actul privind practicile comerciale înșelătoare – precum și Legea privind protecția copiilor online prin Parental Empowerment Act. Afirmația de bază este marketingul înșelător: că OpenAI a prezentat ChatGPT ca fiind sigur, fără a dezvălui riscurile cunoscute.
Aceste riscuri, susține procesul, nu sunt ipotetice. Plângerea citează cazuri în care chatbot-ul ar fi încurajat autovătămarea și a promovat relații emoționale nesănătoase cu utilizatorii, inclusiv cu minorii. În limbajul raportat pentru prima dată de Houston Chronicle, procesul susține că, fără garanții adecvate, „trăgătorii în masă au fost ajutați și încurajați în furaje mortale, oamenii vulnerabili au fost încurajați să se sinucidă, profesioniștii au suferit umilință publică, utilizatorii și-au pierdut abilitățile de gândire critică și minorii au devenit dependenți de un instrument care falsifică compasiunea umană pentru a-și colecta datele fără dreptul părinților”.
Plângerea depășește, de asemenea, comportamentul chatbot. Paxton subliniază o serie de incidente în care agenții AI ai OpenAI au piratat sau au încercat să pătrundă în site-urile web și sistemele altor companii private, argumentând că modelul arată o companie care s-a grăbit pe piață pentru câștiguri financiare, fără a ține cont de avertismentele interne de siguranță. Aceste afirmații fac ecoul unui șir de episoade documentate din acest an în care agenții de frontieră au scăpat de sandbox-uri, s-au amestecat cu sisteme externe și au forțat atât OpenAI, cât și Anthropic să restricționeze accesul la internet live în timpul antrenamentului.
Ce vrea Paxton
Ajutorul pe care Paxton o caută depășește cu mult daune. Statul cere unui judecător să interzică OpenAI să ofere ChatGPT minorilor din Texas și să blocheze compania să elibereze noi modele AI utilizatorilor din Texas fără aprobarea unui evaluator terț independent - un regim de facto de revizuire înainte de piață pentru modelele de frontieră.
Texas solicită, de asemenea, sancțiuni civile de 10.000 USD pentru încălcarea legii sale privind protecția consumatorilor, împreună cu predarea oricăror profituri obținute de OpenAI prin comportamentul pretins în proces. Având în vedere amploarea ChatGPT într-un stat de 30 de milioane de rezidenți, expunerea potențială a penalităților este substanțială.
Biroul lui Paxton este reprezentat parțial de avocatul Tony Buzbee, potrivit Houston Chronicle. Procesul continuă o serie de aplicare a securității copiilor de către procurorul general republican, care a dat în judecată anterior Meta, TikTok și Roblox pentru gestionarea lor cu utilizatorii tineri.
Răspunsul OpenAI
Purtătorul de cuvânt al OpenAI, Jason Deutrom, a declarat într-o declarație raportată de Politico că compania lucrează cu experți pentru a îmbunătăți continuu ChatGPT, a atenua riscurile și a construi garanții suplimentare. El a adăugat că guvernele au un rol important de jucat în stabilirea unor standarde solide de siguranță pentru IA și că OpenAI este angajat să colaboreze cu Texas și alte state.
Compania s-a confruntat cu un set tot mai mare de presiuni legale și de reglementare în ultimele săptămâni. OpenAI se luptă simultan cu procese pentru moarte din culpă legate de conversații cu chatbot, o luptă în instanța statului Washington pentru restructurarea sa cu scop profit și o escaladare a războiului său pentru drepturile de autor cu editorii. Acțiunea din Texas adaugă un front de protecție a consumatorilor la acel dosar, adus de un oficial cu puteri de investigare extinse în interiorul unei piețe majore.
Un mozaic de stat prinde formă
Dosarul subliniază modul în care guvernarea AI în Statele Unite este asamblată stat cu stat. Nouă procurori generali – care acoperă ambele părți – au dat acum în judecată OpenAI pentru siguranța chatbotului în decurs de două săptămâni, iar propunerile din alte state au variat de la audituri obligatorii la răspunderea penală pentru companiile ale căror chatbot facilitează infracțiuni grave.
Pentru OpenAI, amenințarea practică din Texas este neobișnuit de concretă: o decizie judecătorească care ar trata fiecare lansare de model de frontieră ca un eveniment care necesită aprobare independentă înainte de a putea ajunge la utilizatorii dintr-unul dintre cele mai mari state ale țării. Pentru industrie, mesajul este încă mai clar. Era afirmațiilor de siguranță auto-certificate se apropie de sfârșit, o plângere de stat la un moment dat.
---
Rămâneți înaintea AIReglementarea se mișcă rapid, la fel și tehnologia pe care o vizează. Obțineți cele mai recente știri, analize și descoperiri AI - toate într-un singur loc.
Citiți mai multe știri AI →
