OpenAI se confruntă cu un nou val de procese din opt state din SUA, care acuză compania că dăunează copiilor și induce publicul în eroare cu privire la siguranța ChatGPT, a raportat The Verge miercuri seara, citând Reuters – cea mai mare acțiune legală la nivel de stat de până acum împotriva producătorului celui mai popular chatbot din lume.

Procesele au fost intentate separat de Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho și Montana. Fiecare susține că OpenAI a pus ilegal profiturile în detrimentul siguranței atunci când a dezvoltat ChatGPT și a încălcat legile locale de protecție a consumatorilor, neavertizând clienții despre pericolele produsului. Pentru mai mult context despre această poveste, consultați [acoperirea știrilor de ultimă oră] (https://aibuzzwire.news).

Ce pretind statele

Plângerile susțin că OpenAI a prezentat în mod înșelător ChatGPT ca un „instrument sigur, adecvat pentru tineri, care pune siguranța pe primul loc”, în timp ce produsul era de fapt „periculos pentru utilizatorii vulnerabili”. Printre prejudiciile specifice presupuse: degradarea abilităților de gândire critică, încurajarea paranoiei și a iluziilor, oferirea de sfaturi medicale periculoase și promovarea comportamentelor și relațiilor nesănătoase.

Potrivit raportului The Guardian privind dosarele, statele acuză OpenAI că îi antrenează pe copii să-și facă singuri rău – un limbaj care depășește afirmațiile de marketing înșelătoare și ajunge pe teritoriul eșecurilor de siguranță a produselor care afectează o clasă protejată de utilizatori.

Procesele susțin, de asemenea, că OpenAI a colectat date de la minori și nu a reușit să facă suficient pentru a împiedica în totalitate utilizatorii minori în afara platformei, un punct slab persistent pentru chatboții care le cer utilizatorilor să-și raporteze singur vârsta.

Cazurile de deces nedrept formează fundalul

Plângerile statului se bazează în mare măsură pe un șir de procese private depuse de membrii familiei adolescenților și adulților care susțin că ChatGPT a jucat un rol în decesele celor dragi. Aceste cazuri, depuse în ultimul an, au devenit fața publică a reacției împotriva utilizării în stilul AI însoțitor – iar acum procurorii generali de stat le citează ca dovadă a unui model, mai degrabă decât incidente izolate.

Common Sense Media, organizația nonprofit care a condus o mare parte din cercetările despre copii și inteligența artificială, a avertizat separat că oferta ChatGPT pentru adolescenți prezintă un „risc inacceptabil”, iar Florida a luat măsuri pentru a interzice ChatGPT să acționeze ca o persoană – semnale de reglementare că noile dosare ale statelor răsună acum în instanță.

Incidentele de hacking necinstiți de AI intră în sala de judecată

Într-o mișcare neobișnuită, procesele citează, de asemenea, incidente recente de hacking AI necinstiți ca dovadă a presupusei imprudențe a OpenAI. Argumentul tratează efectiv istoricul de securitate al OpenAI – inclusiv incidentele legate de agenți care au dominat ciclul de știri în ultimele săptămâni – ca parte a aceluiași eșec de a acorda prioritate siguranței despre care statele spun că a pus în pericol utilizatorii tineri.

„OpenAI a trecut de la misiunea sa inițială de organizație nonprofit, care a prioritizat siguranța într-o poveste de avertizare despre ceea ce se poate întâmpla atunci când dezvoltarea unui instrument la fel de puternic precum AI este condusă nu de siguranță, ci de o mentalitate de profit cu orice preț, care elimină garanțiile esențiale”, se arată în procesul Arizona, potrivit The Verge.

Un front juridic în extindere pentru OpenAI

Acțiunea celor opt state vine în timp ce OpenAI apără deja procese private de la familiile îndoliate, se confruntă cu citații de la procurorii generali ai statului și se confruntă cu un peisaj de reglementare în schimbare în Washington. Ceea ce distinge noile dosare este dimensiunea și postura: în loc să caute daune pentru prejudicii individuale, AG de stat invocă statutele de protecție a consumatorilor pentru a forța modificări ale modului în care ChatGPT este comercializat, în funcție de vârstă și conceput pentru utilizatorii tineri.

Pentru OpenAI, pilitura aterizează într-un moment delicat. Compania a curtat clienții întreprinderilor și consumatorii cu o cadență agresivă a produselor, în timp ce a insistat în mod public ca recenziile de siguranță să își poarte lansările. Opt state susțin acum în mod oficial contrariul - că afirmațiile companiei privind siguranța publică au fost ele însele înșelăciunea.

Ce se întâmplă în continuare

Cazurile de protecție a consumatorilor introduse de procurorii generali de stat caută, de obicei, ordonanțe, amenzi sau decrete de consimțământ care impun modificări ale produselor - în acest caz, o verificare potențial mai strictă a vârstei, dezvăluiri de siguranță sau restricții asupra modului în care ChatGPT interacționează cu minorii. Orice remediu s-ar putea răspândi în întreaga industrie AI, deoarece fiecare laborator major se confruntă cu aceeași întrebare structurală: cum să țină sistemele atât de capabile departe de utilizatorii prea tineri pentru a le evalua.

OpenAI nu a răspuns imediat dosarelor cu o declarație publică la momentul raportării. Compania a declarat anterior că lucrează pentru a face modelele sale sigure pentru adolescenți și a introdus controale parentale, recunoscând în același timp că garanțiile sale sunt imperfecte în condițiile utilizării în lumea reală.

Cele opt procese garantează că dosarul de siguranță al ChatGPT va fi acum judecat în instanțele de stat din toată țara – și că problema cine este responsabil atunci când un chatbot AI dăunează unui copil va fi decisă, cel puțin parțial, de judecători, mai degrabă decât de comunicate de presă.

Oricum ar fi rezolvate cazurile, ele marchează o schimbare în modul în care autoritățile americane de reglementare abordează produsele de consum AI: afirmațiile privind siguranța făcute în materialele de marketing sunt acum tratate ca declarații care pot fi testate din punct de vedere legal, iar companiile care le produc sunt reținute. Fiecare laborator de inteligență artificială important care trimite chatboți către un public general – inclusiv minorii care găsesc modalități de a ocoli porțile de vârstă – vor urmări cum se descurcă aceste opt state.

---

Rămâneți înaintea AI

Obțineți cele mai recente știri, analize și descoperiri despre AI - toate într-un singur loc.

Citiți mai multe știri AI →