OpenAI зіткнувся з новою хвилею судових позовів із восьми штатів США, які звинувачують компанію у завданні шкоди дітям і введенні громадськості в оману щодо безпеки ChatGPT, повідомило The Verge увечері в середу з посиланням на Reuters. Це наймасштабніший судовий позов на рівні штату проти виробника найпопулярнішого у світі чат-бота.
Позови подали окремо Айова, Канзас, Небраска, Західна Вірджинія, Арканзас, Арізона, Айдахо та Монтана. Кожен з них стверджує, що OpenAI незаконно поставив прибуток над безпекою під час розробки ChatGPT і порушив місцеві закони про захист прав споживачів, не попередивши клієнтів про небезпеку продукту. Щоб дізнатися більше про цю історію, дивіться наші [найважливіші новини про AI] (https://aibuzzwire.news).
Що стверджують штати
У скаргах стверджується, що OpenAI вводить в оману ChatGPT як «безпечний, адаптований для молоді інструмент, який ставить безпеку на перше місце», тоді як продукт насправді був «небезпечним для вразливих користувачів». Серед стверджуваної конкретної шкоди: погіршення навичок критичного мислення, заохочення параної та марення, пропонування небезпечних медичних порад і сприяння нездоровій поведінці та стосункам.
Згідно зі звітом The Guardian про документи, штати звинувачують OpenAI у навчанні дітей завдавати собі шкоди — мова, яка виходить за рамки оманливих маркетингових тверджень і стосується збоїв у безпеці продукту, що впливає на захищений клас користувачів.
У позовах також стверджується, що OpenAI збирав дані від неповнолітніх і не робив достатньо, щоб повністю утримати неповнолітніх користувачів від платформи, що є постійним слабким місцем для чат-ботів, які просять користувачів самостійно повідомляти про свій вік.
Випадки протиправної смерті формують тло
Скарги штату значною мірою спираються на низку приватних позовів, поданих членами сімей підлітків і дорослих, які стверджують, що ChatGPT зіграв роль у смерті їхніх близьких. Ці справи, порушені протягом минулого року, стали публічною реакцією проти використання компаньйонів ШІ — і тепер генеральні прокурори штату посилаються на них як на доказ закономірності, а не на поодинокі випадки.
Common Sense Media, некомерційна організація, яка очолила велику частину досліджень щодо дітей та штучного інтелекту, окремо попередила, що пропозиція ChatGPT для підлітків становить «неприйнятний ризик», і Флорида вжила заходів щодо заборони ChatGPT поводитись як особистість — регулятивні сигнали, які нові заявки штатів тепер відгукуються в суді.
Інциденти злому штучного інтелекту потрапляють у зал суду
Незвичайним кроком є те, що в позовах також цитуються недавні випадки злому ШІ як докази передбачуваної нерозсудливості OpenAI. Аргумент фактично розглядає безпеку OpenAI, включаючи інциденти, пов’язані з агентами, які домінували в циклі новин останніми тижнями, як частину тієї самої неспроможності визначити пріоритет безпеки, яка, за словами штатів, поставила під загрозу молодих користувачів.
«OpenAI перейшов від своєї початкової місії громадської некомерційної організації, яка віддає перевагу безпеці, на застереження про те, що може статися, коли розробка такого потужного інструменту, як штучний інтелект, керується не безпекою, а принципом прибутку за будь-яку ціну, який відкидає важливі гарантії», — йдеться в позові Арізони, повідомляє The Verge.
Розширення юридичного фронту для OpenAI
Позов щодо восьми штатів надійшов, коли OpenAI вже захищає приватні позови від сімей загиблих, стикається з повістками в суд від генеральних прокурорів штату та бореться зі зміною нормативно-правового ландшафту у Вашингтоні. Що відрізняє нові заявки, так це масштаб і позиція: замість того, щоб вимагати відшкодування за індивідуальну шкоду, державні AG посилаються на закони про захист прав споживачів, щоб змусити змінити спосіб продажу ChatGPT, вікові обмеження та розроблений для молодих користувачів.
Для OpenAI заявки потрапляють у делікатний момент. Компанія залучає корпоративних клієнтів і споживачів агресивною каденцією продукту, публічно наполягаючи на тому, щоб її випуски перевірялися на безпеку. Зараз вісім штатів офіційно стверджують протилежне — що заяви компанії про громадську безпеку самі по собі були обманом.
Що буде далі
Справи щодо захисту прав споживачів, які порушуються генеральними прокурорами штату, зазвичай вимагають судових заборон, штрафів або указів про згоду, які зобов’язують змінити продукт — у цьому випадку потенційно суворішу перевірку віку, розкриття інформації про безпеку або обмеження на те, як ChatGPT взаємодіє з неповнолітніми. Будь-які засоби можуть вплинути на всю індустрію штучного інтелекту, оскільки кожна велика лабораторія стикається з одним і тим же структурним питанням: як утримати таку здатність від користувачів, які занадто молоді, щоб їх оцінювати.
На момент публікації звіту OpenAI не відразу відреагувала на документи публічною заявою. Раніше компанія заявляла, що працює над тим, щоб зробити свої моделі безпечними для підлітків, і запровадила батьківський контроль, визнаючи, що його засоби захисту є недосконалими в умовах реального використання.
Вісім позовів гарантують, що тепер питання безпеки ChatGPT розглядатимуться в судах штатів по всій країні — і що питання про те, хто несе відповідальність, коли чат-бот штучного інтелекту завдає шкоди дитині, вирішуватимуть, принаймні частково, судді, а не прес-релізи.
Незважаючи на те, що справи були вирішені, вони знаменують зміну в тому, як американські регулятори підходять до споживчих продуктів штучного інтелекту: заяви про безпеку, зроблені в маркетингових матеріалах, тепер розглядаються як заяви, що підлягають юридичній перевірці, і компанії, які їх роблять, притримуються. Кожна велика лабораторія штучного інтелекту, яка постачає чат-ботів широкій аудиторії, включно з неповнолітніми, які знаходять способи обійти вікові обмеження, спостерігатиме за тим, як працюють ці вісім штатів.
---
Будьте попереду ШІОтримуйте останні новини штучного інтелекту, аналіз і прориви — усе в одному місці.
Читати більше новин AI →
