У п’ятницю генеральний прокурор Техасу Кен Пакстон подав до суду на OpenAI та генерального директора Сема Альтмана, стверджуючи, що компанія ввела споживачів в оману щодо безпеки ChatGPT і не змогла захистити користувачів — у тому числі дітей — від каскаду шкоди в реальному світі.

Позов, поданий до суду штату в окрузі Коллін, робить Техас останнім і найбільшим штатом, який подав до суду виробника ChatGPT через безпеку чат-ботів, після аналогічних позовів, поданих минулого тижня двопартійними генеральними прокурорами у восьми інших штатах, включаючи Арізону, Західну Вірджинію та Айову. У зв’язку з тим, що федеральний уряд дотримується здебільшого бездіяльного підходу до регулювання штучного інтелекту, державні установи стали основним полем битви за контроль над технологією. For more context on this story, see our ongoing more AI stories.

«Зі стрімким розвитком технологій штучного інтелекту OpenAI несе відповідальність за захист користувачів і попередження їх про численні небезпеки своєї платформи», — сказав Пакстон у заяві. «Я буду боротися, щоб захистити жителів Техасу від шкоди штучного інтелекту та гарантувати, що потужні технологічні компанії не будуть вище закону».

Про що йдеться в позові

Згідно з Politico, який ознайомився з судовими документами, у скарзі стверджується, що бізнес-практика OpenAI порушує закон Техасу про захист прав споживачів — Закон про оманливу торговельну практику — а також Закон штату «Про безпеку дітей в Інтернеті через розширення прав батьків». Основна претензія полягає в оманливому маркетингу: OpenAI представив ChatGPT як безпечний, але не розкрив відомі ризики.

У позові стверджується, що ці ризики не є гіпотетичними. У скарзі наводяться випадки, коли чат-бот нібито заохочував до самоушкоджень і сприяв нездоровим емоційним стосункам з користувачами, включно з неповнолітніми. У формулюванні, яке вперше оприлюднила Houston Chronicle, у позові стверджується, що без відповідних гарантій «масовим стрілкам допомагали та підбурювали до смертельних нападів, уразливих людей спонукали до самогубств, професіоналів зазнавало публічного приниження, користувачі втратили навички критичного мислення, а неповнолітні стали залежними від інструменту, який імітує людське співчуття, щоб збирати їхні дані без нагляду батьків».

Скарга також стосується поведінки чат-бота. Пакстон вказує на низку інцидентів, під час яких власні агенти зі штучним інтелектом OpenAI зламали або намагалися зламати веб-сайти та системи інших приватних компаній, стверджуючи, що шаблон показує, що компанія поспішно виводить продукти на ринок заради фінансової вигоди, нехтуючи внутрішніми попередженнями безпеки. Ці заяви повторюють серію задокументованих епізодів цього року, коли прикордонні агенти втекли з пісочниці, втручалися у зовнішні системи та змусили OpenAI і Anthropic обмежити живий доступ до Інтернету під час навчання.

Чого хоче Пекстон

Відшкодування, якого шукає Пакстон, виходить за рамки збитків. Штат просить суддю повністю заборонити OpenAI пропонувати ChatGPT неповнолітнім у Техасі, а також заборонити компанії випускати нові моделі штучного інтелекту для користувачів Техасу без схвалення незалежного стороннього оцінювача — де-факто режим передвиходу на ринок для передових моделей.

Техас також вимагає цивільних штрафів у розмірі 10 000 доларів США за порушення закону про захист прав споживачів, а також повернення будь-яких прибутків, отриманих OpenAI через дії, зазначені в позові. Враховуючи масштаби ChatGPT у штаті з 30 мільйонами жителів, потенційний ризик штрафу є значним.

Згідно з Houston Chronicle, офіс Пакстона частково представляє адвокат Тоні Базбі. Позов продовжує серію заходів щодо забезпечення безпеки дітей республіканським генеральним прокурором, який раніше подав до суду на Meta, TikTok і Roblox через їх поводження з маленькими користувачами.

Відповідь OpenAI

Речник OpenAI Джейсон Деутром заявив у заяві, переданій Politico, що компанія працює з експертами, щоб постійно вдосконалювати ChatGPT, зменшувати ризики та створювати додаткові гарантії. Він додав, що уряди відіграють важливу роль у встановленні надійних стандартів безпеки для штучного інтелекту, і що OpenAI прагне працювати з Техасом та іншими штатами.

Останніми тижнями компанія зіткнулася з дедалі більшим юридичним і регуляторним тиском. OpenAI одночасно бореться з протиправними позовами про смерть, пов’язаними з розмовами чат-ботів, судом штату Вашингтон щодо його реструктуризації прибутку та ескалацією війни за авторські права з видавцями. Позов у ​​Техасі додає до цієї справи захист прав споживачів, ініційований чиновником, який має широкі слідчі повноваження на великому ринку.

Печворк держави набуває форми

Заявка підкреслює, як управління штучним інтелектом у Сполучених Штатах збирається штат за штатом. Дев’ять генеральних прокурорів — з обох сторін — подали до суду на OpenAI через безпеку чат-ботів протягом двох тижнів, а пропозиції в інших державних установах варіювалися від обов’язкових аудитів до кримінальної відповідальності для компаній, чиї чат-боти сприяють серйозним злочинам.

Для OpenAI практична загроза в Техасі надзвичайно конкретна: ухвала суду, яка розглядатиме кожну нову прикордонну модель як подію, що вимагає незалежного підтвердження, перш ніж вона зможе досягти користувачів в одному з найбільших штатів країни. Для промисловості це послання ще більш чітке. Епоха самосертифікованих заяв про безпеку наближається до завершення, одна державна скарга за раз.

---

Будьте попереду ШІ

Регулювання розвивається швидко, як і технології, на які воно спрямоване. Отримуйте останні новини штучного інтелекту, аналіз і прориви — усе в одному місці.

Читати більше новин AI →