У вівторок OpenAI оголосив про свою підтримку законопроекту 1119 Сенату Каліфорнії, закону, який передбачає широкі гарантії використання штучного інтелекту молодими людьми, і закликав губернатора Гевіна Ньюсома підписати цей законопроект.

Схвалення надійшло в публічному листі до Newsom, автором якого є Енн О’Лірі, віце-президент із глобальної політики OpenAI, і в дописі в блозі, опублікованому на сайті компанії. У ньому компанія визначає SB 1119 як значущий проміжний шлях: надійний захист для користувачів віком до 18 років, не відрізаючи підлітків від інструментів, які, за її словами, допомагають їм навчатися, творити та готуватися до майбутнього. Це оголошення є останнім із серії політичних історій щодо штучного інтелекту, які змінюють ставлення урядів до наймолодших користувачів штучного інтелекту. For more context on this story, see our ongoing AI industry coverage.

Чому OpenAI використовує регулювання — у будь-якому разі це

Позиціонування OpenAI базується на вражаючій статистиці з його власної публікації: майже дев’ять із десяти підлітків, які використовують ChatGPT, звертаються до нього для навчання, отримання інформації, розвитку навичок або продуктивності протягом певного тижня. «Підлітки — це перше покоління, яке росте зі штучним інтелектом», — написала компанія, стверджуючи, що можливість приходить із відповідальністю за розробку досвіду відповідно до особливих потреб розвитку молодих людей.

Компанія чітко говорить про федеральний вакуум, який мотивує її позицію. «За відсутності федеральних дій у Каліфорнії є можливість встановити жорсткі стандарти безпеки ШІ для молоді», — йдеться в листі до Ньюсома. OpenAI каже, що законопроект базується на зобов’язаннях генерального директора Сема Альтмана, які взяв минулого року, викладаючи принципи компанії щодо безпеки підлітків, а також на роботі компанії над Законом про безпеку ШІ для батьків і дітей.

Що вимагатиме SB 1119

Відповідно до короткого викладу законопроекту OpenAI, SB 1119 вимагатиме від компаній ШІ:

  • Визначте вік користувача перед наданням доступу;
  • Визначте та усуньте ризики безпеки, перш ніж зробити продукт доступним для молоді;
  • Пройти незалежний аудит цих зусиль;
  • Захищати молодих людей від шкідливого контенту, включно з контентом, який завдає собі шкоди, сексуальною експлуатацією, а також іншими високоризикованими взаємодіями;
  • Дайте батькам інструменти, щоб направляти та обмежувати використання їхніми дітьми;
  • З’єднуйте молодих людей із ресурсами підтримки в кризових ситуаціях, коли виникають серйозні ризики для безпеки; і
  • Обмежити цільову рекламу та захистити особисту інформацію молодих людей.

Для користувачів віком від 13 до 17 ці засоби захисту застосовуватимуться автоматично, а не як додаткові налаштування, які підлітки можуть вимкнути.

«ШІ — це не соціальні медіа»

Одним із найбільш важливих аргументів у листі OpenAI є відмінність, яку законодавці включили в сам законопроект: ШІ не є соціальними медіа. Замість того, щоб переносити керовані рекламою правила, створені для таких платформ, як Instagram, на чат-ботів і навчальні інструменти, SB 1119 адаптує захист, щоб зберегти те, що OpenAI називає освітніми та критично важливими для безпеки функціями, включно з тим, що він описує як відповідальне використання функції пам’яті ChatGPT, яка допомагає запобіжним заходам розпізнавати тривожні шаблони з часом.

Критики загальних вікових обмежень попереджають, що жорсткі правила можуть підштовхнути підлітків до менш регульованих альтернатив або заблокувати доступ до справді корисних інструментів навчання. Схвалення OpenAI свідчить про те, що найбільший гравець галузі вважає SB 1119 балансом, з яким він може жити.

ChatGPT для підлітків уже доступний

Індосамент векселя не відбувається у вакуумі. OpenAI запустив ChatGPT для підлітків, спеціальну програму для молодших користувачів, яка, за словами компанії, автоматично переводить у захищений режим будь-кого, за оцінками системи, віком до 18 років або тих, хто вказує, що їхній вік становить від 13 до 17 років. За словами компанії, запобіжні заходи є частиною базового досвіду, а не параметрів підключення.

Ці деталі оцінки віку важливіші, ніж може здатися на перший погляд. Оцінки, а не перевірені ідентифікатори, визначають, який досвід отримує користувач, і компанія каже, що контекст із попередніх розмов, включаючи пам’ять, допомагає послідовно застосовувати заходи безпеки та розпізнавати тривожні закономірності з часом. Наскільки добре ця оцінка працює на практиці та що станеться, коли підлітки неправильно вказують свій вік, залежатиме від того, чи будуть регулятори сприймати галузеве самоконтроль як достовірне.

Продукт для підлітків також спрямований на навчання: такі функції, як тести, навчальні візуалізації та режим навчання, були розроблені викладачами та експертами з навчання, щоб допомогти учням крок за кроком вирішити проблеми, згідно з OpenAI. Компанія позиціонує ці інструменти як доказ того, що вимоги безпеки та корисні продукти не суперечать між собою — аргумент, який вона наводить як Ньюсому, так і громадськості.

Політика в Сакраменто

У своєму листі OpenAI відзначає Ньюсома разом із сенатором Стівом Падільєю та членами Асамблеї Баффі Вікс і Ребеккою Бауер-Кахан за їх лідерство в цьому питанні. Зараз законопроект знаходиться на розгляді губернатора, а громадська лобістська кампанія OpenAI — разом із листом, який можна завантажити — чітко дає зрозуміти, що компанія хоче його підпис.

Цей хід також приземляється, оскільки регулятори деінде затягують гвинти. Європейський Союз нещодавно призначив ChatGPT дуже великою онлайн-пошуковою системою відповідно до свого Закону про цифрові послуги, надавши OpenAI до кінця грудня 2026 року відповідати суворішим правилам ЄС щодо неповнолітніх і прозорості. Стикаючись із визначеннями Брюсселя зверху вниз, OpenAI, схоже, розраховує, що підтримка індивідуального закону штату в Сакраменто є кращим способом формування правил, перш ніж вони будуть написані для нього.

Те, чи підпише Ньюсом — і чи підуть інші штати Каліфорнії — допоможе дати відповідь на питання, яке Конгрес досі залишає відкритим: хто встановлює правила для наймолодших користувачів ШІ?

Будьте в курсі політики AI

Слідкуйте за кожним розвитком подій. Читайте більше новин AI на AI Buzz Wire →