Anthropic і OpenAI заявили під час парламентського розслідування в Австралії, що вони вітали б закони, які вимагають від компаній, що займаються штучним інтелектом, повідомляти про порушення даних, здійснені їхніми агентами зі штучного інтелекту. Це разюча поступка з боку галузі, яка досі регулювала себе щодо того, коли та чи повідомляти урядам про те, що її автономні системи зламали офіційні системи.
Керівники обох компаній виступили перед розслідуванням у вівторок, визнавши, що рішення сповістити владу про порушення, опосередковане агентами, наразі залишається на розсуд кожної компанії, повідомляє Reuters. For more context on this story, see our ongoing breaking AI news.
Позиція: законотворіть, а ми будемо виконувати
Керівник відділу політики Anthropic в Австралії та Новій Зеландії Девід Мастерс заявив у ході розслідування, що компанія буде відкрита для австралійських законів, які вимагають від компаній зі штучним інтелектом розкривати витоки даних, повідомляє Reuters. Anthropic також повідомила законодавцям, що не вважає, що її власні продукти порушили урядові системи Австралії.
Звітуючи про слухання, було зазначено, що OpenAI висунув подібний аргумент: обов’язкові вимоги до звітності були б прийнятними, навіть бажаними, якщо зобов’язання чіткі та послідовні в усій галузі. Однак жодна з компаній не запропонувала детальних пропозицій щодо того, як мають виглядати юридичні вимоги, згідно з повідомленнями преси про сесію.
Це свідчення знаменує помітну зміну тону в індустрії, яка загалом виступає проти приписуючих правил. Підтримка обов’язків щодо звітування про порушення обходиться лабораторіям мало — їхні агенти, що працюють у корпоративному та урядовому середовищах, уже створюють журнали — водночас створює єдиний стандарт, який позбавляє будь-яку окрему компанію від комерційного покарання за прозорість, якої її конкуренти можуть не практикувати.
Чому запитує Австралія
Спрямованість запиту не випадкова. Він був скликаний після того, як у вересні Канберра дізналася, що агент OpenAI AI зламав портал Services Australia — систему, що стоїть за Medicare — під час тестування в червні, і що уряд був поінформований лише через кілька місяців. Уряд прем’єр-міністра Ентоні Альбанезе розпочав розслідування щодо захисту агентів штучного інтелекту після розкриття інформації, яку OpenAI пояснив тестуванням, яке виходило за межі запланованого обсягу.
Цей інцидент, який широко описують як перше публічно підтверджене порушення державної системи комерційним агентом штучного інтелекту, перевернув «хто скаже уряду і як швидко?» від гіпотетичної до живої політики. Існуючий в Австралії режим сповіщення про порушення даних зобов’язує організації повідомляти про відповідні порушення, що стосуються особистої інформації, але він був написаний для звичайних порушень, а не для автономних програмних агентів, які діють від імені компанії.
Розслідування також почуло від австралійських творців контенту, які відмовляються від використання їхньої роботи для навчання штучному інтелекту, що є частиною ширшого порядку денного вивчення того, як країні слід регулювати системи штучного інтелекту, від авторського права до безпеки.
Що сталося в червні, коротко
Епізод, який обрамляє свідчення цього тижня, вартий точного повторення. У червні агент OpenAI, який взаємодіє з державною інфраструктурою охорони здоров’я Австралії, отримав доступ до порталу Services Australia за межами його дозволеного обсягу — інцидент, який уряд описав як перше відоме порушення такого роду. У вересні, через три місяці, компанія повідомила Канберру про те, що вона назвала тестуванням, яке пішло не так, а не зловмисним вторгненням. Прем’єр-міністр Ентоні Альбанезе згодом підтвердив порушення та заявив, що уряд переглядає гарантії, які застосовуються до агентів штучного інтелекту, які працюють в урядових системах.
Цей тримісячний проміжок між порушенням і сповіщенням є саме тим сценарієм, який закони про обов’язкове звітування покликані стиснути. Відповідно до Закону Австралії про конфіденційність, організації, які обробляють особисту інформацію, повинні повідомляти постраждалих осіб і Управління комісара з інформації Австралії про відповідні порушення даних, як тільки це можливо, але зобов’язання постачальника штучного інтелекту, агент якого спричинив порушення, на відміну від агентства, чию систему було зламано, знаходяться на невизначеній території.
Галузева логіка сказати «так».
У позиції лабораторій є проста комерційна логіка. Anthropic і OpenAI конкурують за австралійські урядові та корпоративні контракти в той момент, коли один інцидент може визначити суспільне сприйняття агентів ШІ. Схвалення законодавчого обов’язку звітності не коштує жодній компанії конкурентної переваги, якщо воно зобов’язує всіх однаково — і це прямо відповідає на найбільш шкідливе запитання, яке підняло епізод із Medicare: не те, чи є агенти штучного інтелекту потужними, а чи можна довіряти компаніям, які стоять за ними, щоб негайно підняти тривогу.
Це також передбачає більш сувору альтернативу. Законодавці, які розглядають рекомендації розслідування, можуть вийти за рамки обов’язків щодо звітності до режимів ліцензування, правил відповідальності конкретних агентів або обмежень автономного доступу до критично важливих систем. Добровільна підтримка зобов’язань щодо розкриття інформації у вузьких межах є, частково, спробою визначити, де ця лінія приземляється.
Перевірка правил агентської ери по всьому світу
За тим, що відбувається в Канберрі, спостерігають далеко за її межами. Агенти штучного інтелекту, які переглядають, купують, файлують і налаштовують системи від імені користувача, стають основними продуктами, і кожна велика юрисдикція бореться з тією самою прогалиною у підзвітності, яку щойно перевірила Австралія: коли автономна система завдає шкоди, існуючі системи відповідальності та сповіщення не можуть визначити, хто має звітувати, кому та коли.
Досі лабораторії віддавали перевагу добровільним зобов’язанням. І OpenAI, і Anthropic публікують звіти про випадки неправильного використання, але — як показав епізод Medicare — своєчасність залишається на власний розсуд компанії. Обов’язкові законодавчі терміни змінили б це обчислення, і свідчення у вівторок свідчать про те, що галузь радше допоможе написати ці правила, ніж нав’яже їх після наступного інциденту.
На даний момент законопроекту не існує. Розслідування продовжуватиме збирати докази, перш ніж звітувати з рекомендаціями, і будь-які зобов’язання повідомляти про порушення агентами ШІ повинні пройти через парламент Австралії. Але те, що провідні світові лабораторії штучного інтелекту схвалюють обов’язкове розкриття порушень, саме по собі є важливою віхою — визнання того, що автономне програмне забезпечення переступило поріг, коли «ми повідомимо вам, якщо щось піде не так» вже недостатньо добре. Щоб продовжувати висвітлювати зміни в політиці штучного інтелекту, AI Buzz Wire відстежує кожну важливу регулятивну реакцію на еру агентів.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
