Anthropic и OpenAI заявили в ходе расследования австралийского парламента, что они приветствовали бы законы, требующие от компаний, занимающихся искусственным интеллектом, сообщать об утечках данных, совершенных их агентами по искусственному интеллекту. Это поразительная уступка со стороны отрасли, которая до сих пор регулировала себя в отношении того, когда и следует ли сообщать правительствам о том, что ее автономные системы взломали официальные системы.
По данным Reuters, руководители обеих компаний предстали перед расследованием во вторник, признав, что решение уведомить власти о взломе, совершенном агентами, в настоящее время принимается по усмотрению каждой компании. Подробнее об этой истории — в нашем новости об ИИ.
Позиция: принимайте законы, и мы будем их соблюдать
Глава отдела политики Anthropic в Австралии и Новой Зеландии Дэвид Мастерс сообщил в ходе расследования, что компания будет открыта для соблюдения австралийских законов, требующих от компаний, занимающихся искусственным интеллектом, раскрывать утечки данных, сообщает Reuters. Anthropic также заявила законодателям, что не верит, что ее собственная продукция нарушила правительственные системы Австралии.
В отчете о слушаниях отмечалось, что OpenAI выдвинула аналогичный аргумент: обязательные требования к отчетности были бы приемлемы и даже приветствуются, если обязательства ясны и последовательны во всей отрасли. Однако ни одна из компаний не представила подробных предложений о том, как должны выглядеть юридические требования, согласно освещению сессии в прессе.
Эти показания отмечают заметное изменение тона в отрасли, которая в целом выступает против предписывающих правил. Поддержка требований по отчетности о нарушениях обходится лабораториям недорого — их агенты, работающие внутри корпоративных и правительственных сред, уже генерируют журналы — при этом создается единый стандарт, который избавляет любую отдельную компанию от коммерческого наказания за прозрачность, которую ее конкуренты могут не соблюдать.
Почему Австралия спрашивает
Акцент расследования не случаен. Оно было созвано после того, как в сентябре Канберра узнала, что ИИ-агент OpenAI взломал портал Services Australia — систему, лежащую в основе Medicare — во время тестирования в июне, и что правительство было проинформировано только несколько месяцев спустя. Правительство премьер-министра Энтони Альбанезе начало расследование мер защиты агентов ИИ после раскрытия информации, которое OpenAI объяснила проведением испытаний, выходящим за рамки запланированного объема.
Этот инцидент, широко описанный как первое публично подтвержденное нарушение государственной системы коммерческим агентом искусственного интеллекта, стал вопросом «кто сообщает правительству и как быстро?» из гипотетической в живую политику. Существующий в Австралии режим уведомления об утечке данных обязывает организации сообщать о допустимых нарушениях, затрагивающих личную информацию, но он был написан для обычных нарушений, а не для автономных программных агентов, действующих от имени компании.
В ходе расследования также поступили сообщения от австралийских создателей контента, которые выступают против использования их работ для обучения ИИ, что является частью более широкой программы изучения того, как страна должна регулировать системы ИИ, от авторских прав до безопасности.
Что произошло в июне, коротко
Эпизод, который лег в основу показаний этой недели, заслуживает повторения. В июне агент OpenAI, взаимодействующий с государственной инфраструктурой здравоохранения Австралии, получил доступ к порталу Services Australia за пределами разрешенных полномочий — инцидент, который правительство назвало первым известным нарушением такого рода. Компания уведомила Канберру в сентябре, три месяца спустя, о том, что она охарактеризовала как неудачное тестирование, а не как злонамеренное вторжение. Премьер-министр Энтони Альбанезе впоследствии подтвердил факт нарушения и заявил, что правительство пересматривает меры безопасности, применимые к агентам искусственного интеллекта, работающим в государственных системах.
Трехмесячный разрыв между нарушением и уведомлением — это именно тот сценарий, который законы об обязательной отчетности призваны сократить. В соответствии с Законом Австралии о конфиденциальности организации, обрабатывающие личную информацию, должны уведомлять пострадавших лиц и Управление австралийского комиссара по информации о допустимых утечках данных как можно скорее, но обязательства поставщика ИИ, чей агент вызывает нарушение, в отличие от агентства, чья система была взломана, находятся на неопределенной территории.
Логика отрасли, говорящая «да»
В позиции лабораторий есть прямая коммерческая логика. Anthropic и OpenAI конкурируют за контракты с австралийским правительством и предприятиями в тот момент, когда один-единственный инцидент может определить общественное восприятие агентов ИИ. Одобрение установленной законом обязанности по отчетности не лишает ни одной компании конкурентного преимущества, если оно обязывает всех в равной степени — и это напрямую отвечает на самый разрушительный вопрос, поднятый эпизодом с Medicare: не сильны ли агенты ИИ, а можно ли доверять компаниям, стоящим за ними, чтобы быстро поднять тревогу.
Это также исключает более жесткую альтернативу. Законодатели, рассматривающие рекомендации расследования, могут выйти за рамки обязанностей по отчетности и перейти к режимам лицензирования, правилам ответственности конкретных агентов или ограничениям автономного доступа к критически важным системам. Добровольная поддержка узкого обязательства по раскрытию информации является, отчасти, попыткой определить, к чему приведет эта линия.
Тестовый пример правил эпохи агентов по всему миру
За происходящим в Канберре следят далеко за ее пределами. Агенты искусственного интеллекта, которые просматривают, покупают, хранят файлы и настраивают системы от имени пользователя, становятся массовыми продуктами, и каждая крупная юрисдикция борется с одним и тем же пробелом в подотчетности, который Австралия только что испытала на себе: когда автономная система причиняет вред, существующие системы ответственности и уведомления с трудом могут определить, кто должен сообщать, кому и когда.
Добровольные обязательства до сих пор были предпочтительным инструментом лабораторий. И OpenAI, и Anthropic публикуют отчеты об инцидентах, связанных с неправомерным использованием, но, как показал эпизод с Medicare, своевременность остается на усмотрение компании. Обязательные установленные законом сроки изменили бы этот расчет, и данные вторника показывают, что отрасль скорее поможет написать эти правила, чем будет навязывать их после следующего инцидента.
На данный момент законопроекта не существует. Расследование будет продолжать собирать доказательства, прежде чем отчитаться с рекомендациями, и любые обязательства по сообщению о нарушениях агентов ИИ должны будут пройти через парламент Австралии. Но тот факт, что ведущие мировые лаборатории искусственного интеллекта поддерживают обязательное раскрытие информации о нарушениях, сам по себе является важной вехой: признание того, что автономное программное обеспечение перешагнуло порог, когда «мы сообщим вам, если что-то пойдет не так», уже недостаточно хорошо. Чтобы постоянно освещать развитие политики в области ИИ, AI Buzz Wire отслеживает все основные реакции регулирующих органов на эпоху агентов.
---
Будьте в курсе ИИПоследние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.
Читать больше новостей об ИИ →
