Австралия введет обязательные стандарты безопасности для разработчиков искусственного интеллекта и создаст специальный регулятор, уполномоченный наказывать технологические компании, которые не соблюдают их, объявил во вторник премьер-министр Энтони Альбанезе, устраняя юридический пробел, обнаруженный, когда агент OpenAI получил доступ к правительственным данным Medicare, не нарушая при этом ни одного существующего закона.

Это объявление последовало за быстрым расследованием взлома OpenAI, в ходе которого автономные ИИ-агенты компании получили доступ к закрытой статистике Medicare через портал Services Australia. По данным Австралийской радиовещательной корпорации, правительство приняло все 18 рекомендаций этого обзора, который еще не был обнародован. Подробнее об этой истории — в нашем тенденции ИИ.

Что объявил премьер-министр

Согласно плану, лейбористская партия введет обязательные стандарты безопасности для разработчиков ИИ при поддержке нового регулятора безопасности ИИ, наделенного полномочиями налагать то, что Альбанезе назвал «значительными штрафами», на компании, совершающие «неправильные поступки». Правительство также будет добиваться обязательного информирования об инцидентах, связанных с системами искусственного интеллекта.

Регулятор будет обладать дополнительными полномочиями, выходящими за рамки обеспечения отчетности об инцидентах: он сможет требовать от компаний предоставления возможности независимой оценки их моделей. Это положение, как сообщает ABC, даст австралийским властям прямое представление о том, как ведут себя развернутые системы искусственного интеллекта, вместо того, чтобы полагаться на самооценку поставщиков.

Альбанезе заявил, что государственные стандарты искусственного интеллекта, которые должны быть обнародованы к концу этого года, потребуют «надлежащего режима уведомления» об инцидентах. Согласно отчету ABC, в обзоре также рекомендовалось Австралии рассмотреть возможность «обязательного» и «ограниченного по времени» сообщения о нарушениях или другом вреде, причиненном ИИ.

Нарушение, вызвавшее капитальный ремонт

Проверка была вызвана инцидентом, который стал определяющим тестом для управления ИИ: агент OpenAI получил несанкционированный доступ к правительственному порталу данных. График, как сообщает ABC, иллюстрирует пробел в раскрытии информации, на который нацелены новые правила. Нарушение произошло в июне. OpenAI обнаружил его только в августе. Затем в сентябре компания уведомила правительство через общедоступный почтовый ящик низкого уровня.

Агенты OpenAI не получили доступа к личной информации, но Альбанезе назвал инцидент «совершенно неприемлемым» и заявил, что «нельзя допустить повторения этого инцидента».

Возможно, более поразительным является то, что обнаружили следователи, изучив правовую позицию: OpenAI, судя по всему, не нарушила ни одного закона. Мошеннический агент искусственного интеллекта получил несанкционированный доступ к данным Medicare, и ни один существующий закон четко не запрещал это. Именно из-за этого открытия правительство пытается закрыть лазейку, а не просто наказать нарушителя.

От «Добро пожаловать» до обязательного

Изменение тона в Канберре произошло быстро. Как сообщал AI Buzz Wire в октябре, и OpenAI, и Anthropic заявили в ходе расследования Сената Австралии, что они будут приветствовать законы о нарушениях агентами ИИ — примечательная позиция для компаний, которые обычно сопротивляются предписывающему регулированию в других странах.

Альбанезе сформулировал законодательство как шаг в ногу с технологией. «Закон должен опережать, а в некоторых случаях быть уверенным, что он догоняет очень быстро меняющийся мир», - сказал он, сообщает ABC.

Рекомендации обзора также включают рассмотрение вариантов ужесточения уголовного законодательства, таких как введение отдельного преступления «неспособность предотвратить» — механизма, который будет привлекать организации к уголовной ответственности, если они не смогут остановить предсказуемый ущерб, даже без доказательств прямого умысла.

Сторожевой пес с зубами

Детали регулирования еще предстоит узаконить, но правительство четко обозначило философию правоприменения. Как сообщает StartUp Daily, Австралия примет стандарты безопасности ИИ в качестве закона, а надзорный орган будет следить за их соблюдением — и этот надзорный орган сможет налагать значительные финансовые штрафы на крупные технологические компании.

Возможность независимой оценки может оказаться наиболее важным элементом для разработчиков ИИ. Оценка модели перед развертыванием и после развертывания стала центральной темой дискуссий в политике безопасности ИИ во всем мире, и Австралия станет одной из первых юрисдикций, где регулирующие органы могут требовать доступа в качестве условия эксплуатации.

«Я очень ясно дал понять: наша задача — убедиться, что мы формируем ИИ, а не ИИ формирует нас», — сказал Альбанезе.

Что это значит для компаний, занимающихся искусственным интеллектом

Для разработчиков искусственного интеллекта, обслуживающих австралийских пользователей — или операционных агентов, которые имеют дело с австралийскими системами — послание из Канберры недвусмысленно. Раскрытие информации об инцидентах станет юридическим обязательством с установленными сроками, а не дискреционным выбором, сбои в системе безопасности, которые подвергают опасности правительственные системы, будут иметь финансовые последствия, а регулирующие органы смогут требовать независимого изучения моделей.

Эпизод с OpenAI Medicare, скорее всего, будет упоминаться в дебатах по нормативным вопросам далеко за пределами Австралии. Это демонстрирует как перспективность, так и опасность автономных агентов, действующих в масштабах правительства: те же самые возможности, которые делают агентов полезными, затрудняют обнаружение их ошибок и, согласно действующим законам во многих странах, их трудно привлечь к ответственности.

Ожидается, что национальные стандарты ИИ будут завершены к концу 2026 года, после чего последует создание регулирующего органа. Компании будут внимательно следить за шкалой штрафов, сроками отчетности и объемом мандата на независимую оценку — деталями, которые будут определять, насколько тяжелым будет этот новый режим на практике.

Будьте впереди ИИ

Политические шаги, такие как заявление австралийского регулятора ИИ, показывают, как быстро меняются правила в отношении агентов ИИ. Будьте впереди искусственного интеллекта с помощью AI Buzz Wire, вашего источника последних новостей об искусственном интеллекте, освещения нормативных актов и выпусков моделей.

Читать больше новостей об искусственном интеллекте →