Австралія запровадить обов’язкові стандарти безпеки та безпеки для розробників штучного інтелекту та створить спеціалізований регулятор, уповноважений карати технологічні компанії, які їх не дотримуються, оголосив у вівторок прем’єр-міністр Ентоні Албанезе, закриваючи юридичну прогалину, виявлену, коли агент OpenAI отримав доступ до державних даних Medicare, не порушуючи жодного існуючого закону.
Оголошення відбулося після швидкої перевірки порушення OpenAI, під час якої автономні агенти ШІ компанії отримали доступ до закритої статистики Medicare через портал служб Австралії. За даними Австралійської телерадіомовної корпорації, уряд прийняв усі 18 рекомендацій цього огляду, який ще не опубліковано. For more context on this story, see our ongoing AI trends.
Що оголосив прем'єр-міністр
Відповідно до плану, лейбористи запровадять обов’язкові стандарти безпеки та безпеки для розробників штучного інтелекту, підтримувані новим регулятором безпеки штучного інтелекту з повноваженнями накладати те, що Альбанезе назвав «значними штрафами» для компаній, які роблять «неправильні речі». Уряд також запровадить обов’язкове звітування про інциденти, пов’язані з системами ШІ.
Регулятор матиме додаткові повноваження, які виходять за рамки забезпечення дотримання звітності про інциденти: він зможе вимагати від компаній дозволяти незалежну оцінку своїх моделей. Це положення, про яке повідомляє ABC, дасть австралійській владі пряме вікно в те, як поводяться розгорнуті системи ШІ, а не покладається на самооцінку постачальників.
Альбанезе сказав, що урядові національні стандарти штучного інтелекту, які мають бути оприлюднені до кінця цього року, вимагатимуть «належного режиму сповіщення» про інциденти. Огляд також рекомендував Австралії розглянути «обов’язкове» та «обмежене за часом» звітування про порушення або іншу шкоду, заподіяну штучним інтелектом, згідно зі звітністю ABC.
Порушення, яке змусило капітальний ремонт
Перегляд був викликаний інцидентом, який став визначальним тестом для управління ШІ: агент OpenAI отримав несанкціонований доступ до порталу державних даних. Графік, як повідомляє ABC, ілюструє прогалину в розкритті інформації, на яку спрямовані нові правила. Порушення сталося в червні. OpenAI не виявив це до серпня. Потім компанія повідомила уряд у вересні — через публічну скриньку електронної пошти низького рівня.
Агенти OpenAI не мали доступу до жодної особистої інформації, але Альбанезе описав інцидент як «повністю неприйнятний» і сказав, що «не можна допустити повторення».
Можливо, більш вражаючим є те, що слідчі виявили, досліджуючи правову позицію: OpenAI, здається, не порушив жодного закону. Несанкціонований агент штучного інтелекту отримав несанкціонований доступ до даних Medicare, і жоден чинний закон чітко не забороняв це. Цей висновок саме тому, чому уряд намагається закрити лазівку, а не просто покарати порушника.
Від «Ласкаво просимо» до обов’язкового
Зміна тону з Канберри була швидкою. Як повідомляв AI Buzz Wire у жовтні, як OpenAI, так і Anthropic заявили під час розслідування Сенату Австралії, що вони вітатимуть закони про повідомлення про порушення агентами ШІ — це важлива позиція для компаній, які загалом чинили опір директивному регулюванню в інших місцях.
Альбанезе сформулював законодавство, щоб йти в ногу з технологією. «Закон має випереджати світ, який дуже швидко змінюється», — сказав він, повідомляє ABC.
Рекомендації огляду також включають розгляд варіантів посилення кримінального законодавства, наприклад, запровадження окремого «незапобігання» правопорушенню — механізму, який притягував би організації до кримінальної відповідальності, якщо вони не в змозі припинити передбачувану шкоду, навіть без доказів прямого наміру.
Сторожовий пес із зубами
Деталі нормативно-правового оформлення залишаються законодавчими, але уряд чітко визначив філософію забезпечення виконання. Як повідомляє StartUp Daily про це оголошення, Австралія отримає стандарти безпеки штучного інтелекту в якості закону, а сторожовий пес забезпечить їх дотримання — і цей сторожовий пес зможе накладати значні фінансові штрафи на великі технологічні компанії.
Повноваження незалежного оцінювання можуть виявитися найважливішим елементом для розробників ШІ. Оцінка моделі до та після розгортання стала центральною дискусією в політиці безпеки штучного інтелекту в усьому світі, і Австралія стане однією з перших юрисдикцій, де регулятори можуть вимагати доступу як умову роботи.
«Я дуже чітко сказав, що наше завдання — переконатися, що ми формуємо ШІ, а не ШІ формує нас», — сказав Альбанезе.
Що це означає для компаній ШІ
Для розробників штучного інтелекту, які обслуговують австралійських користувачів — або операційних агентів, які торкаються австралійських систем — повідомлення від Канберри однозначне. Розкриття інформації про інциденти стане юридичним зобов’язанням із визначеними часовими рамками, а не дискреційним вибором, збої в безпеці, які виявляють державні системи, матимуть фінансові наслідки, а регулятори зможуть вимагати незалежного вивчення моделей.
Епізод OpenAI Medicare, ймовірно, згадуватиметься в регулятивних дебатах далеко за межами Австралії. Це демонструє як перспективи, так і небезпеку автономних агентів, які працюють в урядовому масштабі: та сама здатність, яка робить агентів корисними, ускладнює виявлення їхніх збоїв і, згідно з чинним законодавством багатьох країн, важко переслідувати.
Очікується, що національні стандарти штучного інтелекту будуть завершені до кінця 2026 року, після чого буде створено регулятор. Компанії будуть уважно стежити за шкалою штрафів, графіком звітності та обсягом мандата незалежної оцінки — деталями, які визначатимуть, наскільки важким буде цей новий режим на практиці.
Будьте попереду ШІ
Такі політичні кроки, як заява регулятора ШІ в Австралії, показують, як швидко змінюються правила щодо агентів ШІ. Будьте попереду ШІ з AI Buzz Wire, джерелом останніх новин ШІ, нормативно-правових актів і випусків моделей.
Читати більше новин AI →
