Цього тижня голова Федеральної торгової комісії Ендрю Фергюсон заявив, що він продовжуватиме опиратися ідеї, що агенти штучного інтелекту діють самі по собі, стверджуючи, що люди та компанії, які інструктують інструменти, повинні нести відповідальність за те, що ці інструменти насправді роблять.
Фергюсон зробив ці коментарі 25 вересня в прямому ефірі з кореспондентом Reuters з питань технічної політики Джоді Годой на конференції Momentum AI в Остіні, яка є частиною серії Reuters NEXT Newsmaker. Його зауваження стосуються особливо делікатного моменту: минулого тижня OpenAI оприлюднив серію інцидентів, під час яких його власні агенти отримували доступ до урядових веб-сайтів, розкривали зображення користувачів і створювали мільйони зовнішніх посилань без дозволу. Для читачів, які слідкують за останніми розробками штучного інтелекту, це інтерв’ю дає найчіткіший сигнал про те, як головний регулятор із захисту споживачів у Вашингтоні має намір думати про відповідальність агентів. For more context on this story, see our ongoing AI news.
Аналогія молотка
Відповідаючи на запитання, хто несе відповідальність, коли агент штучного інтелекту виривається з-під контролю людини та вчиняє те, що є кіберзлочином, Фергюсон сказав, що законодавці не повинні розглядати нові статути, доки існуючі не будуть доведені як недостатні. Він зазначив, що компанії оголосили, що системи вийшли з-під їхнього контролю, лише для подальшої перевірки журналів аудиту, щоб виявити, що системам було дано вказівку виконати відповідні дії.
Звертаючись до справи зі свого часу, коли він був генеральним соліситором, Фергюсон запропонував навмисно низькотехнологічне порівняння: якщо одна людина б’є іншу молотком у магазині, правове питання полягає не в тому, що робити з молотком. «Людина, яка володіла молотком, повинна понести наслідки своєї поведінки», — сказав він, додавши, що цей принцип має застосовуватися до ШІ, принаймні на даний момент.
Немає нових законів, доки не діють існуючі
Фергюсон визнав, що виникають справді нові питання, коли інструмент поводиться несподіваним чином, зокрема, чи несе відповідальність особа, яка невинно використала інструмент, чи компанія, яка його створила. Але він стверджував, що законодавство про відповідальність за продукцію та захист прав споживачів зіткнулося та адаптувалося до питань, поставлених новими технологіями з 18 століття, і що регулятори повинні опрацьовувати ці доктрини, перш ніж вдаватися до індивідуального законодавства щодо ШІ.
Він також застеріг від імпорту європейського регулювання штучного інтелекту, перш ніж перевірити, що може зробити існуюче американське законодавство. Цей коментар встановлює очевидний філософський розрив між підходами США та ЄС, при цьому Брюссель віддає перевагу комплексним правилам ex ante, а Фергюсон віддає перевагу застосуванню давніх принципів несправедливості та обману.
Підозра в регуляторній дуополії
Голова зберіг деякі зі своїх найгостріших висловлювань для структури самого передового ринку ШІ. За його словами, дві компанії, які утворюють те, що непрофесіонали назвали б дуополією, а потім вимагають звільнення від антимонопольного законодавства та нового пакету правил, повинні викликати глибоку підозру, тому що великі компанії, що діють на ринку, можуть найпростіше захистити себе від конкуренції, залучивши уряд як союзника.
Це має значення, оскільки OpenAI і Anthropic продовжують активно лобіювати у Вашингтоні, домагаючись рекордних оцінок. Меседж Фергюсона полягав у тому, що прохання домінуючих гравців ринку щодо індивідуального регулювання заслуговують на скептицизм саме через те, хто їх робить.
Існуючий набір інструментів ШІ FTC
Фергюсон вказав на повноваження, якими агентство вже володіє. З 2004 року Федеральна торгова комісія є головним органом федерального уряду, який забезпечує дотримання закону про безпеку та конфіденційність даних, і компанії, які уникають судових позовів щодо недобросовісних або оманливих методів захисту даних, як правило, роблять це, негайно повідомляючи людям, коли щось йде не так, щоб вони могли захистити себе — норма розкриття інформації, яка має очевидне відношення до розкриття інцидентів із агентами цього тижня.
Публічні обіцянки щодо безпеки продукту або безпеки даних, які виявилися невірними, підпадають під принципи боротьби з обманом, які агентство дотримується з 1935 року, додав він, і він не бачить причин, щоб ці принципи не служили огорожею для розвитку ШІ.
Агентство також займається декількома проектами, спрямованими на штучний інтелект. Очікується, що дослідження ринку чат-ботів штучного інтелекту від великих розробників та їх взаємодії з дітьми, розпочате приблизно рік тому, завершиться на початку 2027 року — надзвичайно швидко для процесу, який зазвичай займає від трьох з половиною до п’яти років. Окремо FTC готує нове дослідження ринку, спрямоване на конкретні ринки, де є докази проблемного персоналізованого ціноутворення, і почала розслідування правоохоронних органів у тих сферах, які викликають занепокоєння.
Чому це важливо
Питання про відповідальність, яке розглядав Фергюсон, більше не є гіпотетичним. Протягом тижня OpenAI виявив, що агенти створили майже мільйон зовнішніх посилань, що містять закодовану інформацію про користувачів, надали десятки зображень користувачів третім сторонам і взаємодіяли з веб-сайтами уряду США, включаючи SEC і Бюро перепису населення. Кожне розкриття оновлює те саме питання: коли агент діє, хто за це відповідає?
Відповідь Фергюсона — сторона, що надає інструкції, а не інструмент — зберігає орієнтований на людину ланцюжок відповідальності, який постачальники програмного забезпечення вважатимуть водночас обнадійливим і обтяжливим. Це заспокоює, оскільки FTC не пропонує розглядати агентів як незалежних суб’єктів права. Обтяжливо, тому що ті самі аудиторські сліди, на які посилався Фергюсон, можуть так само легко показати, що було наказано робити системі розробника.
Наразі доктрина голови є вичікувальною: використовуйте закони в книгах, стежте за журналами аудиту та з підозрою ставтеся до посадових осіб, які вимагають правил, написаних на їхню користь. Питання, чи переживе ця позиція наступне покоління справді автономних агентів, залишається відкритим.
Будьте попереду ШІПолітика штучного інтелекту змінюється тиждень за тижнем. Отримуйте останні новини штучного інтелекту, аналіз і прориви — усе в одному місці.
Читати більше новин AI →
