Дослідники з Google DeepMind публічно відмовляються від трудових контрактів, які, на їхню думку, забороняють їм назавжди критикувати компанію щодо ризиків штучного інтелекту — у тому числі після того, як вони звільняться, — і Google тепер поступилася, заявивши, що не буде застосовувати обмеження після звільнення та вже виключила їх з умов для нових наймів.
The Washington Post повідомила у вівторок, що співробітники DeepMind вимагають свободи розповідати громадськості, що вони знають про штучний інтелект, протестуючи проти того, що у звіті описується як довічна заборона критикувати компанію. Суперечка розгорнулася на внутрішніх форумах Google, перш ніж вийти на загальний огляд, і вона торкається одного з найбільш суперечливих питань в індустрії штучного інтелекту: чи можуть співробітники лабораторій, що створюють прикордонні системи, попереджати зовнішній світ про ризики, які вони спостерігають під час роботи. For more context on this story, see our ongoing AI trends.
Що сказано в контрактах
Згідно з повідомленням Post, контракти співробітників DeepMind включають положення про неприниження, які продовжують зобов’язувати працівників навіть після закінчення їх роботи. Згідно з такими умовами, дослідник, який покинув Google, публічно критикував методи безпеки Google — або просто розкрив інформацію про системи штучного інтелекту компанії — теоретично може бути притягненим до суду до кінця своєї кар’єри.
Учасник внутрішньої дискусії описав домовленості в коментарях, цитованих читачами Hacker News під час обговорення статті: контракт, очевидно, містив формулювання, яке вказує, що звільнення не звільняє працівника від зобов’язання не зневажати. Для дослідників безпеки, чия професійна цінність часто залежить від їх здатності публікувати та говорити відкрито, ефект є формою постійного замовчування.
Відповідь Google
Тиск, здається, дав результати. У п’ятницю виконавчий директор Google відповів на внутрішню дискусію щодо положення про неприниження та заявив, що компанія не застосовуватиме його до працівників, які покинули компанію, повідомляє Post.
У вівторок представник Google пішов далі, повідомивши газету в електронному листі: «Ми завжди заохочували відкритий діалог про безпеку та відповідальність». Прес-секретар додав: «Нещодавно ми оновили наші умови для нових наймів, які включали видалення аспекту неприниження після звільнення».
Це значуща поступка. Застереження про неприниження після звільнення стали гарячою точкою в технологічній індустрії саме тому, що вони не дозволяють громадськості почути про проблеми всередині компаній після того, як працівники вже звільнилися — момент, коли люди мають найменше втрати та найбільше довіри. Рішення Google вилучити компонент після розірвання контракту з новими наймами свідчить про те, що компанія оцінила репутаційні витрати на захист положень як вищі, ніж будь-яка конфіденційна перевага, яку вони надали.
Тривала напруга в лабораторіях ШІ
Ця суперечка відповідає моделі, яка розігралася в передовій індустрії ШІ. Дослідники з питань безпеки неодноразово опинялися між зобов’язаннями щодо конфіденційності перед роботодавцями та переконанням, що громадськість заслуговує на те, щоб знати про ризики, створені системами, ефективнішими за будь-які раніше застосовані системи.
DeepMind сам бачив помітні відхилення, пов’язані з проблемами безпеки, а конкуруючі лабораторії зіткнулися з власними гучними відставками дослідників, які заявили, що більше не можуть мовчати про те, як їхні роботодавці підходять до ризику. Петиції працівників і відкриті листи стали регулярним механізмом, за допомогою якого співробітники лабораторії штучного інтелекту намагаються вплинути на поведінку своїх компаній — щодо військових контрактів, зобов’язань щодо безпеки та прозорості.
Протест DeepMind додає цій динаміці новий правовий вимір: замість того, щоб заперечувати те, що будує компанія, співробітники заперечують договірний механізм, який регулює, чи можуть вони коли-небудь говорити про це. Юристи з питань зайнятості відзначають, що можливість виконання широких положень про неприниження залежить від юрисдикції, і регулятори в Сполучених Штатах раніше виступали проти компаній, які використовували надто широкі угоди про звільнення, щоб змусити замовкнути працівників, що звільняються.
Час також має значення. Google змагається за таланти дослідників ШІ проти OpenAI, Anthropic, Meta та зростаючої когорти добре фінансованих стартапів, і дослідники, які, швидше за все, зважують питання ризику, є найбільш чутливими до того, чи зможуть вони колись публічно говорити про те, що вони бачать. Компанії, яка відома тим, що знущається з колишніми співробітниками, стикається з більш складною пропозицією щодо найму саме тих кандидатів — комерційний розрахунок, який, можливо, вплинув на рішення Google так швидко оновити свої умови.
Чому це важливо
Компанії Frontier AI займають незвичне становище. У них працюють деякі з небагатьох людей на Землі, які володіють практичними знаннями про найпотужніші системи штучного інтелекту, але ці співробітники, як правило, пов’язані щільними угодами про конфіденційність, які діють довший термін їх роботи. Якщо кожен надійний свідок внутрішніх практик безпеки лабораторії юридично заборонений говорити, публічні записи повністю залежать від того, що компанії вирішать розкрити про себе.
Ось чому результат цієї суперечки виходить за межі Google. Те, як компанії зі штучним інтелектом обмежують — або захищають — майбутню промову своїх дослідників може вплинути на те, чи попередження про потужні системи дійдуть до регуляторів, журналістів і громадськості досить рано, щоб мати значення, чи надійдуть лише заднім числом. Поступка Google вилучає з умов найму нових співробітників одне положення про довічну заборону; чи отримують існуючі співробітники еквівалентну ясність, наразі залишається відкритим питанням, яке піднімають люди, які там працюють.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
