Співробітники відділу штучного інтелекту Google змушують керівників звільнити їх від угод про неприниження, стверджуючи, що вони повинні мати право інформувати громадськість про ризики технології, над якою вони працюють, згідно з ексклюзивним звітом The Washington Post Герріта Де Вінка, який цитує людей у компанії.
Підзаголовок звіту врізається в суть скарги: «Трудові контракти стримують персонал від попередження громадськості про ризики ШІ, кажуть нинішні працівники». Подальше висвітлення історії описало ці положення як довічну заборону критикувати Google, а заголовки в агрегаторах і міжнародних виданнях характеризували суперечку як «Співробітники DeepMind протестують проти довічної заборони критикувати Google» і, точніше, двоє співробітників DeepMind вимагали від Google скасувати те, що вони називають довічним кляпом. Щоб дізнатися більше про цю історію, перегляньте наші найважливіші новини AI.
Те, що вимагають працівники
Відповідно до звіту, співробітники Google DeepMind — підрозділу Alphabet, який займається більшою частиною передових досліджень ШІ компанії — хочуть, щоб керівництво звільнило їх від договірних зобов’язань щодо неприниження, щоб вони могли відкрито говорити про проблеми безпеки, пов’язані з системами, які вони створюють, і не стикатися з судовою помстою.
Як зазначено у звіті, угоди, про які йде мова, зобов’язують співробітників мовчати не лише про корпоративну практику, але й про технологічні ризики та внутрішні рішення, які визначають те, як системи ШІ досягають світу. Аргумент робітників простий: люди, найближчі до технології, і, отже, найближче до причин її відмови, за договором зобов’язані розповідати громадськості те, що вони знають.
Згідно з подальшим покриттям, Google не врахував конкретних вимог. У звіті Washington Post опис суперечки пояснюється нинішніми працівниками компанії, а не офіційною заявою Google, і відповідь компанії, якщо така є, залишається найважливішим відкритим питанням у цій історії.
Чому це важливо для безпеки ШІ
Суперечка припадає на чутливий момент для індустрії ШІ. Дебати про те, скільки передових лабораторій повинні розкривати — про можливості, потенціал неправильного використання та внутрішнє тестування — посилилися, оскільки моделі стають більш потужними та економічно ефективнішими. Якщо люди, які виконують роботу, не можуть публічно критикувати роботу своїх роботодавців, стверджують критики, громадськість і політики втрачають один із небагатьох каналів раннього попередження, які вони мають.
Історія галузі пропонує яскравий прецедент. Джеффрі Хінтон, який провів у Google більше десяти років і чиї дослідження нейронних мереж лежать в основі сучасного буму ШІ, покинув компанію в 2023 році, щоб вільно говорити про ризики ШІ. Цього тижня він пішов далі, сказавши The Guardian, що може виявитися, що людству краще ніколи не розробляти ШІ, і попередивши про «Чорнобиль» ШІ — наприклад, атаку з підтримкою штучного інтелекту, яка спричинить масштабне знеструмлення електроенергії або тижневий збій фінансової системи — що з’явиться цього чи наступного року.
Хінтон міг висловитися, тому що він пішов. Працівники DeepMind, навпаки, намагаються змінити умови, щоб їм не довелося робити однаковий вибір між кар’єрою та голосом.
Торгівля прозорості проти секретності
Ця суперечка відображає структурну напругу в індустрії ШІ. Компанії стверджують, що обмежувальні умови працевлаштування захищають комерційну таємницю, запобігають оманливим заявам і запобігають витіканню внутрішніх розбіжностей на загальний огляд у процесі розробки. Співробітники та прихильники безпеки заперечують, що ті самі терміни можуть приховувати справжні небезпеки — і що компанії, яка впевнена у своїй практиці безпеки, не варто боятися поінформованих внутрішніх критиків.
У звіті The Washington Post це питання розглядається як один із стимулів: трудові контракти, за словами нинішніх працівників, яких цитує газета, стримують персонал від попередження громадськості про ризики ШІ. Таке оформлення робить суперечку масштабнішою, ніж кадрова політика однієї компанії. Це перевірка того, чи буде основним джерелом інформації про передові ризики штучного інтелекту для громадськості власний маркетинг лабораторій чи люди всередині цих лабораторій, які мають прямі знання.
Що говорить спільнота розробників
Обговорення звіту швидко вийшло на першу сторінку Hacker News, де коментатори розділилися щодо етики ситуації. Найбільш підтримана думка стверджувала, що обмежені працівники повинні просто піти: «Вони повинні звільнитися і попередити. Все інше є лицемірством». Інші відмовилися, зазначивши, що працівники не зобов’язані жертвувати своєю кар’єрою, і що реформа колективного договору є більш реалістичним шляхом, ніж індивідуальний вихід.
Ці дебати — звільнятися, залишатися і наполягати або мовчати — якраз і є зв’язком, від якого, за словами працівників, вони намагаються втекти.
Що подивитися
Куди це піде, визначатимуть три речі. По-перше, чи визнає Google запит і, що більш важливо, чи виконує він його — відповідь компанії на конкретні вимоги поки що відсутня в записах. По-друге, чи ескалують працівники, наприклад, публічно організовуючи чи звертаючись до регуляторів, якщо відповідь ні. І по-третє, чи інші прикордонні лабораторії стикаються з подібним тиском; якщо терміни, пов’язані з неприниженням, є поширеними в галузі, суперечка щодо DeepMind може стати шаблоном для організації праці, зосередженої на прозорості ШІ.
Наразі сам запит є новиною: група дослідників, які мають безпосередній щоденний контакт з передовими системами штучного інтелекту, вважає, що інтереси суспільства вимагають їхніх голосів, і офіційно попросили дозволити їм використовувати їх. Те, як Google відповість, багато скаже про те, скільки інакомислення готова терпіти передова гонка ШІ.
---
Будьте попереду ШІОтримуйте останні новини штучного інтелекту, аналіз і прориви — усе в одному місці.
Читати більше новин AI →
