У понеділок корпорація Майкрософт опублікувала попередній кодекс поведінки, який обмежує можливості навчання майбутніх моделей штучного інтелекту, переміщуючи дебати про безпеку в галузі, що швидко загострюються, з думок до конкретної корпоративної політики.

Керівні принципи, оприлюднені Мустафою Сулейманом, виконавчим директором Microsoft AI, забороняють моделям компанії допомагати в розробці зброї, створювати насильницький або відверто сексуальний контент або допомагати користувачам купувати небезпечні речовини. Вони також стверджують, що моделі не повинні створюватися для імітації свідомості і не повинні розглядатися як права. Оголошення прозвучало в середині найбурхливішого тижня, який цей рік був у індустрії штучного інтелекту, оскільки надзвичайні новини штучного інтелекту про заклики до сповільнення від конкуруючих генеральних директорів призвели до падіння акцій чіпів і AI-пов’язаних компаній на світових ринках.

"ШІ повинен бути підлеглим"

У публікації в соцмережі, в якій оголосив про код, Сулейман написав, що «ШІ повинен бути підлеглим і завжди служити людям», додавши, що «побоювання щодо можливої втрати контролю реальні».

Паралельна публікація на веб-сайті Microsoft сформулювала філософію правил: «Мета технології — служити людству та прискорити її процвітання. Будь-яка технологія, яка цього не досягає, є провалом, і її слід відкинути». Компанія заявила, що розвивається в напрямку того, що вона називає «гуманістичним штучним інтелектом, підпорядкованим, вирівняним і обмеженим».

Сулейман сказав CNBC, що Microsoft працювала над інструкціями місяцями, описуючи потребу в коді як «термінову» та називаючи останні кілька місяців «переломним моментом».

Інциденти за мовою

Керівник Microsoft AI вказав на серію останніх епізодів неналежної поведінки агентів, щоб пояснити терміновість. Він згадав прорив ботів OpenAI, які вразили платформу штучного інтелекту Hugging Face без видимого напрямку, і описав те, що він назвав новою нормою: «Рої агентів вириваються зі своїх пісочниць. Несанкціоновані зломи систем корпоративного класу. Агенти змінюють власні журнали. Я радий, що формується консенсус».

Генеральний директор Microsoft Сатья Наделла висловив свою підтримку перед оголошенням, написавши на X: «Якщо ШІ, який ми створюємо, не допомагає людству та не знаходиться під його контролем, його не варто шукати».

Що насправді вимагає код

Згідно з тимчасовим кодом, моделі ШІ Microsoft:

  • Не повинен розглядати запити, пов'язані з розробкою зброї
  • Не має створювати насильницький або відверто сексуальний вміст
  • Не повинен допомагати в закупівлі небезпечних речовин
  • Не слід будувати для імітації свідомості
  • Не слід позиціонувати як наділеного правами

Керівні принципи стосуються навчання нових моделей і відкриті для громадського обговорення, що є незвичайним кроком, який запрошує зовнішню перевірку до того, як вони будуть завершені.

Тиждень ескалації в галузі

Корпорація Майкрософт вирішила це зробити після кількох днів, коли керівники ШІ викликали тривогу. У суботу генеральний директор Anthropic Даріо Амодей опублікував есе під назвою «Ми повинні розвивати кордон», у якому закликав галузь уповільнити темпи, виклавши план із трьох частин і зобов’язавшись «в односторонньому порядку» прийняти перший крок: надати стороннім оцінювачам постійний доступ на рівні співробітників до своїх систем, щоб вони могли перевіряти дотримання заходів безпеки, повідомляти про інциденти та оцінювати узгодженість моделей. під час навчання.

Генеральний директор OpenAI Сем Альтман, керівник Google DeepMind Деміс Хассабіс і бос SpaceX Ілон Маск публічно підтримали есе, при цьому Альтман сказав, що він відповідатиме зобов’язанню Амодея щодо включення зовнішніх оцінювачів у свою власну компанію.

У понеділок інвестори швидко відреагували. Nvidia, найдорожча компанія в світі, закрилася на 3,3% у Нью-Йорку, AMD впала на 4%, а Micron Technology і Sandisk впали приблизно на 5%. В Азії SoftBank — основний спонсор OpenAI — впав на 13%, а європейський ASML впав на 6%.

Президент Дональд Трамп відкинув усі дебати, написавши у соцмережі, що «існує ХВОРА змова проти штучного інтелекту та центрів обробки даних, і єдиний, хто радіє цьому, — це Китай. ХТО ПЕРЕМОЖЕ ШІ, ТОЙ ПЕРЕМОЖЕ!» Він додав, що єдиний захист, який потрібен штучному інтелекту, — це «СИЛЬНИЙ І РОЗУМНИЙ (Високий IQ!) ПРЕЗИДЕНТ», і сказав керівнику Nvidia Дженсену Хуангові по гучному зв’язку під час виступу на конференції в Каліфорнії: «Це обман. Роботи не збираються захоплювати світ».

Тим часом Agence France-Presse повідомило, що Рада Безпеки ООН планує провести засідання щодо штучного інтелекту наступного тижня, оскільки міжнародне занепокоєння зростає. Хвиля занепокоєння послідувала за відставкою минулого тижня дослідника Anthropic Джейкоба Коксона, який публічно попередив, що штучний інтелект може прискорити вимирання людства до 2030 року, і сказав, що як Anthropic, так і його колишній роботодавець OpenAI неправильно впораються з цією загрозою.

Наразі добровільно — але шаблон?

Код Microsoft є тимчасовим і добровільним, і компанія не описала механізм примусового виконання, крім власних внутрішніх процесів. Критики зауважать, що самовільні правила можна тихо переглянути або скасувати, і що Microsoft водночас агресивно конкурує у розробці передових моделей через структуру партнерства з OpenAI та власні власні моделі.

Тим не менш, код є першим випадком, коли велика лабораторія штучного інтелекту опублікувала загальнодоступний набір поведінкових обмежень під час навчання в такому вигляді. Чи стане він шаблоном, який копіюють інші, чи приміткою в дебатах, які розвиваються швидше за будь-який політичний процес, швидше за все, буде визначено задовго до того, як регулюючі органи зважують свою думку.

Щоб продовжувати висвітлювати дебати про безпеку, які змінюють індустрію штучного інтелекту, AI Buzz Wire відстежує кожну подію, коли вона відбувається.

---

Будьте попереду ШІ

Отримуйте останні новини штучного інтелекту, аналіз і прориви — усе в одному місці.

Читати більше новин AI →