Виконавчий директор Anthropic Даріо Амодей попередив законодавців, що прискорення тенденції до штучного інтелекту з відкритим кодом може призвести суспільство до небезпечного шляху, якщо потужні моделі будуть випущені без ретельних гарантій, що знову розпалює одну з найбільш суперечливих дебатів у політиці ШІ.
Амодей, який заснував і очолює компанію, що стоїть за сімейством моделей Claude, стверджував, що унікальна природа штучного інтелекту з відкритим вихідним кодом, який робить просунуті системи вільно доступними для завантаження, модифікації та розгортання, створює ризики, яких ніколи не становило звичайне програмне забезпечення з відкритим кодом. Його зауваження, опубліковані Tekedia, зосереджуються на труднощах керування здатним штучним інтелектом після його публічного поширення. Щоб дізнатися більше про цю історію, перегляньте [більше історій зі штучним інтелектом] (https://aibuzzwire.news).
На відміну від традиційного програмного забезпечення, передові системи штучного інтелекту можуть генерувати переконливий текст, створювати реалістичні зображення, писати комп’ютерний код і допомагати виконувати завдання кібербезпеки. Амодей стверджує, що в чужих руках ці можливості можуть бути використані для автоматизації кібератак, організації складних кампаній з дезінформації або просування шкідливих біологічних досліджень.
Проблема постійності
Одним із головних ризиків, на які звернув увагу Amodei, є те, що після того, як потужну модель відкрито випущено, її стає фактично неможливо відкликати. Закриті системи, якими керують компанії, можна контролювати, виправляти та обмежувати, коли з’являються нові вразливості. Модель з відкритим вихідним кодом, навпаки, можна копіювати нескінченно довго та розповсюджувати в Інтернеті, не залишаючи розробникам механізму обмеження її використання після випуску.
Ця постійність, попередив Амодей, особливо тривожна, оскільки моделі наближаються до продуктивності людського рівня у все більш складних завданнях. Він стверджував, що передовий штучний інтелект повинен пройти ретельне тестування на безпеку, контрольоване розгортання та відповідний регулятивний нагляд, перш ніж він стане широко доступним, а не розглядатися як звичайне програмне забезпечення, яке можна вдосконалювати спільними зусиллями відкрито.
Його позиція відображає зростаючу лінію розлому в галузі. Прихильники штучного інтелекту з відкритим кодом стверджують, що публічний доступ стимулює конкуренцію, демократизує технологічний прогрес і заважає кільком корпораціям монополізувати штучний інтелект. Розробники з усього світу можуть перевіряти архітектуру моделі, поверхневі недоліки безпеки та вдосконалювати системи спільно, тоді як стартапи, дослідники та навчальні заклади можуть будувати, не залежачи від дорогих пропрієтарних платформ.
Конкретні ризики на столі
Занепокоєння Амодея не абстрактні. Відкрито випущені моделі вже були позбавлені захисних огороджень дослідниками за допомогою простих методів тонкого налаштування, практика, яка продемонструвала, як швидко можна зняти захисні заходи, коли базові ваги стануть публічними. Оскільки моделі стають все більш здібними до таких завдань, як хімія, біологія та використання програмного забезпечення, викликає занепокоєння те, що відкриті випуски можуть надати потужні можливості акторам, які ніколи не пройдуть перевірку, яку відповідальні лабораторії накладають на своїх клієнтів.
Вимір дезінформації також привернув увагу. Моделі, які можуть створювати реалістичний текст, зображення та аудіо в масштабі, можуть бути спрямовані на втручання у вибори, фінансове шахрайство або масове виробництво пропаганди. Оскільки відкрита модель повністю працює на власному апаратному забезпеченні зловмисника, зауважив Амодей, немає API, який можна придушувати, немає облікового запису, який можна призупинити, і немає постачальника, якого можна притягнути до відповідальності після того, як завдано збитку.
Змагальний фон
Попередження Amodei надходять на тлі сплеску потужних відкритих моделей від китайських розробників. GLM-5.2 від Zhipu, разом з іншими недорогими китайськими системами, привернули увагу до того, як швидко відкриті та відкрито доступні моделі скорочують розрив із передовими власними системами від Anthropic та OpenAI. Такий тиск конкуренції посилив політичні дебати щодо того, чи принесуть обмеження на відкриті випуски перевагу домінуючим фірмам чи створять суспільства для зловживань.
Критики позиції Амодея стверджують, що обмеження ШІ з відкритим кодом може ненавмисно закріпити великі технологічні компанії, обмежуючи незалежні інновації. Вони також відзначають, що прозорість часто дозволяє дослідникам виявляти вразливості швидше, ніж закрита розробка. Навіть багато прихильників відкритої розробки визнають, однак, що дедалі потужніші системи можуть вимагати більш потужних структур управління, ніж попередні покоління програмного забезпечення.
Регуляторний мотузок
Дискусія набула гостроти, оскільки уряди в усьому світі зважують нові правила ШІ. Політики стикаються зі складним балансом: надмірні обмеження можуть уповільнити економічне зростання та наукові відкриття, тоді як недостатній нагляд може наражати суспільства на ризики, які важко передбачити. Щоб досягти цього балансу, вважає Амодей, потрібна співпраця між урядами, технологічними компаніями, академічними дослідниками та громадянським суспільством.
Його свідчення підкреслюють одну з визначальних дискусій щодо технологічної політики десятиліття. Оскільки штучний інтелект стає все більш спроможним, суспільство має вирішити, як заохочувати інновації, мінімізуючи небезпеки, пов’язані з широким доступом до трансформаційних систем. Через регулювання, галузеві стандарти чи міжнародне співробітництво, вибір, зроблений у найближчі місяці щодо штучного інтелекту з відкритим кодом, може визначити, хто контролюватиме цю технологію та наскільки безпечно її розгортати протягом багатьох років.
Позиція Anthropic узгоджується з тривалим акцентом компанії на безпеці ШІ та контрольованих випусках. Але з огляду на те, що відкриті моделі швидко розвиваються, а регулятори все ще намагаються їх наздогнати, розрив між застереженнями Amodei та темпами руху з відкритим кодом може скорочуватися швидше, ніж політики зможуть його закрити.
---
Будьте попереду ШІОтримуйте останні новини штучного інтелекту, аналіз і прориви — усе в одному місці.
Читати більше новин AI →
