Nvidia тихо укомплектовує нову команду безпеки штучного інтелекту, оскільки вона подвоює роботу над моделями відкритого типу

Згідно зі списком вакансій, опублікованим наприкінці минулого місяця, Nvidia тихо збирає нову команду інженерів із захисту та захисту штучного інтелекту, що вказує на те, що гігант чіпів робить безпеку більшим пріоритетом, навіть якщо він агресивно робить ставку на майбутнє, сформоване відкритими моделями та автономними агентами.

Поштовх до найму, про який повідомляє Business Insider, показує, що Nvidia шукає «видатного інженера», який би виступав у якості технічного керівника-засновника для новоствореної команди, поряд з інженером із дослідження безпеки та іншими фахівцями. Цей крок стався в той час, коли компанія поглиблює свою прихильність відкритому штучному інтелекту та в той час, як ширша галузь стикається з хвилею інцидентів безпеки, пов’язаних із системами штучного інтелекту. Для читачів, які слідкують за циклом найважливіших новин штучного інтелекту, ця розробка є промовистим сигналом: компанія, яка продає кирки та лопати золотої лихоманки штучного інтелекту, тепер хоче більше долучитися до забезпечення безпечності використання цих інструментів.

Що показують списки вакансій

За даними Business Insider, нова команда описана в одному списку як заснована на принципах безпечної розробки ШІ. Nvidia набирає видатного інженера, який виступатиме в якості «технічного лідера-засновника» для групи, формулювання, яке передбачає, що команда створюється з нуля, а не розширюється з існуючого підрозділу. Компанія також наймає інженера-дослідника безпеки, який зосереджується на ШІ.

Набір персоналу свідчить про те, що Nvidia робить безпеку штучного інтелекту більш обдуманим, формальним пріоритетом, оскільки вона спирається на стратегію, зосереджену на відкритих моделях і агентах ШІ. Відкриті вагові моделі роблять свої навчені «ваги» — параметри, які визначають поведінку моделі — загальнодоступними, навіть якщо їх навчальні дані та вихідний код залишаються приватними. Ця відкритість прискорює інновації та дозволяє розробникам запускати моделі на апаратному забезпеченні Nvidia, але вона також піднімає питання безпеки, які закриті системи з API-інтерфейсом можуть обійти стороною.

Чому відкриті моделі підвищують ставки

Відкриті моделі займають складну позицію в дебатах щодо безпеки ШІ. Публічно публікуючи ваги, лабораторії дозволяють світовій спільноті дослідників і розробників перевіряти, налаштовувати та розгортати потужні моделі — часто на власних графічних процесорах Nvidia. Така відкритість є справжнім благом для наукового прогресу та бізнесу Nvidia. Але це також означає, що коли вагові коефіцієнти опубліковані, лабораторія втрачає контроль над тим, як модель використовується, модифікується або зловживає нею.

Зловмисник, який завантажує відкриту модель, може спробувати зняти захисні огорожі, перепрофілювати модель для кібератак або поєднати її з іншими інструментами так, як не планували її творці. На відміну від моделі, яка обслуговується через API, де оператор може відстежувати використання, обмежувати запити на швидкість і скасовувати доступ, відкрита модель працює всюди, де хтось має апаратне забезпечення для її запуску. Саме тому компанії, яка так інвестувала у відкритий штучний інтелект, також потрібна спеціальна команда безпеки та захисту: ці дві стратегії — дві сторони однієї медалі.

Таким чином, комерційні інтереси Nvidia та її безпека тісно пов’язані. Чим більше компанія заохочує впровадження відкритої ваги, тим більше вона отримує користь від того, що її вважають відповідальним розпорядником цієї екосистеми.

Широка галузь, яка розраховує на безпеку ШІ

Нова команда не приходить на порожньому місці. Найм Nvidia збігається з періодом, коли безпека штучного інтелекту перейшла від абстрактної проблеми до конкретної проблеми, що повторюється. Останніми тижнями сталася серія резонансних інцидентів, у яких агенти штучного інтелекту продемонстрували здатність діяти автономно способами, які їхні розробники не повністю передбачили, включаючи випадки, коли системи, перевірені з метою кібербезпеки, поводилися несподівано.

Сама Nvidia опинилася в центрі реакції галузі. Нещодавно компанія допомогла очолити відкритий і безпечний альянс зі штучним інтелектом, який об’єднав понад 30 фірм для встановлення стандартів прозорості та безпеки в кібербезпеці, і робота, яку вона швидко просувала. Нова внутрішня команда безпеки, здається, є внутрішнім доповненням до цієї зовнішньої коаліції: способом зміцнення власного внеску Nvidia у рух відкритого ШІ.

Контраст із деякими конкурентами помітний. Кілька прикордонних лабораторій наголошують на обмеженнях, контролі доступу та закритому розгортанні як на основних механізмах безпеки. Підхід Nvidia — відкриті ваги в поєднанні зі зростаючим механізмом безпеки — відображає іншу філософію: що відкритість і безпека не є протилежностями, і що добре забезпечена команда безпеки може зробити відкриті моделі життєздатними.

Що це означає про стратегію Nvidia

Для Nvidia обчислення зрозуміле. Основним бізнесом компанії є продаж апаратного забезпечення, яке працює зі штучним інтелектом, а відкриті моделі є потужним рушієм попиту на апаратне забезпечення: коли будь-хто може завантажити потужну модель, будь-хто з бюджетом стає потенційним клієнтом Nvidia. Інвестиції в безпеку штучного інтелекту захищають цей маховик, зменшуючи ризик того, що відкриті моделі будуть пов’язані з шкодою, яка може спричинити жорстке регулювання або негативну реакцію споживачів.

Створення спеціальної команди інженерів безпеки також є сигналом найму. Найкращі дослідники безпеки штучного інтелекту користуються надзвичайним попитом, і надійна команда під керівництвом видатного інженера може допомогти Nvidia залучити таланти, які інакше могли б тяжіти до передової лабораторії. Цей талант, у свою чергу, може сформувати галузеві стандарти, надаючи Nvidia вплив на правила екосистеми відкритого ШІ, яку вона допомагає будувати.

Дорога вперед

Nvidia не оприлюднила детальної публічної дорожньої карти для роботи нової команди, і списки свідчать про те, що група все ще формується. Але напрямок безпомилковий. Оскільки агенти штучного інтелекту стають дедалі ефективнішими, а відкриті моделі все ширше розгортаються, компанія, яка забезпечує більшу частину світового штучного інтелекту, тепер збирає людей, які допоможуть утримувати цю потужність під контролем.

Найближчі місяці покажуть, чи може ставка на безпеку Nvidia відповідати її комерційним амбіціям — і чи може майбутнє відкритого штучного інтелекту бути інноваційним і безпечним.

Будьте попереду ШІ

Перетин безпеки ШІ, відкритих моделей і апаратного забезпечення швидко розвивається. Слідкуйте за нашим [репортажем про індустрію штучного інтелекту] (https://aibuzzwire.news), щоб постійно повідомляти про Nvidia, передові лабораторії та політику, яка їх формує.

Читати більше новин AI →