Google DeepMind запустив новий інститут, присвячений розширенню дискусій навколо штучного інтелекту, і його вступні есе містять конкретну пропозицію від Деміса Хассабіса щодо організації під керівництвом США, яка б оцінювала передові моделі штучного інтелекту перед розгортанням.
За даними TechCrunch, Інститут DeepMind, заснований у середу компанією Google і дослідниками Google DeepMind, зазначає співзасновника DeepMind Шейна Легга як керуючого редактора, а також виконавчого директора Google Джеймса Маніку та керівника Google DeepMind Деміса Хассабіса. For more context on this story, see our ongoing AI news.
Можливість не погоджуватися
Оголошена мета інституту — висвітлити справжню незгоду — в тому числі в самій Google. «Вони не завжди будуть погоджуватися, і вони, швидше за все, змінять свою думку, оскільки на швидкісному кордоні з’являється більше даних та інформації», — йдеться в повідомленні.
Її перша збірка складається з чотирьох есе, які висвітлюють економічну політику для управління потенційними порушеннями AGI, збереження зрозумілих для людини міркувань моделі, принципів процвітання людини та основи для оцінки передових моделей ШІ.
Інституціоналізація відкритої незгоди є незвичним кроком для корпоративної лабораторії штучного інтелекту, де публічні повідомлення, як правило, жорстко контролюються. За задумом інститут дає дослідникам Google місце для обговорення позицій, які можуть суперечити комерційним інтересам компанії або один одного.
Есе про прозорість: подивіться «Непрозору серійну глибину»
В одному з чотирьох есе дослідників безпеки DeepMind Рохіна Шаха та Анки Драган стверджується, що скорочення вікна прозорості штучного інтелекту — здатність бачити та перевіряти покрокові міркування моделі — не є неминучим, навіть якщо нові архітектури ускладнюють моніторинг найпотужніших моделей.
Автори стверджують, що розробники та регулюючі органи повинні безпосередньо зіткнутися з компромісами безпеки. Конкретно, це може означати обмеження того, що вони називають «непрозорою серійною глибиною» — кількість послідовних обчислень, які модель може виконати, не виробляючи читабельного сліду міркування — або вимагати від розробників продемонструвати, що менш прозорі системи залишаються такими ж контрольованими, як і інтерпретовані.
Ця пропозиція примітна тим, що розглядає втрату можливості інтерпретації як вибір дизайну та політики, а не як неминучий наслідок масштабу, відкриваючи двері вимогам, які можна було б записати в нормативні документи.
Пропозиція Hassabis: Орган США з прикордонних стандартів
Найбільш значущим є есе Хассабіса. Він пропонує створити передовий орган зі стандартизації штучного інтелекту під керівництвом США, якому доручено оцінювати найдосконаліші моделі штучного інтелекту. Згідно з інструкцією, розробники спочатку добровільно надсилають моделі на перевірку за 30 днів до випуску. Після того, як система оцінювання доведе свою ефективність, проходження її випробувань може стати вимогою для розгортання прикордонних моделей у Сполучених Штатах.
Орган почав би з розробки оцінок у консультаціях з компаніями штучного інтелекту, але згодом розробив би незалежні, нерозголошені оцінки — те, що в есе називають «затриманими» тестами — щоб запобігти адаптації лабораторіями своїх моделей до відомих контрольних показників, добре задокументованого режиму невдач режимів публічної оцінки.
Hassabis також залишив двері відкритими для ескалації: структуру можна було «посилити, якщо того вимагатиме серйозність ситуації», потенційно включно зі скоординованим уповільненням серед передових розробників ШІ.
Чому інші два есе важливі
Решта два есе — про економічну політику для управління руйнуванням AGI та про принципи процвітання людства — завершують колекцію, яка розглядає AGI як загальносуспільну проблему, а не як суто технічну. Економічне переміщення протягом тривалого часу було найвідчутнішим суспільним занепокоєнням щодо передового штучного інтелекту, і поєднання його разом із політикою оцінки та можливістю інтерпретації свідчить про те, що інститут хоче, щоб політики розглядали ці частини як одну програму, а не окремі дебати.
Ця ширина також є сигналом про позиціонування Google. Компанія змагається за корпоративних клієнтів і державні контракти, водночас стверджуючи, що прикордонні системи потребують зовнішнього контролю. Оприлюднення напруги, а не її згладження, є основним принципом інституту.
Від занепокоєння до конкретних пропозицій
Есе з’являються в той момент, коли галузеві дебати про безпеку переходять від широких заяв про занепокоєння до конкретних механізмів: вимоги до розкриття інформації, зовнішній контроль і — якщо запобіжні заходи відстають — скоординоване уповільнення. Цей зсув прискорився цього тижня, оскільки лідери галузі схвалили елементи заклику генерального директора Anthropic Даріо Амодея «прискорити» передовий розвиток ШІ, повідомляє TechCrunch.
Час має значення. Уряди по обидва боки Атлантики зважують, як наглядати за системами, чиї можливості розвиваються швидше, ніж інфраструктура оцінювання. Пропозиція, яка походить від провідної лабораторії штучного інтелекту — і включає перевірку перед випуском — дає політикам шаблон, який номінально схвалила сама галузь, що історично було передумовою для значущого регулювання штучного інтелекту.
Що подивитися
Першим випробуванням стане редакційна незалежність інституту від Google. Якщо есе продовжуватимуть включати позиції, які суперечать комерційній дорожній карті Google — як, можливо, робить есе про прозорість, — місце може стати серйозним внеском у політичні дебати AGI. Якщо він перейде в бік корпоративного обміну повідомленнями, це стане ще одним PR-каналом у переповненому полі.
У будь-якому випадку, суть вже на столі: вимоги попередньої оцінки, відкладені тести та навіть скоординоване уповільнення публічно стверджує одна з найвпливовіших фігур у сфері ШІ. Питання полягає не в тому, чи потрібно незалежно оцінювати прикордонні моделі, а в тому, хто проводить оцінку — і за яким графіком.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
