Джеффрі Хінтон, лауреат Нобелівської премії, широко відомий як «хрещений батько штучного інтелекту», цього тижня зробив одне зі своїх найгостріших попереджень законодавцям США: у Конгресу є приблизно рік, щоб запровадити суттєві гарантії щодо штучного інтелекту, перш ніж технологія вийде з-під контролю людини. Про це британсько-канадський вчений заявив 16 вересня на закритому брифінгу в Сенаті на Капітолійському пагорбі, повідомляє NBC News.
«Можливо, рік, але не більше року», — сказав Хінтон у залі законодавців, згідно з повідомленням NBC про зустріч. Брифінг був скликаний сенатором Берні Сандерсом, а також взяв участь фізик Массачусетського технологічного інституту Макс Тегмарк, співзасновник Інституту майбутнього життя, і дослідник безпеки штучного інтелекту Аджея Котра, згідно з численними звітами про сесію.
Суть попередження: створення ШІ
Аргумент Хінтона зосереджувався на конкретній технічній вісі, а не на віддаленій гіпотетиці. «Тепер ШІ досяг точки, коли ШІ розробляє кращий ШІ», — сказав він, згідно з повідомленнями на брифінгу. «Це називається рекурсивним самовдосконаленням... воно вийде з-під контролю, якщо ми щось не зробимо».
Він також сказав законодавцям, що експертні терміни для суперінтелекту зруйнувалися за останнє десятиліття. «Якщо ви подивитеся на прогнози щодо того, коли ми отримаємо суперінтелект, то раніше це було, можливо, 30 років, можливо, 50 років», — сказав Хінтон для NBC News. «Потім він скоротився до, можливо, 10 років, можливо, 20 років. Тепер люди кажуть, що багато дослідників говорять лише про кілька років».
Хінтон, почесний професор Університету Торонто, який отримав Нобелівську премію з фізики 2024 року за основоположну роботу над нейронними мережами, залишив Google у 2023 році і з тих пір став найвидатнішим внутрішнім критиком цієї галузі, попереджаючи, що системи, які він брав участь у створенні, можуть перевершити думку та витіснити своїх творців.
Скептицизм щодо «перемикача блокування»
Навіть закликаючи до швидкого регулювання, Хінтон висловив сумнів щодо однієї з найбільш обговорюваних пропозицій: федеральний мандат, який дозволить уряду закрити небезпечні системи ШІ. За словами CNN, він сказав законодавцям, що такий «перемикач блокування» не витримає в довгостроковій перспективі.
Його скептицизм виявився того ж тижня, коли сенатор Ренд Пол заблокував очолюваний республіканцями законопроект про вимикання штучного інтелекту від прискореного розгляду в Сенаті — епізод, який ілюструє, наскільки далеко залишилося навіть мінімальне законодавство про огорожу. Сенатор Джон Кеннеді від Луїзіани, який був присутній на частині брифінгу, сказав The Washington Sun, що йому сподобалася дискусія, але не бачив жодних ознак того, що Сенат буде діяти, додавши, що він очікує наступного кроку від Білого дому, вказавши на повідомлення про те, що міністр фінансів Скотт Бессент наполягає на забезпеченні безпеки.
Вигляд через прохід був не набагато сонячнішим. Сенатор Рік Скотт із Флориди сказав в інтерв’ю NewsNation, що компанії повинні регулювати самі себе: «Ми не збираємося стати достатньо розумними, щоб регулювати їх. Ми не збираємося щось робити тут», — сказав він, як повідомляє The Washington Sun.
Деякі демократи рухалися в іншому напрямку. Представник Яссамін Ансарі з Арізони, який був присутній на брифінгу, написав на X, що штучний інтелект «може і буде продовжувати виходити за межі контролю людини» і що «наше вікно для його регулювання швидко зникає. Ми повинні ЗАРАЗ зупинитися».
Тиждень AI Safety Whiplash
Брифінг завершив бурхливу дискусію щодо управління ШІ. За кілька днів до цього генеральний директор Anthropic Даріо Амодей опублікував есе, в якому закликав передові лабораторії прискорити розвиток, попереджаючи про ризики втрати контролю до біотероризму — згідно з поширеними повідомленнями, цю позицію публічно підтримують інші керівники лабораторій. Того ж дня Хінтон звернувся до сенаторів, видатні дослідники штучного інтелекту, включаючи Ендрю Нга, публічно відкинули занепокоєння щодо вимирання як надмірні, підкресливши галузь, яка публічно сперечається сама із собою.
На Капітолійському пагорбі діяльність була більшою, ніж вихід. Сенатор Корі Букер закликав президента Трампа скликати спеціальну сесію Конгресу, присвячену штучному інтелекту, а цього тижня двопартійний Форум вирішення проблем оголосив про створення нової робочої групи з ШІ та нових технологій. Жоден із них ще не створив обов’язковий федеральний закон.
Чому однорічне оформлення має значення
Попередження піонерів штучного інтелекту про терміни стали звичним явищем, але специфіка графіка Хінтона — передана безпосередньо людям, які мають повноваження приймати закони, у кімнаті, виключеній для керівників галузі — знаменує зміну тону. Попередні попередження дослідників зазвичай прогнозували ризик на горизонті десятиліть; однорічне вікно передбачає політичні відповіді, розроблені для поточного Конгресу, а не для майбутніх.
Це також загострює політичну проблему. Як показує власний скептицизм Хінтона щодо аварійного перемикання та процедурне блокування сенатора Пола, немає консенсусу навіть серед людей, що думають про безпеку, щодо того, які втручання будуть ефективними. Хінтон стверджував, що міжнародна ситуація — особливо конкуренція з Китаєм — робить одностороннє уповільнення політично крихким, напруга, яка поки що завадила більшості серйозних пропозицій.
Що станеться далі, за годинником Хінтона, це питання місяців. Те, чи змінить брифінг це обчислення, залежить від Сенату, який, за словами його власних членів, наразі взагалі не рухається.
Будьте попереду ШІ
Політика штучного інтелекту розвивається швидко — як і все інше в цій галузі. Щоб отримати більше останніх новин про штучний інтелект, оновлення нормативних актів та аналіз, читайте більше новин про штучний інтелект →.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
