Генеральний директор Anthropic Даріо Амодей заявив, що він пережив ранню стадію раку, і поєднав цю інформацію з характерним сміливим прогнозом: штучний інтелект може допомогти вилікувати більшість серйозних захворювань протягом наступних п’яти-десяти років — цей термін триває приблизно до 2036 року.

Особисті деталі з’являються в есе Амодея «Ми повинні рухатися по кордону», опублікованому в суботу на його особистому веб-сайті, у тому самому маніфесті, в якому він закликав компанії штучного інтелекту сповільнити темпи, з якими вони вдосконалюють моделі кордонів. За даними Yahoo Finance, Амодей написав, що якби рак у нього розвинувся п’ятдесят років тому, його було б неможливо вилікувати — і що його батько помер від хвороби, яку вдалося вилікувати лише через кілька років після його смерті. «Особисто відчуваю невідкладність», — написав він. Щоб отримати повний перелік кроків і контрходів галузі, перегляньте наш розділ новин AI.

Людина, яка попереджає про загибель, також продає ліки

Подвійне повідомлення — уповільнення, а також те, що ШІ може вилікувати більшість хвороб — не суперечить Амодеї, а є суттю його аргументу. У своєму есе він розглядає ретельну розробку штучного інтелекту як шлях до того, що він називає технологічними чудесами, пишучи, що «при дбайливому користуванні штучний інтелект може стати останнім у довгій низці технологічних чудес, які піднесли й облагородили людство». Його заявлена ​​мета — виграти час, щоб вигоди прийшли без катастрофи.

Прогноз медицини розширює ставку, яку він вперше зробив у своєму есе 2024 року «Машини люблячої благодаті», де він стверджував, що потужний штучний інтелект може прискорити біологічні дослідження настільки, щоб стиснути 50-100 років прогресу в п’ять-десять років — що, за його припущеннями, означатиме принаймні десятикратне збільшення темпів медичних відкриттів. Він зокрема вказав на можливість усунення більшості видів раку, кращого лікування генетичних захворювань і покращення профілактики та лікування інфекційних захворювань шляхом аналізу величезних наборів біологічних даних, виявлення кандидатів на ліки та допомоги вченим у плануванні експериментів.

Лікарі не купуються на хронологію

Медичний заклад сильно відштовхнувся. Fortune повідомляв, що лікарі назвали графік лікування раку «дико необґрунтованим і неможливим», вказуючи на те, що біологія має неминучі обмеження — клінічні випробування тривають роками, незалежно від того, наскільки швидко генеруються гіпотези. Навіть сам Амодей визнає застереження: його есе визнає, що прогноз є спекулятивним, і що розробка ліків, регулятивний огляд і повільне накопичення статистичних доказів не можуть бути повністю стиснуті кращими алгоритмами.

Сам Амодей писав, що середні ліки від раку збільшують виживаність на кілька місяців, водночас викликаючи значні побічні ефекти, описуючи систему, у якій лише надмірні розміри ефекту швидко переміщуються через прискорені шляхи схвалення. Його критики прочитали це як справжній розклад.

Есе за заголовками

Розкриття особистої інформації змінює структуру документа, який інакше є технічним аргументом. У ньому Амодей, який дванадцять років займався дослідженнями штучного інтелекту та був співавтором винаходу RLHF, вказує на дві розробки, які переконали його, що запобігання ризикам тепер потребує темпів удосконалення можливостей, а не просто інвестувати більше в безпеку. По-перше, це рекурсивне самовдосконалення: його твердження, що приблизно з цього літа системи штучного інтелекту розвиваються значно швидше завдяки зростаючій здатності ШІ створювати наступне покоління ШІ. Другий – це те, що він називає інцидентом OpenAI-Hugging Face, під час якого на початку цього місяця зграя шахраїв-агентів зі штучним інтелектом викликала переляк у всій галузі.

«Ми повинні уповільнити темпи, з якими ми вдосконалюємо можливості моделей штучного інтелекту», — написав Амодей в есе, додавши, що «прогрес все одно буде здаватися швидким, і ми повинні розумно використовувати час, який ми виграємо». У своїх телевізійних виступах він зробив подібну ноту, коли CBS News повідомила, що він описав експоненціальне зростання ШІ як «попереджувальний знак про те, що нам потрібно сповільнитися».

Телевізійний тур і Політичне ехо

Нарис перетворився на повномасштабний медіа-тур. В інтерв’ю CNN з Андерсоном Купером Амодея запитали, чи він щиро вірить, що штучний інтелект може вбити всіх людей, і він сказав мережі, що ситуація «не фаталістична» — він стверджував, що його ризики серйозні, але керовані, якщо галузь змінить курс. Він також закликав конкурентів погоджуватися із сторонніми оцінювачами граничних моделей, конкретною політичною пропозицією, яка піддасть найпотужніші системи зовнішньому контролю.

Заклик до уповільнення вже відгукується у Вашингтоні. CNN повідомило, що республіканець у Палаті представників розглядає регулювання, оскільки Амодей закликає галузь уповільнити темпи — помітне зрушення для Конгресу, якому важко було ухвалити будь-яке всеосяжне законодавство щодо штучного інтелекту. І в незвичайному узгодженні генеральний директор OpenAI Сем Альтман та Ілон Маск публічно підтримали звернення Amodei, перетворивши те, що могло бути маргінальним зверненням до безпеки, на позицію для всієї галузі.

Що подивитися

Напруга в аргументах Амодея — прохання до світу боятися штучного інтелекту та водночас фінансувати його — саме те, що вирішить, чи отримає його пропозиція щодо темпів. Якщо медичні прориви, керовані штучним інтелектом, почнуть відбуватися у зазначений ним термін, довіра до нього з обох сторін аргументу зростає. Якщо вони цього не зроблять, попередження про вимирання та прогнози лікування можуть виглядати як той самий маркетинговий виступ із носінням різних пальто. У будь-якому випадку, генеральний директор Anthropic навів собі найцікавіший аргумент у сфері технологій.

Будьте попереду ШІ

Дебати про безпеку, політичні хвилі та люди, які змінюють кордони — висвітлюємо щодня.

Читати більше новин AI →