Теренс Тао, математик Каліфорнійського університету в Лос-Анджелесі та володар Філдської медалі, якого часто називають одним із найкращих математиків із нинішніх часів, попередив про те, що штучний інтелект робить для математичних досліджень: запас хороших відкритих проблем «видобувається невідновлюваним способом», а виявлення важливих проблем — а не їх вирішення — стає найдефіцитнішим ресурсом у галузі. У понеділок у темі з чотирьох частин на Mathstodon Тао пояснив, чому він вважає, що ера штучного інтелекту може підштовхнути математиків до секретності, перевернувши століття відкритого наукового обміну. Щоб дізнатися більше про дослідження, слідкуйте за останніми дослідженнями ШІ на нашій домашній сторінці.
Океан проблем, дефіцит питної води
Аргумент Дао починається з парадоксу. Набір можливих математичних завдань нескінченний, тому дефіцит звучить абсурдно. Але проблема не в кількості, а в якості. Будь-хто може генерувати нескінченні відкриті проблеми за бажанням, зазначив Тао, наприклад обчислення 10^10^10-ї цифри числа Пі. Переважна більшість нічого не варті: вони «не виявляють особливої схильності розкривати будь-які подальші ідеї чи зв’язки з іншими питаннями».
«Країна чи регіон можуть відчувати критичну нестачу питної води, водночас перебуваючи в оточенні величезного океану», — написав він.
Вирішення того, які проблеми заслуговують на увагу, стверджував він, є «тривалим, обдуманим і суб’єктивним процесом», заснованим на історичному досвіді та результатах попередніх досліджень подібних проблем. Центральним у цьому судженні є те, що Тао називає «ландшафтом труднощів» — знання того, на які запитання сучасні методи можуть легко відповісти, які потребують реальних зусиль, а які неможливо, оскільки цікаві проблеми, як правило, живуть на кордонах.
AI вирівнює ландшафт складності
Цей ландшафт – це саме те, що штучний інтелект стирає. Інструменти штучного інтелекту «зрівняли ландшафт труднощів у багатьох областях предмета», — писав Тао, «знищивши таким чином здатність знаходити багатообіцяючі нові проблеми в цій області». Гірше того, немає стабільного кордону, де закінчується компетенція штучного інтелекту: технологія змінюється надто швидко, і — різким ударом — Тао звинуватив у невідомості кордону частково «відмову компаній штучного інтелекту оприлюднити свої негативні результати або розкрити процес отримання своїх рішень».
Результатом, за словами Тао, є динаміка перегонів, свідком якої він був безпосередньо: «навіть чутки про те, що хтось працює над проблемою, можуть викликати величезну кількість зусиль штучного інтелекту, щоб згладити її, перш ніж оригінальний дослідницький проект встигне розкрити свій повний потенціал».
Проблема стимулювання відкритої науки
Саме тут попередження стає структурним. Якщо оголошення про напрямок досліджень запрошує рій штучного інтелекту розчистити його, математики можуть просто перестати оголошувати що-небудь. «Стимули тепер можуть спрямовуватись на те, щоб більше не ділитися перспективними напрямками досліджень із ширшою спільнотою», — написав Тао — результат, який, на його думку, переверне багатовікову традицію, згідно з якою математика розвивалася через відкритий обмін проблемами в журналах, на семінарах і на серверах препринтів.
Невибіркове використання штучного інтелекту, стверджував він, забезпечує короткострокові виграші за довгострокову ціну: воно вирішує «проблеми, які існують, але ціною підтримки екосистеми для наступної хвилі прогресу або розуміння вже досягнутого прогресу».
Пропозиція Тао: визначте проблеми, які варто ретельно вирішити
Тао не пропонує заборонити ШІ в математиці — він визнає, що це, ймовірно, неможливо. Натомість він пропонує спільнотам визначити класи проблем, для яких важливий сам процес вирішення, щоб необроблена відповідь без аналізу використаних методів і без того, що вона розкриває про найближчі проблеми, розглядалася як «незначна або навіть негативна цінність».
Його аналогією є сучасні продовольчі банки, які більше не приймають довільні пожертви лише тому, що вони технічно їстівні, натомість підтримують чіткі стандарти щодо того, які внески є насправді корисними.
У відповіді коментатору Тао додав пов’язане спостереження: традиційні автоматичні засоби перевірки теорем «не дуже вправні в доведенні теорем», натомість у цій галузі домінують те, що він назвав «автоматизованими засобами перевірки теорем» — різниця з LLM «здебільшого в їхній ефективності».
Насичений тиждень для ШІ та математики
Нитка приземляється в заряджений момент. Це відбулося через кілька днів після того, як OpenAI оголосила, що внутрішня модель створила перевірений Lean доказ того, що рідини Нав’є-Стокса можуть вибухнути за кінцевий час — заявлена віха на шляху до Проблеми премії тисячоліття, яку, за словами математиків Нью-Йоркського університету, чия робота була основою цих зусиль, розгорнулася без належного кредиту, суперечка, висвітлена журналом Science і тут, на AI Buzz Wire. Тао весь рік був уважним хронікером цього переходу, опублікувавши широко читаний нарис про математику в епоху ШІ.
Його нова посада загострює цей аргумент під новим кутом зору: ризик полягає не в тому, що штучний інтелект вирішує все, а в тому, що він поглинає, не зароблений і не проаналізований, кінцевий каталог проблем, які варто розв’язати, залишаючи наступному поколінню математиків океан нікчемності.
---
Будьте попереду ШІОтримуйте останні новини штучного інтелекту, аналіз і прориви — усе в одному місці.
Читати більше новин AI →
