Perplexity опублікувала докладну публікацію про Decider v1.3, найновішу версію сімейства моделей рішень, під назвою «Perplexity Decider v1.3: Навчання, оцінка та випадки використання». Публікація потрапила на першу сторінку Hacker News у п’ятницю та за кілька годин отримала понад 140 балів, а розробники обмінювалися результатами порівняльних тестів і сперечалися, де ці моделі насправді підходять. Щоб отримати більше інформації про цю та інші найважливіші новини штучного інтелекту, ми слідкуємо за випуском кожної моделі.

Увага зосереджена не на одному оновленні, а більше на тому, що розкриває тема: ледве за рік моделі прийняття рішень перетворилися з дивовижної в переповнену категорію з власними тестами, власною логікою ціноутворення та конкурентним полем, яке тепер включає Perplexity, TypeSafe, Microsoft, Google, Cloudflare та OpenAI.

Що насправді робить модель прийняття рішень

Найбільш чітке визначення походить від Artificial Analysis, незалежної лабораторії оцінювання, чий Індекс рішень версії 2.1 став еталонною таблицею лідерів для категорії. У своєму пояснювачі модель прийняття рішень приймає запитання з фіксованим набором варіантів — наприклад, заявка в службу підтримки, яка запитує, чи спрямувати до виставлення рахунків чи технічних питань, чи є воно терміновим і наскільки засмучений клієнт — і повертає відповідь для кожного варіанту з доданою ймовірністю, і все це в одному виклику.

Мовна модель загального призначення, навпаки, генерує структурований вихід, який потім потрібно проаналізувати, а модель аргументації витрачає додаткове обчислення, перш ніж відповісти. Моделі прийняття рішень пропускають це. Вони навчені вибирати, а не пояснювати, що робить їх досить швидкими та дешевими, щоб працювати з кожним документом, кожним запитом у великій кількості.

Як вимірюється категорія

Artificial Analysis Decision Index v2.1, оновлений загальнодоступною сторінкою методології, об’єднує шість оцінок із опублікованими вагами: AA-Paperclip із 30 відсотками, який обробляє 1500 резюме, квитанцій, рахунків-фактур і дослідницьких робіт через рішення та вилучення фактів; EvalSafe-ONET-AA на 15 відсотків, на основі тесту TypeSafe ONET, який оцінює документи на робочому місці; When2Call на рівні 10 відсотків, оцінка виклику інструментів NVIDIA; AA-Omniscience-Decision v1.1 на 15 відсотків для знань і галюцинацій; HLE-MultiChoice v1.1 на 15 відсотків, лише текстові запитання з кількома варіантами відповідей з Останнього іспиту Людства з можливістю відхилення; і AA-Symmetry v1.1 на 15 відсотків, який перевіряє, чи прийнятне рішення, коли його параметри переміщуються, змінюються або відхиляються.

Цей останній тест - це розповідь. Модель, яка перевертає свою відповідь, коли ви змінюєте порядок варіантів, насправді не приймає рішення — це зіставлення за зразком. Калібрування, незмінність і знання, коли слід відмовитися, розглядаються як першокласні вимоги, а не бонуси.

Що додає тема Hacker News Thread

Perplexity вперше відкрито зважила член сімейства з 27 мільярдами параметрів, pplx-decider-v1-27b, на Hugging Face на початку жовтня, тож спільнота тижнями тримала ці моделі. Реакція на версію 1.3 була неоднозначною, що сприймалося швидше як здоровий ринок, ніж цикл ажіотажу.

Один розробник повідомив, що Decider v1.3 продемонстрував переваги як у версії 1.2, так і у Jev 1.14 від TypeSafe щодо їхніх внутрішніх оцінок для завдання вилучення сутності та зіставлення. Інший сказав, що він добре працює на місцевому тесті та має конкурентоспроможну ціну, зазначивши, що архітектура двонаправленої уваги може підійти для прийняття рішень. Інші відмовилися: один коментатор вважав, що версія 1.3 є кроком назад для їх варіанта використання, і сказав, що загальнодоступний індекс погоджується, а інший поставив під сумнів, чи флеш-варіанти послаблюють основну обіцянку категорії дешевих і точних групових рішень.

Потік також висвітлив навколишню екосистему — моделі прийняття рішень Clef і модель вилучення Clairic від Cloudflare, API ScaleDown, D1 від Liquid і власну модель прийняття рішень від OpenAI — кілька розробників відзначили, що індекс Artificial Analysis, який включає вартість виконання завдання та калібрування разом із точністю, є єдиним міжвендорним порівнянням, якому вони довіряють.

Чому це важливо

Ми описали розвиток цієї категорії крок за кроком: модель Jev System-one від TypeSafe, Decision-1 від Microsoft, побудований на Qwen, і Decisions API від Google із його моделлю Gemini Decision-1. Perplexity shipping v1.3 підтверджує шаблон — кожна основна платформа штучного інтелекту тепер хоче володіти рівнем, де здійснюються структуровані вибори, оскільки цей рівень стоїть перед усім: підтримкою сортування, обробкою документів, викликом інструментів, модерацією, перевіркою відповідності.

Справа в економіці. Модель аргументації може перевершити модель прийняття рішень щодо точності, але за великого обсягу її затримка та вартість роблять її неправильним інструментом для мільйонів щоденних класифікацій. Моделі прийняття рішень обмінюють загальний інтелект на калібровані, інваріантні, одноразові відповіді, і, як показує дискусія Hacker News, покупці тепер оцінюють цю торгівлю реальними контрольними показниками та реальним робочим навантаженням.

Decider v1.3 житиме або помре на цих показниках. Але сама категорія явно прийшла.

---

Будьте попереду ШІ

Отримуйте останні новини штучного інтелекту, аналіз і прориви — усе в одному місці.

Читати більше новин AI →