Оскільки професіонали в різних галузях змагаються за впровадження інструментів штучного інтелекту, тривожне питання переходить від спекуляцій до сфери виміряних доказів: чи не втрачаємо ми навички, яким ці інструменти мали допомогти?
У звіті, опублікованому в Nature, виявлено, що перші результати є — і вони не надихають. Покладення на системи, керовані штучним інтелектом, починає підривати здібності лікарів, розробників програмного забезпечення та інших кваліфікованих працівників, що викликає нагальні питання про те, як зберегти людський досвід в епоху автоматизації. For more context on this story, see our ongoing AI trends.
Лікарі працюють гірше без ШІ
Один із яскравих прикладів — медицина. Дослідження польських лікарів, які спеціалізуються на ендоскопії, вивчало, що відбувається, коли досвідчені лікарі звикають до помічника зі штучним інтелектом, а потім втрачають до нього доступ.
Лікарі, кожен з яких виконали принаймні 2000 колоноскопій протягом своєї кар’єри, отримали систему AI, яка аналізує зображення колоноскопії в режимі реального часу та позначає тип передракового ураження кишечника, який називається аденомою. Інструмент був доступний в деякі дні, але не в інші, створюючи природний експеримент.
Результати були разючі. За три місяці до впровадження інструменту ШІ фахівці виявили принаймні одну аденому під час 28,4 відсотка колоноскопій. Після того, як цей інструмент був представлений, рівень виявлення аденоми під час колоноскопії, виконаної без допомоги ШІ, знизився до 22,4 відсотка.
Іншими словами, як тільки лікарі почали покладатися на систему штучного інтелекту, їх власна діагностична продуктивність знизилася, коли вона була недоступна. Висновки були опубліковані в жовтні минулого року в The Lancet Gastroenterology and Hepatology.
Автори дослідження дійшли висновку, що безперервний вплив таких інструментів може призвести до того, що клініцисти стануть «менш мотивованими, менш зосередженими та менш відповідальними під час прийняття когнітивних рішень без допомоги ШІ».
Опитування показує, що занепокоєння поширене
Страх втрати навичок не обмежується кількома дослідженнями. Опитування медичних працівників США, опубліковане раніше в червні, показало, що 70 відсотків медсестер і 77 відсотків лікарів стурбовані втратою своїх навичок через надмірну залежність від систем ШІ.
Ця тривога, здається, виправдана новими даними. Оскільки все більше професіоналів інтегрують штучний інтелект у свої щоденні робочі процеси, розрив між тим, що вони можуть робити з технологією, і тим, що вони можуть робити без неї, може збільшуватися.
Кевін Кроустон, інформаційний науковець з Університету Сіракуз, чітко сформулював проблему: «Сподіваємося, лише усвідомлення того, що це явище існує, спонукає до самороздумів про те, які навички люди хочуть підтримувати, а які вони готові передати на аутсорсинг» інструментам ШІ.
Інженери-програмісти показують схожі шаблони
Ефект дескілінгу не обмежується медициною. Щоб дослідити, чи втрачаються навички в інформатиці, дослідники фірми Anthropic, що займається штучним інтелектом, розробили рандомізоване контрольоване дослідження за участю 52 інженерів програмного забезпечення.
Усіх учасників попросили виконати базове завдання з кодування. Кожен інженер може шукати в Інтернеті та отримати інструкції щодо його завершення. Половині також було запропоновано скористатися помічником AI. Дослідження, опубліковане як препринт, було розроблено, щоб виділити вплив допомоги ШІ на фундаментальну здатність кодування.
Отримані дані доповнюють зростаючу кількість доказів того, що перевантаження рутинної когнітивної роботи на штучний інтелект може послабити основні навички, які професіонали колись розвинули під час повторної практики. Коли штучний інтелект виконує важку роботу, людина-практик отримує менше можливостей розвивати та підтримувати майстерність.
Механіка дескілінгу
Дослідники описують декваліфікацію як поступовий процес. Коли інструмент надійно справляється із завданням, залучення працівника до основних навичок знижується. З часом нервові шляхи та здатність судження, відточена роками практики, починають зникати.
У медицині це може бути особливо небезпечно. Лікар, який колись покладався на чітке візуальне судження, щоб виявити підозрілу тканину, може через кілька місяців допомоги ШІ стати залежним від підказок системи. Якщо система виходить з ладу або стає недоступною, робота лікаря без сторонньої допомоги може більше не відповідати стандартам, які були раніше.
Юічі Морі, лікар-дослідник з Університету Осло та співавтор дослідження колоноскопії, попереджає, що люди, які використовують інструменти штучного інтелекту, повинні знати, що вони ризикують втратити частину своїх навичок. «Зараз немає встановленого рішення проти декваліфікації», — сказав він. «Це має стати дуже актуальною темою для дослідження в наступному десятилітті».
Чому стандартне тестування пропускає проблему
Частина труднощів у вирішенні проблеми декваліфікації полягає в тому, що вона невидима, доки не буде видалено ШІ. Показники продуктивності виглядають сильними, коли інструмент використовується, маскуючи поступову ерозію людських можливостей.
Це створює зворотний зв’язок. Працівники працюють краще з ШІ, тому вони використовують його більше. Чим більше вони використовують його, тим менше вони практикують навичку без сторонньої допомоги. До того моменту, коли погіршення стає очевидним — коли інструмент не працює, виходить з експлуатації або замінюється — навички можуть уже атрофуватися.
Це явище також викликає питання про те, як організації повинні структурувати навчання та оцінювання. Якщо професійна компетентність все більше вимірюється під час роботи ШІ, оцінки можуть перебільшувати те, що працівники справді можуть зробити самостійно.
Збереження людського досвіду
Дослідники та експерти на робочому місці зараз обговорюють, як зберегти важливі людські навички в епоху ШІ. Рішення ще не ясні, але з’являються кілька принципів.
По-перше, обізнаність має значення. Просте усвідомлення того, що декваліфікація може статися, може спонукати окремих осіб і організації навмисно продовжувати практику без сторонньої допомоги. По-друге, професіоналам може знадобитися зробити свідомий вибір щодо того, які навички зберегти, а які делегувати. Не всі навички варті збереження на повну силу, але деякі — особливо ті, що пов’язані з безпекою, діагностикою та критичним судженням — безперечно варті того.
По-третє, організаціям може знадобитися переробити робочі процеси, щоб штучний інтелект доповнював, а не замінював основну когнітивну роботу. Замість того, щоб дозволяти інструменту думати, штучний інтелект можна позиціонувати як перевірку людських суджень, вимагаючи від професіонала отримання відповіді, перш ніж звернутися до системи.
Визначальний виклик ери ШІ
Звіт Nature ясно показує, що декваліфікація більше не є гіпотетичною проблемою. Докази, хоч і ще ранні, однакові в усіх галузях: коли люди передають когнітивну роботу ШІ, основні навички можуть слабшати.
Для мільйонів професіоналів, які зараз інтегрують штучний інтелект у свої повсякденні справи, ставки є як особистими, так і суспільними. Хірург, який втрачає дотик, щоб помітити пухлину, інженер, який забуває, як налагодити без помічника, медсестра, чия клінічна інтуїція затьмарюється, — це не абстрактні ризики.
Як зазначив Морі, ще немає встановленого рішення. Але першим кроком, погоджуються дослідники, є сприйняття загрози серйозно. Перші результати є, і вони є попередженням: інструменти, призначені для того, щоб зробити нас кращими, можуть, якщо їх використовувати необережно, зробити нас менш здібними, ніж раніше.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
