Поскольку профессионалы во всех отраслях стремятся внедрить инструменты искусственного интеллекта, тревожный вопрос переходит от предположений к сфере измеренных доказательств: теряем ли мы навыки, которым эти инструменты должны были помочь?
В отчете, опубликованном в журнале Nature, говорится, что уже получены первые результаты, но они не обнадеживают. Зависимость от систем, управляемых искусственным интеллектом, начинает разрушать способности врачей, инженеров-программистов и других квалифицированных работников, поднимая насущные вопросы о том, как сохранить человеческий опыт в эпоху автоматизации. Подробнее об этой истории — в нашем последние разработки в ИИ.
Врачи работают хуже без ИИ
Один из самых ярких примеров – медицина. Исследование польских врачей, специализирующихся на эндоскопии, показало, что происходит, когда опытные врачи привыкают к ИИ-помощнику, а затем теряют к нему доступ.
Врачам, каждый из которых за свою карьеру выполнил не менее 2000 колоноскопий, была предоставлена система искусственного интеллекта, которая анализирует изображения колоноскопии в режиме реального времени и выявляет тип предракового поражения кишечника, называемый аденомой. В некоторые дни инструмент был доступен, а в другие — нет, что стало естественным экспериментом.
Результаты были поразительными. За трехмесячный период до внедрения инструмента ИИ специалисты обнаружили как минимум одну аденому при 28,4 процентах колоноскопий. После внедрения этого инструмента уровень обнаружения аденомы при колоноскопии, выполненной без помощи ИИ, упал до 22,4 процента.
Другими словами, как только врачи начали полагаться на систему искусственного интеллекта, их собственная диагностическая эффективность снизилась, когда она стала недоступна. Результаты были опубликованы в октябре прошлого года в журнале «The Lancet Gastroenterology and Hepatology».
Авторы исследования пришли к выводу, что постоянное использование таких инструментов может привести к тому, что врачи станут «менее мотивированными, менее сосредоточенными и менее ответственными при принятии когнитивных решений без помощи ИИ».
Опрос показывает, что беспокойство широко распространено
Страх потери навыков не ограничивается несколькими исследованиями. Опрос медицинских работников США, опубликованный ранее в июне, показал, что 70 процентов медсестер и 77 процентов врачей обеспокоены потерей своих навыков из-за чрезмерной зависимости от систем искусственного интеллекта.
Эта тревога, похоже, оправдана появляющимися данными. По мере того, как все больше профессионалов интегрируют ИИ в свои повседневные рабочие процессы, разрыв между тем, что они могут сделать с помощью этой технологии, и тем, что они могут сделать без нее, может увеличиваться.
Кевин Кроустон, специалист по информатике из Сиракузского университета, ясно сформулировал проблему: «Мы надеемся, что само осознание того, что это явление существует, вызывает некоторое самоосмысление того, какие навыки люди хотят сохранить, а какие они готовы передать на аутсорсинг» инструментам искусственного интеллекта.
Инженеры-программисты демонстрируют схожие закономерности
Эффект деквалификации не ограничивается медициной. Чтобы выяснить, теряются ли навыки в области информатики, исследователи из компании Anthropic, занимающейся искусственным интеллектом, разработали рандомизированное контролируемое исследование с участием 52 инженеров-программистов.
Всем участникам было предложено выполнить базовую задачу по кодированию. Каждый инженер мог выполнить поиск в Интернете и получить инструкции по его выполнению. Половине также было предложено использовать помощника искусственного интеллекта. Исследование, выпущенное в виде препринта, было призвано выявить влияние помощи ИИ на фундаментальные способности кодирования.
Полученные результаты дополняют растущее количество доказательств того, что перенесение рутинной когнитивной работы на ИИ может ослабить базовые компетенции, которые профессионалы когда-то развивали в результате многократной практики. Когда ИИ берет на себя тяжелую работу, человек-практик получает меньше возможностей для развития и поддержания мастерства.
Механика деквалификации
Исследователи описывают деквалификацию как постепенный процесс. Когда инструмент надежно справляется с задачей, вовлеченность работника в использование основных навыков снижается. Со временем нейронные пути и суждения, отточенные годами практики, начинают угасать.
В медицине это может быть особенно опасно. Врач, который когда-то полагался на острое визуальное суждение при обнаружении подозрительных тканей, может после нескольких месяцев помощи ИИ стать зависимым от подсказок системы. Если система выходит из строя или недоступна, работа врача без посторонней помощи может больше не соответствовать тем стандартам, которые были раньше.
Юичи Мори, врач-исследователь из Университета Осло и соавтор исследования колоноскопии, предупреждает, что люди, использующие инструменты искусственного интеллекта, должны осознавать, что они рискуют потерять некоторые из своих навыков. «На данный момент не существует единого решения проблемы деквалификации», - сказал он. «Это должно стать очень горячей темой исследований в ближайшее десятилетие».
Почему стандартное тестирование упускает из виду проблему
Часть трудностей в решении проблемы деквалификации заключается в том, что она невидима до тех пор, пока ИИ не будет удален. Показатели производительности выглядят сильными, когда инструмент используется, маскируя постепенное снижение человеческих возможностей.
Это создает петлю обратной связи. Работники работают лучше с ИИ, поэтому они используют его больше. Чем больше они его используют, тем меньше они практикуют этот навык без посторонней помощи. К тому времени, когда спад станет очевидным (когда инструмент выйдет из строя, выйдет из эксплуатации или будет заменен), навык, возможно, уже атрофируется.
Это явление также поднимает вопросы о том, как организациям следует структурировать обучение и оценку. Если профессиональная компетентность все чаще измеряется при активной помощи ИИ, оценки могут преувеличивать то, что работники действительно могут сделать самостоятельно.
Сохранение человеческого опыта
Исследователи и эксперты по рабочим местам сейчас обсуждают, как сохранить важные человеческие навыки в эпоху искусственного интеллекта. Решения пока не ясны, но появляются некоторые принципы.
Во-первых, важна осведомленность. Простое признание того, что деквалификация может произойти, может побудить отдельных лиц и организации сознательно продолжать практику без посторонней помощи. Во-вторых, профессионалам, возможно, придется сделать осознанный выбор относительно того, какие навыки следует сохранять, а какие делегировать. Не каждый навык стоит сохранять в полной мере, но некоторые, особенно те, которые связаны с безопасностью, диагностикой и критическим суждением, явно заслуживают внимания.
В-третьих, организациям, возможно, придется перепроектировать рабочие процессы, чтобы ИИ дополнял, а не заменял основную когнитивную работу. Вместо того, чтобы позволять инструменту думать, ИИ можно позиционировать как средство проверки человеческого суждения, требуя от профессионала сначала прийти к ответу, прежде чем обращаться к системе.
Определяющий вызов эпохи искусственного интеллекта
Отчет Nature ясно дает понять, что деквалификация больше не является гипотетической проблемой. Доказательства, хотя и еще ранние, но одинаковы во всех областях: когда люди передают когнитивную работу ИИ, базовые навыки могут ослабнуть.
Для миллионов профессионалов, которые сейчас интегрируют ИИ в свою повседневную жизнь, ставки являются как личными, так и общественными. Хирург, потерявший способность определять опухоль, инженер, разучившийся проводить отладку без ассистента, медсестра, у которой притупляется клиническая интуиция, — это не абстрактные риски.
Как отметил Мори, однозначного решения пока не существует. Но первый шаг, по мнению исследователей, — это серьезно отнестись к угрозе. Уже есть первые результаты, и они являются предупреждением: инструменты, предназначенные для того, чтобы сделать нас лучше, при неосторожном использовании могут сделать нас менее способными, чем раньше.
---
Будьте в курсе ИИПоследние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.
Читать больше новостей об ИИ →
