Многие читатели это заметили: текст, написанный моделями ИИ, кажется все более запутанным, неестественным и странно утомительным для анализа, даже если он грамматически безупречен. Новый препринт, опубликованный на arXiv, подкрепляет эту интуицию точными лингвистическими данными и предлагает объяснение, почему это происходит.
Исследование «Почему язык, сгенерированный искусственным интеллектом, так сложно понять?» было представлено 21 октября исследователями Томасом Хикару Кларком, Матиасом Б. Мартином и Кайлом Маховальдом. Опираясь на новый корпус текстов, сгенерированных ИИ в различных областях, авторы проанализировали набор психолингвистических особенностей, которые хорошо известны в литературе как маркеры сложности обработки информации для читателей, включая придаточные предложения объектов, длинные синтаксические зависимости и низкочастотные n-граммы. Подробнее об этой истории — в нашем новости об ИИ.
Что измерили исследователи
Психолингвистика давно знает, что не все предложения стоят одинакового чтения. Обработка относительных предложений объекта («сенатор, на которого напал репортер...») занимает заметно больше времени, чем обработка родственников субъекта. Длинные зависимости между словами заставляют читателей удерживать в памяти больше материала. Редкие последовательности слов требуют больше усилий для извлечения и интеграции. Эти характеристики служат линейкой для измерения того, насколько труден для понимания текст — в отличие от того, насколько сложно он звучит.
Исследователи сравнили письмо, созданное ИИ, с двумя базовыми показателями: текстом, написанным человеком, и перефразами, полученными с помощью двустороннего перевода — контроля, предназначенного для отделения подлинных причуд модели от общего привкуса формальной или машинной прозы.
Этот контроль имеет значение. Скептики могут обоснованно утверждать, что текст ИИ просто читается как деловой или технический текст — формальный, безличный и насыщенный существительными — а не демонстрирует явную патологию. При двустороннем переводе создается текст с таким же отточенным, немного неестественным регистром без какой-либо подготовки языковой модели. Если бы модели ИИ по-прежнему превышали этот базовый уровень по показателям сложности обработки, разница должна была бы заключаться в чем-то конкретном, а именно в том, как сами модели научились писать. По сути, это то, что показало исследование.
Что они нашли
Результаты были одинаковыми по всем направлениям. По сравнению с человеческим письмом, все девять передовых и почти передовых моделей, рассмотренных в исследовании (группа, в которую входят системы из семейств GPT-5.6, Claude, Llama, DeepSeek и Qwen), сделали гораздо более трудный выбор:
– Больше неодушевленных предметов в сочетании с одушевленными глаголами — характерный для ИИ образец письма, в котором абстракции «вникают», «подчеркивают» или «выделяют».
- Более низкочастотные n-граммы, означающие необычные последовательности слов, которые писатели-люди создают редко.
– Более длинные синтаксические зависимости: предметы и глаголы разделены большим количеством промежуточного материала.
– Больше существительных, расположенных друг над другом, а в разговорном тексте — больше сокращенных относительных предложений.
Исследование также зафиксировало существенные различия между семействами моделей — не все модели одинаково сложны для чтения — и обнаружило, что модели ИИ использовали эти сложные конструкции чаще, чем парафразы с двусторонним переводом, что указывает на то, что эффект зависит от того, как модели обучаются, а не от артефакта формального реестра.
Этот вариант, по-видимому, является одним из наиболее полезных результатов в статье. Если бы трудности с чтением были неизбежным следствием масштаба или возможностей, все передовые системы сгруппировались бы вместе. Вместо этого разброс между семьями предполагает, что выбор после обучения — сочетание данных, сигналы вознаграждения, акцент на сложных рассуждениях — заметно формирует то, как проза модели воспринимается читателем. Другими словами, трудночитаемый текст ИИ — это результат проектирования, а не неизбежный побочный продукт интеллекта.
Гипотеза плотности информации
Почему модели склоняются к более сложному языку? Авторы выдвигают и проверяют гипотезу: в то время как человеческий язык развивался и изучается под давлением, необходимым для успешного общения, текст, генерируемый ИИ, все больше оптимизируется для других целей — математики, кода и задач рассуждения — где давление направлено на плотность информации, а не на простоту понимания.
Модель, получающая вознаграждение за упаковку правильных ответов в меньшее количество жетонов, приобретает привычки, которые переносятся и в прозу: сжимать смысл, отдавать предпочтение точным, но редким формулировкам, встраивать больше структуры в предложение. В результате получается текст, который получает хорошие оценки по критериям, но при этом становится все менее естественным для читателей.
Чтобы проверить эту идею, исследователи провели эксперимент, подтверждающий концепцию: они настроили языковую модель с учетом ограничения длины, заставив ее сжимать выходные данные. Лингвистическое поведение модели отличалось от поведения человека именно так, как предсказывает гипотеза, что является причинной поддержкой идее о том, что этот сдвиг обусловлен давлением оптимизации, а не только данными.
Почему это важно
Результаты подчеркивают то, что авторы называют несоответствием между требованиями к лингвистической обработке людей и теми, которые неявно предпочитают большие языковые модели. Это несоответствие имеет практические последствия. Помощники ИИ, создающие трудный для чтения текст, взимают скрытый налог за каждый ответ, и эффект усиливается, поскольку люди тратят больше времени на чтение черновиков, резюме и объяснений, созданных с помощью моделей.
Авторы утверждают, что их концепция указывает на возможные решения — способы обучения или настройки моделей, выходные данные которых учитывают ограничения человеческой обработки, не жертвуя при этом возможностями. Статья представляет собой препринт и еще не прошла рецензирование, но ее центральное наблюдение уже находит отклик: 24 октября работа поднялась на первую полосу Hacker News, вызвав активные дебаты о том, является ли компромисс между эффективностью рассуждений и удобочитаемой прозой фундаментальным или исправимым.
На данный момент исследование дает читателям проверенный словарь для обозначения знакомого разочарования. Текст становится хуже не случайно — он становится плотнее намеренно.
Источники: arXiv:2610.29162, обсуждение Hacker News---
Будьте в курсе ИИПоследние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.
Читать больше новостей об ИИ →
