Wielu czytelników zauważyło to anegdotycznie: tekst napisany przez modele AI wydaje się coraz bardziej gęsty, na szczudłach i dziwnie wyczerpujący w analizie, nawet jeśli jest bezbłędny gramatycznie. Nowy przedruk opublikowany w arXiv opiera się na twardych danych językowych tej intuicji i proponuje wyjaśnienie, dlaczego tak się dzieje.

Badanie zatytułowane „Dlaczego język generowany przez sztuczną inteligencję jest tak trudny do zrozumienia?” zostało przesłane 21 października przez badaczy Thomasa Hikaru Clarka, Matiasa B. Martina i Kyle’a Mahowalda. Opierając się na nowatorskim zbiorze tekstów wygenerowanych przez sztuczną inteligencję z różnych dziedzin, autorzy przeanalizowali zestaw cech psycholingwistycznych, które są dobrze ugruntowane w literaturze jako markery trudności w przetwarzaniu dla ludzkich czytelników – w tym zdania względne względem obiektu, długie zależności składniowe i n-gramy o niskiej częstotliwości. Więcej kontekstu na ten temat znajdziesz w naszych trendy AI.

Co zmierzyli badacze

Psycholingwistyka od dawna wie, że przeczytanie nie wszystkich zdań kosztuje tyle samo. Przetwarzanie klauzul względnych wobec obiektu („senator, którego zaatakował reporter…”) zajmuje znacznie więcej czasu niż w przypadku krewnych podmiotu. Długie zależności między słowami zmuszają czytelników do przechowywania większej ilości materiału w pamięci. Rzadkie sekwencje słów wymagają więcej wysiłku, aby je odzyskać i zintegrować. Funkcje te służą jako miarka do pomiaru tego, jak trudny jest tekst do zrozumienia – w odróżnieniu od tego, jak wyrafinowany on brzmi.

Naukowcy porównali pismo generowane przez sztuczną inteligencję z dwoma punktami odniesienia: tekstem pisanym przez człowieka i parafrazami powstałymi w wyniku tłumaczenia w obie strony, czyli kontrolą mającą na celu oddzielenie autentycznych dziwactw modelowych od ogólnego charakteru prozy formalnej lub maszynowej.

Ta kontrola ma znaczenie. Sceptycy mogą zasadnie argumentować, że tekst AI po prostu czyta się jak pismo biznesowe lub techniczne – formalne, bezosobowe i pełne rzeczowników – a nie wykazuje wyraźną patologię. Tłumaczenie w obie strony tworzy tekst o podobnym, dopracowanym, nieco nienaturalnym rejestrze, bez żadnego szkolenia w zakresie modelu językowego. Jeśli modele sztucznej inteligencji nadal przekraczałyby ten poziom bazowy w zakresie miar trudności w przetwarzaniu, różnica musiałaby wynikać z czegoś konkretnego – sposobu, w jaki same modele nauczyły się pisać. W istocie tak wynika z badania.

Co znaleźli

Wyniki były spójne we wszystkich obszarach. W porównaniu z pismem ludzkim, wszystkie dziewięć modeli granicznych i prawie granicznych zbadanych w badaniu – grupa obejmująca systemy z rodzin GPT-5.6, Claude, Llama, DeepSeek i Qwen – dokonywało wymiernie trudniejszych wyborów:

  • Więcej przedmiotów nieożywionych w połączeniu z czasownikami ożywionymi — charakterystyczny wzór pisma AI, w którym abstrakcje „zagłębiają się”, „podkreślają” lub „podkreślają”.
  • Więcej n-gramów o niskiej częstotliwości, co oznacza niezwykłe sekwencje słów, które pisarze rzadko tworzą.
  • Dłuższe zależności składniowe, z podmiotami i czasownikami oddzielonymi większą ilością materiału pośredniego.
  • Więcej rzeczowników skumulowanych i, w tekście konwersacyjnym, więcej zredukowanych zdań względnych dopełnienia.

Badanie udokumentowało również znaczne różnice między rodzinami modeli – nie wszystkie modele są równie trudne do odczytania – i wykazało, że w modelach AI częściej używano tych trudnych konstrukcji niż parafraz związanych z tłumaczeniem w obie strony, co wskazuje, że efekt jest specyficzny dla sposobu uczenia modeli, a nie artefaktem rejestru formalnego.

Ta odmiana jest jednym z najbardziej przydatnych wyników w artykule. Gdyby trudności w czytaniu były nieuniknioną konsekwencją skali lub możliwości, wszystkie systemy graniczne skupiłyby się razem. Zamiast tego rozproszenie między rodzinami sugeruje, że wybory dokonywane po szkoleniu – zestawienie danych, sygnały nagrody, nacisk na domeny wymagające rozumowania – w widoczny sposób kształtują sposób, w jaki proza ​​modela trafia do ludzkiego czytelnika. Innymi słowy, trudny do odczytania tekst AI jest wynikiem projektu, a nie nieuniknionym produktem ubocznym inteligencji.

Hipoteza gęstości informacji

Dlaczego modele miałyby dryfować w stronę trudniejszego języka? Autorzy proponują i testują hipotezę: podczas gdy język ludzki ewoluował i uczy się pod presją skutecznej komunikacji, tekst generowany przez sztuczną inteligencję jest coraz bardziej optymalizowany pod kątem innych celów – matematyki, kodowania i zadań związanych z rozumowaniem – gdzie nacisk kładziony jest na gęstość informacji, a nie na łatwość zrozumienia.

Model nagradzany za umieszczanie poprawnych odpowiedzi w mniejszej liczbie żetonów uczy się nawyków, które przekładają się na prozę: kompresuj znaczenie, preferuj precyzyjne, ale rzadkie sformułowania, osadzaj więcej struktury w zdaniu. Rezultatem jest tekst, który dobrze wypada w testach porównawczych, a jednocześnie staje się coraz mniej naturalny dla ludzkich czytelników.

Aby przetestować ten pomysł, badacze przeprowadzili eksperyment weryfikujący słuszność koncepcji: udoskonalili model językowy pod wpływem kary za długość, zmuszając go do kompresji wyników. Zachowanie językowe modelu odbiegało od wzorców ludzkich dokładnie w sposób, jaki przewiduje hipoteza, co stanowi przyczynowe wsparcie dla poglądu, że presja optymalizacyjna, a nie same dane, napędza tę zmianę.

Dlaczego to ma znaczenie

Odkrycia podkreślają to, co autorzy nazywają rozbieżnością między wymaganiami przetwarzania językowego ludzi a wymaganiami domyślnie preferowanymi przez duże modele językowe. Ta niewspółosiowość ma praktyczne konsekwencje. Asystenci AI, którzy tworzą trudniejszy do odczytania tekst, nakładają ukryty podatek na każdą odpowiedź, a efekt jest tym większy, że ludzie spędzają więcej czasu na czytaniu na wygenerowanych przez model wersjach roboczych, podsumowaniach i wyjaśnieniach.

Autorzy argumentują, że ich ramy wskazują na możliwe środki zaradcze — sposoby uczenia lub dostrajania modeli, których dane wyjściowe uwzględniają ograniczenia przetwarzania przez człowieka, bez poświęcania możliwości. Artykuł jest przeddrukiem i nie został jeszcze poddany recenzji, ale jego główna obserwacja już odbiła się szerokim echem: praca trafiła na pierwszą stronę Hacker News 24 października, wywołując aktywną debatę na temat tego, czy kompromis między zdolnością rozumowania a czytelną prozą jest fundamentalny, czy możliwy do naprawienia.

Na razie badanie zapewnia czytelnikom potwierdzone słownictwo na określenie znanej frustracji. Tekst nie pogarsza się przez przypadek — z założenia staje się gęstszy.

Źródła: arXiv:2610.29162, dyskusja w Hacker News

---

Bądź na Bieżąco z AI

Najnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.

Czytaj więcej wiadomości AI →