Nhiều độc giả đã nhận thấy điều đó một cách giai thoại: văn bản được viết bởi các mô hình AI ngày càng có cảm giác dày đặc, cứng nhắc và khó phân tích một cách kỳ lạ, ngay cả khi nó hoàn hảo về mặt ngữ pháp. Một bản in trước mới được đăng lên arXiv đặt dữ liệu ngôn ngữ cứng đằng sau trực giác đó - và đề xuất lời giải thích tại sao nó lại xảy ra.
Nghiên cứu "Tại sao ngôn ngữ do AI tạo ra lại khó hiểu đến vậy?", được các nhà nghiên cứu Thomas Hikaru Clark, Matias B. Martin và Kyle Mahowald đệ trình vào ngày 21 tháng 10. Dựa trên một kho văn bản mới do AI tạo ra trên nhiều lĩnh vực khác nhau, các tác giả đã phân tích một tập hợp các đặc điểm ngôn ngữ tâm lý đã được thiết lập rõ ràng trong tài liệu như là dấu hiệu cho thấy khó khăn trong việc xử lý đối với người đọc - bao gồm mệnh đề quan hệ đối tượng, phụ thuộc cú pháp dài và n-gram tần số thấp. For more context on this story, see our ongoing more AI stories.
Những gì các nhà nghiên cứu đã đo lường
Các nhà ngôn ngữ học tâm lý từ lâu đã biết rằng không phải tất cả các câu đều có giá trị đọc như nhau. Mệnh đề quan hệ đối tượng ("thượng nghị sĩ bị phóng viên tấn công...) mất nhiều thời gian xử lý hơn so với mệnh đề quan hệ đối tượng. Sự phụ thuộc lâu dài giữa các từ buộc người đọc phải ghi nhớ nhiều tài liệu hơn trong trí nhớ. Các chuỗi từ hiếm đòi hỏi nhiều nỗ lực hơn để truy xuất và tích hợp. Các tính năng này đóng vai trò như một thước đo để đo lường mức độ khó hiểu thực sự của một văn bản - khác biệt với mức độ phức tạp của nó.
Các nhà nghiên cứu đã so sánh văn bản do AI tạo ra với hai đường cơ sở: văn bản do con người viết và các cách diễn giải được tạo ra thông qua dịch thuật hai chiều, một biện pháp kiểm soát được thiết kế để tách biệt những điều kỳ quặc của mô hình thực sự khỏi hương vị chung của văn xuôi trang trọng hoặc văn xuôi máy móc.
Sự kiểm soát đó quan trọng. Những người hoài nghi có thể lập luận một cách hợp lý rằng văn bản AI chỉ đơn giản đọc giống như văn bản kinh doanh hoặc kỹ thuật - trang trọng, khách quan và nặng về danh từ - thay vì thể hiện một bệnh lý riêng biệt. Bản dịch khứ hồi tạo ra văn bản có cách viết trau chuốt tương tự, hơi thiếu tự nhiên mà không cần đào tạo về mô hình ngôn ngữ sau đó. Nếu các mô hình AI vẫn vượt quá mức cơ bản đó về các thước đo độ khó xử lý, thì sự khác biệt sẽ phải đến từ điều gì đó cụ thể về cách các mô hình tự học viết. Về bản chất, đó là những gì nghiên cứu đã tìm thấy.
Những gì họ tìm thấy
Các kết quả đều nhất quán trên diện rộng. So với chữ viết của con người, tất cả chín mô hình biên giới và gần biên giới được xem xét trong nghiên cứu — một nhóm bao gồm các hệ thống từ các dòng GPT-5.6, Claude, Llama, DeepSeek và Qwen — đã đưa ra những lựa chọn khó khăn hơn đáng kể:
- Các chủ đề vô tri hơn được ghép nối với các động từ sống động — kiểu viết đặc trưng của AI mang tính trừu tượng "đi sâu", "gạch dưới" hoặc "đánh dấu".
- Thêm n-gram tần số thấp, nghĩa là những chuỗi từ bất thường mà người viết hiếm khi tạo ra.
- Sự phụ thuộc cú pháp dài hơn, với chủ ngữ và động từ được phân tách bằng nhiều tài liệu can thiệp hơn.
- Nhiều danh từ xếp chồng lên nhau hơn và, trong văn bản đàm thoại, có nhiều mệnh đề quan hệ bổ ngữ được rút gọn hơn.
Nghiên cứu cũng ghi lại sự khác biệt đáng kể giữa các họ mô hình — không phải tất cả các mô hình đều khó đọc như nhau — và phát hiện ra rằng các mô hình AI sử dụng các cấu trúc khó này thường xuyên hơn so với các cách diễn giải dịch khứ hồi, cho thấy tác động cụ thể đối với cách các mô hình được đào tạo chứ không phải là một tạo phẩm của đăng ký chính thức.
Sự khác biệt đó lặng lẽ là một trong những kết quả hữu ích nhất trong bài báo. Nếu khó đọc là hệ quả không thể tránh khỏi của quy mô hoặc khả năng, thì tất cả các hệ thống biên giới sẽ tập hợp lại với nhau. Thay vào đó, sự chênh lệch giữa các gia đình cho thấy những lựa chọn sau đào tạo - sự kết hợp dữ liệu, tín hiệu khen thưởng, sự nhấn mạnh vào các lĩnh vực nặng về lý luận - định hình rõ ràng cách văn xuôi của một mô hình tiếp cận người đọc. Nói cách khác, văn bản AI khó đọc là kết quả của thiết kế, không phải là sản phẩm phụ tất yếu của trí thông minh.
Giả thuyết về mật độ thông tin
Tại sao các mô hình lại hướng tới ngôn ngữ khó hơn? Các tác giả đề xuất và kiểm tra một giả thuyết: trong khi ngôn ngữ của con người phát triển và được học dưới áp lực để giao tiếp thành công, thì văn bản do AI tạo ra ngày càng được tối ưu hóa cho các mục tiêu khác — toán học, mã hóa và các nhiệm vụ lý luận — trong đó áp lực hướng tới mật độ thông tin hơn là tính dễ hiểu.
Một mô hình được khen thưởng vì đã đóng gói các câu trả lời đúng vào ít mã thông báo hơn sẽ học các thói quen áp dụng vào văn xuôi: nén ý nghĩa, thích cách diễn đạt chính xác nhưng hiếm, nhúng nhiều cấu trúc hơn cho mỗi câu. Kết quả là văn bản đạt điểm chuẩn cao trong khi dần dần trở nên kém tự nhiên hơn đối với người đọc.
Để kiểm tra ý tưởng này, các nhà nghiên cứu đã tiến hành một thử nghiệm chứng minh khái niệm: họ tinh chỉnh mô hình ngôn ngữ theo một giới hạn về độ dài, buộc nó phải nén đầu ra. Hành vi ngôn ngữ của mô hình khác với các mô hình giống con người theo đúng cách mà giả thuyết dự đoán - hỗ trợ nhân quả cho ý tưởng rằng áp lực tối ưu hóa, chứ không phải chỉ dữ liệu, thúc đẩy sự thay đổi.
Tại sao nó lại quan trọng
Những phát hiện này nêu bật điều mà các tác giả gọi là sự sai lệch giữa nhu cầu xử lý ngôn ngữ của con người và những nhu cầu được các mô hình ngôn ngữ lớn ngầm ưa thích. Sự sai lệch đó có những hậu quả thực tế. Các trợ lý AI tạo ra văn bản khó đọc hơn sẽ đánh thuế ẩn cho mỗi câu trả lời và hiệu ứng sẽ tăng lên khi mọi người dành nhiều thời gian đọc hơn cho các bản nháp, tóm tắt và giải thích do mô hình tạo ra.
Các tác giả lập luận rằng khuôn khổ của họ hướng tới các biện pháp khắc phục khả thi - các cách đào tạo hoặc điều chỉnh các mô hình có đầu ra tôn trọng giới hạn xử lý của con người mà không phải hy sinh khả năng. Bài viết này là một bản in sẵn và chưa trải qua quá trình bình duyệt, nhưng quan sát trọng tâm của nó đã gây được tiếng vang: tác phẩm đã leo lên trang nhất của Hacker News vào ngày 24 tháng 10, gây ra một cuộc tranh luận tích cực về việc liệu sự đánh đổi giữa hiệu suất lý luận và văn xuôi có thể đọc được là cơ bản hay có thể sửa chữa được.
Hiện tại, nghiên cứu này cung cấp cho người đọc vốn từ vựng đã được xác thực về một sự thất vọng quen thuộc. Văn bản không trở nên tệ hơn một cách ngẫu nhiên - nó ngày càng dày đặc hơn do thiết kế.
Nguồn: arXiv:2610.29162, Thảo luận về tin tức về hacker---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
