Theo một nghiên cứu được bình duyệt trình bày tuần này tại Hội nghị về Mô hình Ngôn ngữ (COLM), việc chỉ dành mười phút dựa vào công cụ AI sẽ làm suy giảm đáng kể khả năng tập trung và kiên trì của một người với những nhiệm vụ khó khăn.

Bài báo có tiêu đề "Hỗ trợ AI làm giảm tính bền bỉ và gây tổn hại đến hiệu suất độc lập" được đồng tác giả bởi nhà văn và nhà nghiên cứu Brian Christian, nhà nghiên cứu tại Trung tâm AI tương thích với con người UC Berkeley, cùng với các học giả từ Đại học Carnegie Mellon, Viện Công nghệ Massachusetts, Đại học Oxford và UCLA. Bản thảo trước đó của tác phẩm đã được lưu hành vào mùa xuân, nhưng phiên bản cập nhật được bình duyệt đã được trình bày tại hội nghị tuần này và văn phòng nghiên cứu của UC Berkeley đã xuất bản bản tóm tắt chi tiết vào ngày 9 tháng 10. For more context on this story, see our ongoing breaking AI news.

Những gì các nhà nghiên cứu tìm thấy

Để đo lường mức độ tập trung và tính kiên trì của mọi người suy giảm nhanh như thế nào, nhóm nghiên cứu đã thực hiện một loạt thử nghiệm ngẫu nhiên có đối chứng với 1.222 người tham gia được tuyển chọn trực tuyến.

Trong thí nghiệm đầu tiên, 354 người tham gia được yêu cầu giải 15 bài toán phân số cơ bản. Một nhóm làm việc mà không cần sự trợ giúp, trong khi nhóm thứ hai mở ChatGPT ở một bên và có thể tự do sử dụng nó để được hỗ trợ - hoặc thậm chí yêu cầu câu trả lời ngay lập tức. Nhóm có quyền truy cập AI bắt đầu chính xác hơn. Sau đó, sau 12 lần giải, các nhà nghiên cứu đã thu hồi công cụ này. Gần như ngay lập tức, độ chính xác trong nhóm đó sụp đổ.

Mô hình này lặp lại với nhóm thứ hai, lớn hơn gồm 667 người tham gia. Khi sự hỗ trợ của AI bị rút lại, người dùng AI đã trả lời sai hoặc bỏ cuộc hoàn toàn, trong khi nhóm làm việc không có sự trợ giúp vẫn tiếp tục nhiệm vụ và hoàn thành thành công hơn.

Thí nghiệm thứ ba với 201 người tham gia đã đổi các bài toán lấy lời nhắc đọc hiểu SAT. Kết quả giống với những thử nghiệm trước đó: khi công cụ biến mất, tính kiên trì và độ chính xác cũng biến mất.

Christian nói trong bình luận do UC Berkeley đăng: “Bạn gần như không thể yêu cầu một câu chuyện rõ ràng hơn.

'Tổn thất nhân lực' của những câu trả lời tức thì

Các nhà nghiên cứu cho rằng vấn đề không phải ở bản thân AI mà là ở dạng trợ giúp mặc định của nó. Khi hệ thống đưa ra câu trả lời trong vài giây, người dùng sẽ quen với tốc độ đó và mọi thứ chậm hơn sẽ bắt đầu cảm thấy không hiệu quả. Việc dựa vào công cụ này cũng loại bỏ cái mà nhóm gọi là "đấu tranh hiệu quả" — sự tham gia đầy nỗ lực giúp mọi người khám phá điểm mạnh và sở thích của chính họ.

"Chúng tôi đã xây dựng những hệ thống này để trở nên hữu ích, nhưng liệu chúng có hữu ích theo cách thực sự giúp ích cho chúng tôi không?" Christian nói. "Trớ trêu thay, chúng tôi đã cho thấy rằng họ thường giúp đỡ chúng tôi theo những cách vô ích."

Christian, người có cuốn sách "Vấn đề liên kết" năm 2020 được nhiều người coi là một trong những tác phẩm hàng đầu về an toàn AI có thể tiếp cận được, cho biết phát hiện này cung cấp bằng chứng cho trực giác mà nhiều người nắm giữ. Ông nói: “Đó là một phát hiện đáng kinh ngạc, nhưng theo một cách nào đó, nó cung cấp cơ sở cho một câu chuyện mà rất nhiều người trong chúng ta cảm thấy như đang trong lòng mình”. "Tôi cũng trải nghiệm nó."

Tại sao nó lại quan trọng ngoài phân số

Nghiên cứu được thực hiện trong bối cảnh mối lo ngại ngày càng tăng về việc giảm tải nhận thức trong giáo dục. Theo báo cáo của Berkeley, bản thân các công ty Frontier AI đã thừa nhận rằng việc giảm tải nhiệm vụ cho chatbot có thể làm giảm sự hiểu biết cơ bản của người dùng về một chủ đề. Christian gợi ý một giải pháp khả thi: Phản hồi của AI có thể mặc định mang tính hướng dẫn nhiều hơn - hành xử giống như một gia sư hướng dẫn thay vì một cỗ máy trả lời thay thế.

Ông nói: “Chúng ta cần hướng tới một tương lai trong đó khả năng của con người được tăng cường nhiều nhất có thể thay vì bị thay thế”.

Mối quan tâm của ông mở rộng đến nghiên cứu chuyên môn. Christian lo lắng rằng việc phụ thuộc quá nhiều vào các công cụ AI trong khoa học có thể làm xói mòn chính xác những thói quen tạo nên một nhà khoa học giỏi: theo sát dữ liệu, đắm mình vào tài liệu và làm việc chặt chẽ với một nhóm. Ông lưu ý rằng một nhóm nghiên cứu gồm 10 người tạo ra các ý tưởng đằng sau một bước đột phá có thể giảm xuống còn hai hoặc ba nhà nghiên cứu và một chatbot.

Christian nói: “Đây không phải là câu chuyện về phân số và các bài toán SAT. “Đây là điều đang xảy ra với kiến ​​thức và chuyên môn của con người từ trên xuống dưới, từ học sinh tiểu học cho đến các chuyên gia hàng đầu thế giới.”

Một nghiên cứu đã đi vào dòng chính

Theo UC Berkeley, những phát hiện ban đầu đã thu hút sự chú ý của WIRED và Tâm lý học ngày nay khi bản thảo sơ bộ xuất hiện vào mùa xuân và tờ New York Times đã đăng một câu chuyện về bài báo và nghiên cứu tương tự vào tuần trước. Bài trình bày được bình duyệt tại COLM - một trong những địa điểm chính của lĩnh vực nghiên cứu mô hình ngôn ngữ - giờ đây đã mang lại kết quả chính thức.

Đối với các nhà giáo dục và người sử dụng lao động, thông điệp này tuy khó chịu nhưng cụ thể: ngay cả khi tiếp xúc trong thời gian ngắn với các câu trả lời AI tức thì cũng có thể thay đổi đáng kể cách mọi người cư xử khi không còn câu trả lời nữa. Và đối với các công ty AI, nghiên cứu này làm tăng thêm áp lực đối với việc thiết kế các hệ thống giảng dạy thường xuyên khi họ giải quyết được vấn đề.

Về phần mình, Christian để một cuốn sổ trên bàn và viết vào đó hàng ngày. Ông nói với Berkeley rằng việc luyện tập giúp ông có nền tảng vững chắc - và giữ cho lợi thế học thuật của ông không bị lu mờ.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →