ผลการศึกษาที่ได้รับการทบทวนโดยผู้ทรงคุณวุฒิที่นำเสนอในสัปดาห์นี้ในการประชุม Conference on Language Modeling (COLM) การใช้เวลาเพียงสิบนาทีในการพึ่งพาเครื่องมือ AI จะบั่นทอนความสามารถของบุคคลในการมุ่งความสนใจและยืนหยัดกับงานยากๆ ลงอย่างมาก

บทความเรื่อง "AI Assistance ลดความคงทนและความเจ็บปวดจากการปฏิบัติงานอิสระ" ร่วมเขียนโดยนักเขียนและนักวิจัย Brian Christian นักวิจัยจาก UC Berkeley Center for Human-Compatible AI ร่วมกับนักวิชาการจากมหาวิทยาลัย Carnegie Mellon, สถาบันเทคโนโลยีแมสซาชูเซตส์, มหาวิทยาลัยออกซ์ฟอร์ด และ UCLA ร่างก่อนหน้านี้ของงานเผยแพร่ในฤดูใบไม้ผลิ แต่มีการนำเสนอเวอร์ชันที่ได้รับการตรวจสอบโดยผู้ทรงคุณวุฒิในการประชุมในสัปดาห์นี้ และสำนักงานวิจัยของ UC Berkeley ได้ตีพิมพ์บทสรุปโดยละเอียดเมื่อวันที่ 9 ตุลาคม For more context on this story, see our ongoing AI industry coverage.

สิ่งที่นักวิจัยพบ

เพื่อวัดว่าการมุ่งเน้นและความพากเพียรของผู้คนลดลงอย่างรวดเร็วเพียงใด ทีมงานได้ทำการทดลองแบบสุ่มและมีกลุ่มควบคุม โดยมีผู้เข้าร่วม 1,222 คนทางออนไลน์

ในการทดลองแรก ให้ผู้เข้าร่วม 354 คนแก้โจทย์เศษส่วนพื้นฐาน 15 ข้อ กลุ่มหนึ่งทำงานโดยไม่ได้รับความช่วยเหลือ ในขณะที่กลุ่มที่สองเปิด ChatGPT ไว้ด้านข้างและมีอิสระที่จะใช้เพื่อขอความช่วยเหลือ หรือแม้แต่ถามคำตอบทันที กลุ่มที่มีสิทธิ์เข้าถึง AI เริ่มมีความแม่นยำมากขึ้น จากนั้นหลังจากเกิดปัญหา 12 ข้อ นักวิจัยก็นำเครื่องมือนี้ออกไป เกือบจะในทันที ความแม่นยำในกลุ่มนั้นก็พังทลายลง

รูปแบบดังกล่าวเกิดขึ้นซ้ำกับกลุ่มที่สองซึ่งมีผู้เข้าร่วมมากกว่า 667 คน เมื่อถอนความช่วยเหลือจาก AI ผู้ใช้ AI จะได้รับคำตอบที่ผิดหรือยอมแพ้โดยสิ้นเชิง ในขณะที่กลุ่มที่ทำงานโดยลำพังติดอยู่กับงานและเสร็จสิ้นได้สำเร็จมากขึ้น

การทดลองครั้งที่สามที่มีผู้เข้าร่วม 201 คน สลับปัญหาทางคณิตศาสตร์เป็นการอ่านเพื่อความเข้าใจในการอ่าน SAT ผลลัพธ์สะท้อนการทดลองก่อนหน้านี้: เมื่อเครื่องมือหายไป ความเพียรและความแม่นยำก็หายไปเช่นกัน

“คุณแทบจะไม่สามารถขอเรื่องราวที่ชัดเจนกว่านี้ได้” Christian กล่าวในความคิดเห็นที่เผยแพร่โดย UC Berkeley

'ต้นทุนมนุษย์' ของคำตอบทันใจ

นักวิจัยยืนยันว่าปัญหาไม่ใช่ AI แต่เป็นความช่วยเหลือเริ่มต้น เมื่อระบบสร้างคำตอบในไม่กี่วินาที ผู้ใช้จะคุ้นเคยกับความเร็วนั้นมากขึ้น และอะไรที่ช้ากว่านั้นก็เริ่มรู้สึกว่าไม่มีประสิทธิภาพ การใช้เครื่องมือนี้ยังช่วยขจัดสิ่งที่ทีมเรียกว่า "การต่อสู้ดิ้นรนที่มีประสิทธิผล" ซึ่งก็คือการมีส่วนร่วมอย่างพยายามที่ช่วยให้ผู้คนค้นพบจุดแข็งและความสนใจของตนเอง

"เราสร้างระบบเหล่านี้ขึ้นมาเพื่อเป็นประโยชน์ แต่ระบบเหล่านี้มีประโยชน์กับเราในลักษณะที่ช่วยเราจริงๆ หรือไม่" คริสเตียนกล่าวว่า “เราแสดงออกมาอย่างแดกดันว่าพวกเขามักจะช่วยเหลือเราในรูปแบบที่ไม่ช่วยเหลือเลย”

Christian ซึ่งหนังสือ "The Alignment Problem" ประจำปี 2020 ได้รับการยกย่องอย่างกว้างขวางว่าเป็นหนึ่งในผลงานชั้นนำที่เข้าถึงได้เกี่ยวกับความปลอดภัยของ AI กล่าวว่าการค้นพบนี้เป็นหลักฐานที่แสดงถึงสัญชาตญาณที่หลายคนยึดถือ “มันเป็นการค้นพบที่น่าทึ่ง แต่ในทางที่มันให้กระสุนสำหรับเรื่องราวที่พวกเราหลายคนรู้สึกได้ถึงสัญชาตญาณของเรา” เขากล่าว "ฉันก็ประสบเช่นกัน"

เหตุใดจึงมีความสำคัญมากกว่าเศษส่วน

การศึกษานี้เกิดขึ้นท่ามกลางความกังวลที่เพิ่มขึ้นเกี่ยวกับการขาดแคลนความรู้ความเข้าใจในการศึกษา บริษัท Frontier AI เองก็ยอมรับว่าการถ่ายโอนงานไปยังแชทบอทสามารถลดความเข้าใจพื้นฐานของผู้ใช้ในเรื่องใดเรื่องหนึ่ง ตามรายงานของ Berkeley Christian เสนอแนวทางแก้ไขที่เป็นไปได้: การตอบสนองของ AI อาจเริ่มต้นด้วยการให้คำแนะนำมากกว่า โดยทำตัวเหมือนครูสอนพิเศษที่คอยชี้แนะแทนที่จะเป็นเครื่องตอบรับอัตโนมัติที่มาแทนที่

“เราจำเป็นต้องทำงานไปสู่อนาคตที่ความสามารถของมนุษย์จะเพิ่มพูนให้มากที่สุดเท่าที่จะเป็นไปได้ แทนที่จะถูกแทนที่” เขากล่าว

ความกังวลของเขาขยายไปถึงการวิจัยระดับมืออาชีพ คริสเตียนกังวลว่าการพึ่งพาเครื่องมือ AI ในด้านวิทยาศาสตร์มากเกินไปอาจกัดกร่อนนิสัยการสร้างนักวิทยาศาสตร์ที่ดีได้อย่างแน่นอน เช่น การอยู่ใกล้ชิดกับข้อมูล การดื่มด่ำกับเนื้อหา และการทำงานอย่างใกล้ชิดกับทีม เขาตั้งข้อสังเกตว่ากลุ่มวิจัยจำนวน 10 คนที่สร้างแนวคิดเบื้องหลังความก้าวหน้าอาจเหลือนักวิจัยสองหรือสามคนและแชทบอทหนึ่งตัว

“นี่ไม่ใช่เรื่องราวเกี่ยวกับเศษส่วนและปัญหา SAT” คริสเตียนกล่าว "นี่คือสิ่งที่เกิดขึ้นกับความรู้ของมนุษย์และความเชี่ยวชาญของมนุษย์ตั้งแต่บนลงล่าง และจากนักเรียนชั้นประถมศึกษาไปจนถึงผู้เชี่ยวชาญชั้นนำของโลก"

การศึกษาที่เข้าสู่กระแสหลัก

การค้นพบในช่วงแรกได้รับความคุ้มครองจาก WIRED และ Psychology Today เมื่อร่างเบื้องต้นปรากฏในฤดูใบไม้ผลิ และ The New York Times ได้ตีพิมพ์เรื่องราวเกี่ยวกับงานวิจัยและงานวิจัยที่คล้ายกันเมื่อสัปดาห์ที่แล้ว ตามรายงานของ UC Berkeley การนำเสนอที่ผ่านการตรวจสอบโดยผู้ทรงคุณวุฒิที่ COLM ซึ่งเป็นหนึ่งในสถานที่หลักของสาขาสำหรับการวิจัยการสร้างแบบจำลองภาษา ได้ให้ผลลัพธ์ที่เป็นที่ยอมรับอย่างเป็นทางการแล้ว

สำหรับนักการศึกษาและนายจ้าง ข้อความนี้ดูอึดอัดแต่เป็นรูปธรรม: แม้แต่การได้รับคำตอบจาก AI ทันทีเพียงสั้นๆ ก็สามารถเปลี่ยนแปลงพฤติกรรมของผู้คนได้อย่างวัดผลเมื่อไม่มีคำตอบอีกต่อไป และสำหรับบริษัท AI การศึกษานี้เพิ่มแรงกดดันให้กับการออกแบบระบบที่จะสอนได้บ่อยเท่าที่พวกเขาแก้ไขได้

คริสเตียนเก็บสมุดบันทึกไว้บนโต๊ะและเขียนทุกวัน เขาบอกกับ Berkeley ว่าการฝึกฝนนี้ทำให้เขายึดมั่นถือมั่น — และรักษาความได้เปรียบทางวิชาการของเขาเองไม่ให้น่าเบื่อ

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →