การเข้าถึงคำแนะนำด้านปัญญาประดิษฐ์ทำให้ผู้คนตอบคำถามแย่ลงอย่างมาก ขณะเดียวกันก็ทำให้พวกเขามั่นใจมากขึ้นในคำตอบที่ผิด ตามการศึกษาใหม่จากนักวิจัยจากมหาวิทยาลัยสามแห่งในยุโรป ผลการวิจัยซึ่งเผยแพร่เมื่อวันที่ 19 กรกฎาคม พ.ศ. 2569 ได้เพิ่มข้อมูลที่คมชัดให้กับหลักฐานที่เพิ่มมากขึ้นว่าเครื่องมือ AI สามารถปราบปรามการตัดสินที่เป็นอิสระแทนที่จะปรับปรุงให้ดีขึ้น
การวิจัยซึ่งตรวจสอบว่าผู้คนตอบสนองอย่างไรเมื่อได้รับความช่วยเหลือจาก AI เกิดขึ้นจากการรายงานข่าว ข่าวด่วน AI ซึ่งติดตามความกังวลที่เพิ่มขึ้นเกี่ยวกับการที่มนุษย์พึ่งพาระบบอัตโนมัติมากเกินไป ผลลัพธ์ที่ได้นั้นน่าทึ่งมาก ผู้คนมีความแม่นยำน้อยลงประมาณสามเท่า แต่มีความมั่นใจเพิ่มขึ้นเกือบสองเท่าเมื่อมี AI พร้อมให้คำปรึกษา
การล่มสลายในความเต็มใจที่จะยอมรับความไม่รู้
การศึกษานี้เขียนโดย Valerio Capraro รองศาสตราจารย์จากมหาวิทยาลัย Milano-Bicocca ร่วมกับ Chiara Marcoccia จาก École Normale Supérieure และ Walter Quattrociocchi จากมหาวิทยาลัย Sapienza แห่งกรุงโรม นักวิจัยจงใจออกแบบการทดลองเพื่อตอบคำถามที่โมเดล AI มักจะล้มเหลว เช่น รายละเอียดภาพจากภาพยนตร์ เช่น สีของเครื่องแบบของทีมใน Bend It Like Beckham
เพื่อให้แน่ใจว่าประสิทธิภาพที่ลดลงใดๆ ไม่สามารถอธิบายได้ว่าเป็นการมอบหมายที่สมเหตุสมผลให้กับเครื่องมือที่เชื่อถือได้ ทีมงานจึงใช้ขั้นตอนที่ 3.5 Flash ซึ่งเป็นแบบจำลองที่มักจะผิดกับคำถามเหล่านี้ การตั้งค่านี้ไม่ได้ทดสอบว่า AI สามารถช่วยได้หรือไม่ แต่เพียงว่าการมีอยู่ของ AI จะบิดเบือนวิจารณญาณของมนุษย์หรือไม่
ผลลัพธ์ที่ได้ไม่คลุมเครือ เมื่อไม่มี AI ผู้เข้าร่วม 44% เต็มใจที่จะพูดว่า "ฉันไม่รู้" เมื่อมีคำแนะนำจาก AI ตัวเลขนั้นก็ลดลงเหลือเพียง 3% ความแม่นยำลดลงจาก 27% เป็น 9% ในขณะที่ความมั่นใจเพิ่มขึ้นจาก 30% เป็น 76%
> ผู้คนเริ่มแย่ลงมาก ความแม่นยำมีเพียงหนึ่งในสาม แต่พวกเขาก็มั่นใจเป็นสองเท่า
คำพูดดังกล่าวจาก Capraro สรุปการค้นพบหลัก: ผู้เข้าร่วมบางคนที่จะตอบถูกด้วยตัวเองปรึกษากับ AI และจบลงด้วยการผิด แต่ก็ยังรู้สึกดีขึ้นกับคำตอบของพวกเขามากกว่าที่เคยเป็นมา
แรงจูงใจทางการเงินแทบจะไม่ช่วยเลย
หวังว่ารางวัลทางการเงินอาจแก้ไขผลกระทบได้ นักวิจัยเสนอสิ่งจูงใจทางการเงินแก่ผู้เข้าร่วมสำหรับคำตอบที่ถูกต้อง การแทรกแซงช่วยได้แต่เพียงเล็กน้อยเท่านั้น ความเต็มใจที่จะยอมรับความไม่รู้เพิ่มขึ้นจาก 3% เป็น 8% และความแม่นยำเพิ่มขึ้นจาก 9% เป็น 16% ซึ่งทั้งสองอย่างยังต่ำกว่าเกณฑ์พื้นฐานที่ไม่มี AI ที่ 44% และ 27% มาก
ความหมายมีนัยสำคัญ แม้ว่าผู้คนจะมีเหตุผลทางการเงินที่เป็นรูปธรรมในการคิดอย่างรอบคอบและป้องกันข้อผิดพลาด แรงโน้มถ่วงของคำตอบ AI ที่มั่นใจก็ยังคงแข็งแกร่งพอที่จะแทนที่วิจารณญาณที่ดีกว่า
ปรากฏการณ์ 'การยอมจำนนทางปัญญา'
การค้นพบนี้สะท้อนถึงงานก่อนหน้านี้ของนักวิจัยที่ Wharton School ซึ่งในปีนี้ได้บัญญัติศัพท์คำว่า "การยอมจำนนทางปัญญา" เพื่ออธิบายรูปแบบเดียวกัน ในการศึกษา ผู้คนยอมรับคำตอบ AI ที่ไม่ถูกต้องประมาณ 80% ของเวลาทั้งหมด ในขณะที่รายงานความมั่นใจที่สูงกว่าผู้ที่ทำงานโดยไม่ได้รับความช่วยเหลือจาก AI
สิ่งที่การศึกษาใหม่ของยุโรปเพิ่มเติมคือกลไกที่แม่นยำยิ่งขึ้น ไม่ใช่แค่ว่าผู้คนเชื่อถือคำตอบ AI ที่ผิดเมื่อเผชิญหน้ากันเท่านั้น ความพร้อมของความคิดเห็นของ AI จะระงับนิสัยการรับรู้ในการรับรู้ถึงขีดจำกัดของความรู้ของตนเอง ซึ่งเป็นความสามารถพื้นฐานในการหยุดชั่วคราวและพูดว่า "ฉันไม่รู้"
สำหรับมนุษย์ ความสามารถในการรับรู้ความไม่แน่นอนถือเป็นรากฐานของการเรียนรู้และการตัดสินใจ คาปราโรกล่าวว่าเขามีความกังวลเป็นพิเศษเกี่ยวกับเด็กๆ ที่เติบโตมาพร้อมกับระบบเหล่านี้ ก่อนที่จะพัฒนาทักษะการคิดอย่างมีวิจารณญาณในระดับผู้ใหญ่
ผลกระทบที่กว้างขึ้นสำหรับการออกแบบผลิตภัณฑ์ AI
การวิจัยเกิดขึ้นท่ามกลางการถกเถียงในวงกว้างเกี่ยวกับวิธีการสร้างและใช้งานเครื่องมือ AI การยกเครื่องผลิตภัณฑ์การค้นหาของ Google แทนที่ลิงก์แบบเดิมด้วยบทสรุปที่สร้างโดย AI ซึ่งพูดด้วยอำนาจที่สอดคล้องกัน และกลุ่มผู้สนับสนุน Common Sense Media ในสัปดาห์นี้เรียกว่าการออกแบบดังกล่าวเป็น "ความเสี่ยงที่ยอมรับไม่ได้" สำหรับนักเรียน
รูปแบบที่นักวิจัยระบุมีความสอดคล้องกันในผลิตภัณฑ์ต่างๆ: ระบบ AI ได้รับการออกแบบมาเพื่อตอบ โดยแทบไม่เคยพูดว่า "ฉันไม่รู้" หลักฐานแสดงให้เห็นว่ามนุษย์ที่ใช้สิ่งเหล่านี้กำลังเรียนรู้ที่จะทำเช่นเดียวกัน
นั่นส่งผลตามมามากกว่าแค่เรื่องเล็กๆ น้อยๆ เกี่ยวกับภาพยนตร์ ในสถานที่ทำงาน โรงพยาบาล และห้องเรียน เครื่องมือที่กัดกร่อนความเต็มใจที่จะแจ้งความไม่แน่นอนอาจทำให้คุณภาพการตัดสินใจลดลงอย่างเงียบๆ แม้ว่าจะรู้สึกว่ามีศักยภาพก็ตาม ในหลายกรณี ความเชื่อมั่นที่มันปลูกฝังนั้นตรงกันข้ามกับสิ่งที่รับประกันความแม่นยำที่ซ่อนอยู่อย่างชัดเจน
อะไรจะเกิดขึ้นต่อไป
นักวิจัยยืนยันว่าข้อค้นพบนี้ควรปรับเปลี่ยนวิธีการออกแบบผู้ช่วย AI หากพฤติกรรมเริ่มต้นของ AI คือการสร้างคำตอบที่มั่นใจโดยไม่คำนึงถึงความน่าเชื่อถือ ภาระในการรับรู้ถึงความไม่แน่นอนก็ตกอยู่กับผู้ใช้ที่ไม่พร้อมจะแบกรับตามข้อมูลตามข้อมูลที่แสดง การสร้างระบบที่สามารถปรับเทียบและสื่อสารความไม่แน่นอนของตัวเองได้ และลังเลแทนที่จะยืนยันเมื่อหลักฐานมีน้อย อาจเป็นสิ่งสำคัญในการรักษาวิจารณญาณของมนุษย์ให้คงอยู่
จนกว่าจะถึงตอนนั้น การศึกษานี้เสนอบทเรียนง่ายๆ หากรู้สึกไม่สบายใจ: AI ที่ฟังดูแน่ใจว่าไม่เหมือนกับ AI ที่ถูกต้อง และสัญชาตญาณของมนุษย์ที่จะเชื่อถือเสียงที่มั่นใจ แม้ว่าจะผิดก็ตาม อาจเป็นพลังที่ทรงพลังที่สุดที่เทคโนโลยียังไม่เคยปล่อยออกมา
ก้าวนำหน้า AI
การเปลี่ยนแปลงที่รวดเร็วของปัญญาประดิษฐ์นั้นไม่หยุดหย่อน และผลกระทบก็ส่งผลกระทบต่อทุกอุตสาหกรรม ติดตาม การพัฒนา AI ล่าสุด เพื่อความครอบคลุมอย่างต่อเนื่องเกี่ยวกับการวิจัย กฎระเบียบ และผลิตภัณฑ์ที่กำหนดรูปแบบใหม่ทั้งวิธีการทำงานและความคิดของเรา
อ่านข่าว AI เพิ่มเติม →
