ใครก็ตามที่เคยทำงานร่วมกับตัวแทน AI ในโปรเจ็กต์ที่กินเวลาหลายวันจะรู้จักกำแพงนี้ดี: ทุกเซสชันใหม่จะเริ่มต้นจากศูนย์ ในโพสต์การวิจัยใหม่ Anthropic อธิบายว่า Claude ได้รับการออกแบบอย่างไรให้คงความรู้ตลอดเซสชันในขณะที่โมเดลพื้นฐานยังคงไม่เปลี่ยนแปลง โดยการเขียนบันทึกลงในโฟลเดอร์ที่สามารถอ่านกลับได้ในภายหลัง การค้นพบที่น่าประหลาดใจคือส่วนที่ยากที่สุดของหน่วยความจำเอเจนต์ไม่ใช่พื้นที่จัดเก็บข้อมูล มันคือการเลือกสรร

ปัญหาหลักตาม Anthropic ก็คือเจ้าหน้าที่จะต้องตัดสินใจทันทีว่าอะไรจะเกิดขึ้นในภายหลัง ก่อนที่จะรู้ว่าอะไรจะเกิดขึ้นต่อไป ทุกโน้ตคือเดิมพันในอนาคต เก็บน้อยเกินไปและตัวแทนทำผิดพลาดซ้ำ จัดเก็บมากเกินไปและไฟล์เก็บถาวรล้าสมัย กินบริบท และส่งต่อข้อผิดพลาดอย่างไม่มีกำหนด

การทดสอบโปเกมอน: 413 ไฟล์ หนึ่งตรา

เพื่อแสดงให้เห็นถึงโหมดความล้มเหลว Anthropic ชี้ไปที่การทดสอบที่ทำงานภายใน Pokémon Red Claude Sonnet 3.7 ซึ่งเป็นรุ่นเก่าถือว่าทุกสิ่งอาจมีความสำคัญ ในขั้นตอนของเกมประมาณ 10,000 ขั้นตอน มันสร้างไฟล์ 413 ไฟล์ที่กระจายอยู่ใน 225 โฟลเดอร์ ซึ่งมักจะเป็นไฟล์แยกต่างหากสำหรับทุกการต่อสู้และไอเท็มที่มันพบ เนื่องจากสถานะของเกมเปลี่ยนแปลงตลอดเวลา ไฟล์เก็บถาวรจึงเก่าเกือบเร็วเท่ากับที่เขียนไว้ ในบางครั้ง โมเดลไม่ได้ทำอะไรเลยนอกจากจัดระเบียบโน้ตใหม่แทนที่จะเล่น และจบการวิ่งด้วยป้ายสถานะเพียงอันเดียว

Claude Fable 5 ที่ใหม่กว่าใช้แนวทางตรงกันข้าม โดยจำกัดหน่วยความจำให้เหลือเพียงไม่กี่ไฟล์และได้รับตราสี่เหรียญ นิทาน 5 ไม่ได้บันทึกข้อมูลที่มองเห็นได้บนหน้าจอแล้ว แต่กลับเขียนแผนการ กลยุทธ์ และกฎเกณฑ์ที่ได้ทดสอบไปแล้ว Anthropic เตือนว่าการเปรียบเทียบครอบคลุมเฉพาะการเล่นเพียงครั้งเดียวต่อโมเดล ดังนั้นผลลัพธ์จึงเป็นตัวบ่งชี้มากกว่าที่จะสรุปผล แต่ทิศทางนั้นสอดคล้องกับคำแนะนำที่กว้างขึ้นของบริษัท

คำแนะนำนั้นคือการอธิบายวัตถุประสงค์ของหน่วยความจำให้ Claude ฟัง และปล่อยให้โมเดลตัดสินใจว่าจะใช้มันอย่างไร ในเกณฑ์มาตรฐานหนึ่ง คำแนะนำที่เข้มงวด เช่น "บันทึกเฉพาะข้อผิดพลาด" ได้ขจัดข้อดีส่วนใหญ่ของรุ่นที่แข็งแกร่งกว่าออกไป ในทางตรงกันข้าม โมเดลรุ่นเก่าจะได้รับประโยชน์จากคำแนะนำที่ชัดเจน เช่น การบอกให้อ่านบันทึกจริงๆ ก่อนตอบทุกครั้ง

ความฝัน: การตรวจสอบความทรงจำหลังความจริง

ความเสี่ยงที่ใหญ่กว่าในตัวแทนที่ทำงานมายาวนานคือการไม่ลืม — คือการเชื่อถือบันทึกที่ผิดพลาด คำตอบของ Anthropic คือกระบวนการที่เรียกว่า Dreaming ซึ่งเป็นแนวคิดที่สร้างจากการวิจัยของ Letta และ UC Berkeley แม้ว่าสมองของมนุษย์จะรวบรวมประสบการณ์ระหว่างการนอนหลับ แต่ Claude ก็ท่องบันทึกเซสชันก่อนหน้านี้ในช่วงพัก และตรวจสอบบันทึกเทียบกับสิ่งที่เกิดขึ้นจริง

ในการทดสอบโปเกมอน โคลดสังเกตอย่างไม่ถูกต้องว่าจุดสังเกตอยู่ด้านใดของภูเขา ด้วยอาศัยบันทึกที่ผิดพลาดนั้น เจ้าหน้าที่จึงตกหลุมพรางเดิมสามครั้ง ในที่สุดก็อยากจะยอมแพ้ และพลาดเป้าหมาย หลังจากผ่าน Dreaming แล้ว โคลดพบข้อผิดพลาดโดยการตรวจสอบบันทึกเทียบกับข้อความถอดเสียงและพบเส้นทางที่ถูกต้อง

การฝันยังสามารถจัดระเบียบฐานความรู้ที่ใหญ่ขึ้นได้ Claude สร้างวิกิที่เชื่อมโยงจากเอกสารภายในประมาณ 350,000 ฉบับจาก Stainless ซึ่งเป็นบริษัทซอฟต์แวร์ที่ Anthropic เข้าซื้อกิจการ โดย Dreaming สร้างหน้าใหม่พร้อมกับแก้ไขช่องว่าง ข้อมูลซ้ำ และลิงก์ที่เสียหาย ผลตอบแทนที่ได้จะยิ่งใหญ่ที่สุดเมื่อ Claude สามารถรวมวิกิเข้ากับการค้นหาได้ ดังนั้นหน่วยความจำที่ได้รับการดูแลจึงทำงานเป็นส่วนเสริมในการเรียกค้นมากกว่าที่จะมาแทนที่

เมื่อ Wiki เอาชนะการค้นหา

ในการทดสอบทางกฎหมายแยกต่างหากที่ดำเนินการโดย Anthropic วิกิที่ได้รับการดูแลจัดการช่วยได้มากที่สุดสำหรับคำถามที่มีคำตอบกระจายอยู่ในเอกสารหลายฉบับ Claude ได้คะแนน 87 เปอร์เซ็นต์จากวิกิ เทียบกับ 73 เปอร์เซ็นต์โดยใช้การค้นหาเพียงอย่างเดียว สำหรับงานค้นหาแบบง่าย วิกิดำเนินการพอๆ กับการค้นหา และในกรณีหนึ่ง วิกิก็ขยายใหญ่กว่าเอกสารต้นฉบับที่สรุปไว้ด้วยซ้ำ

มานุษยวิทยาเปิดเผยอย่างตรงไปตรงมาเกี่ยวกับปัญหาที่เปิดกว้าง การจดบันทึกระหว่างงานจะทำให้เจ้าหน้าที่เสียสมาธิในการทำงาน การฝันต้องอาศัยการประมวลผลเพิ่มเติม และผลลัพธ์จะเกิดขึ้นหลังจากความล่าช้าเท่านั้น วิกิและบันทึกย่อยังต้องการการบำรุงรักษาเป็นประจำ ไม่เช่นนั้นข้อผิดพลาดและภาพหลอนจะกองพะเนินเทินทึก และบริษัทเตือนไม่ให้โหลดความทรงจำมากเกินไปโดยอัตโนมัติในทุกเซสชั่น เพราะมันกินบริบทและส่งต่อบันทึกที่ไม่ดีไปยังทุกเซสชั่นในอนาคต

จากตัวอย่างการวิจัยไปจนถึงผลิตภัณฑ์

การฝันไม่ใช่เรื่องใหม่: Anthropic เปิดตัวในเดือนพฤษภาคมเพื่อเป็นการแสดงตัวอย่างการวิจัยสำหรับ Claude Managed Agents ซึ่งเป็นแพลตฟอร์มคลาวด์ของบริษัทสำหรับตัวแทน AI บริการจะอ่านที่เก็บหน่วยความจำที่มีอยู่และเซสชันที่ผ่านมาสูงสุด 100 รายการ ลบรายการที่ซ้ำกันและล้าสมัย และสร้างร้านค้าที่จัดระเบียบใหม่โดยยังคงรักษาต้นฉบับไว้โดยไม่มีใครแตะต้อง เมื่อเปิดตัว รองรับ Claude Opus 4.7 และ Sonnet 4.6 ตั้งแต่นั้นเป็นต้นมา OpenAI ได้ยืมแบรนด์สำหรับการยกเครื่องหน่วยความจำ ChatGPT ของตัวเองในเดือนมิถุนายน ซึ่งเรียกอีกอย่างว่า "Dreaming" ซึ่งเป็นระบบพื้นหลังที่รักษาโปรไฟล์ผู้ใช้และแก้ไขข้อมูลที่ล้าสมัยโดยอัตโนมัติ

ข้อสรุปโดยรวมจากการวิจัยของ Anthropic ก็คือ หน่วยความจำของตัวแทนที่มีประโยชน์จะขึ้นอยู่กับการจัดเก็บให้มากที่สุดเท่าที่จะเป็นไปได้น้อยกว่าการเก็บข้อมูลที่ถูกต้องและแก้ไขข้อผิดพลาดในภายหลัง ในขณะที่แล็บเร่งสร้างตัวแทนที่สามารถทำงานได้อย่างน่าเชื่อถือเป็นเวลาหลายวันและหลายสัปดาห์ แทนที่จะเป็นนาที การจัดการหน่วยความจำก็กลายเป็นขอบเขตการแข่งขันอย่างเงียบๆ ติดตามการพัฒนา AI ล่าสุดในการวิจัยตัวแทนได้ที่ AI Buzz Wire

ก้าวนำหน้า AI

การวิจัยตัวแทนกำลังก้าวหน้าอย่างรวดเร็ว และความทรงจำคือสนามรบต่อไป รับทุกการอัปเดต รวมถึงการพัฒนา AI ล่าสุดจากห้องปฏิบัติการหลักทุกแห่งที่ AI Buzz Wire

อ่านข่าว AI เพิ่มเติม →