هرکسی که با یک عامل هوش مصنوعی در پروژه ای چند روزه کار کرده باشد، دیوار را می شناسد: هر جلسه جدید از ابتدا شروع می شود. در یک پست تحقیقاتی جدید، Anthropic توضیح می دهد که چگونه کلود طراحی شده است تا دانش را در طول جلسات حفظ کند، در حالی که مدل اصلی بدون تغییر باقی می ماند - با نوشتن یادداشت ها در پوشه ای که می تواند بعداً دوباره خوانده شود. یافته شگفتانگیز این است که سختترین بخش حافظه عامل، ذخیرهسازی نیست. انتخاب است.
به گفته آنتروپیک، مشکل اصلی این است که یک نماینده باید در لحظه تصمیم بگیرد که چه چیزی ممکن است بعدا مهم باشد، قبل از اینکه بداند چه اتفاقی می افتد. هر نت شرطی برای آینده است. ذخیره خیلی کم و عامل اشتباهات خود را تکرار می کند. ذخیره بیش از حد و بایگانی کهنه می شود، زمینه را می خورد، و خطاها را به طور نامحدود به جلو منتقل می کند.
تست پوکمون: 413 فایل، یک نشان
برای نشان دادن حالت شکست، آنتروپیک به آزمایشهایی اشاره کرد که در Pokémon Red انجام میشوند. Claude Sonnet 3.7، یک مدل قدیمی تر، همه چیز را بالقوه مهم می دانست. در تقریباً 10000 مرحله بازی، 413 فایل پخش شده در 225 پوشه ایجاد کرد - اغلب یک فایل جداگانه برای هر نبرد و موردی که با آن مواجه میشود. از آنجایی که وضعیت بازی مدام در حال تغییر بود، آرشیو تقریباً به همان سرعتی که نوشته شده بود بیات شد. در برخی مواقع، این مدل به جای نواختن، کاری جز سازماندهی مجدد نتهای خود انجام نمیدهد و با یک نشان به پایان میرساند.
Claude Fable 5 جدیدتر رویکرد مخالف را در پیش گرفت: حافظه خود را به تعداد انگشت شماری فایل محدود کرد و چهار نشان کسب کرد. Fable 5 اطلاعاتی را که قبلاً روی صفحه نمایش قابل مشاهده بود ضبط نکرد و در عوض برنامه ها، استراتژی ها و قوانینی را که آزمایش کرده بود یادداشت کرد. Anthropic هشدار می دهد که این مقایسه تنها یک بازی را در هر مدل پوشش می دهد، بنابراین نتیجه به جای قطعی نشان دهنده است - اما جهت با توصیه های گسترده تر شرکت سازگار است.
این توصیه این است که هدف از حافظه را برای کلود توضیح دهید و اجازه دهید مدل تصمیم بگیرد که چگونه از آن استفاده کند. در یک معیار، دستورالعمل های سفت و سخت مانند "فقط اشتباهات ثبت" بیشتر مزیت های مدل های قوی تر را از بین برد. در مقابل، مدلهای قدیمیتر از دستورالعملهای واضحی بهره میبردند، مانند اینکه به آنها گفته میشد قبل از هر پاسخی یادداشتهای خود را بخوانند.
رویا: حسابرسی حافظه پس از واقعیت
خطر بزرگتر در نمایندگی های طولانی مدت فراموش نکردن است - اعتماد به یادداشت های معیوب است. پاسخ Anthropic فرآیندی است که آن را Dreaming می نامد، ایده ای که بر اساس تحقیقات Letta و UC Berkeley است. همانطور که مغز انسان تجربیات خود را در طول خواب تثبیت میکند، کلود متن جلسات قبلی را در طول استراحت مرور میکند و یادداشتهای خود را با آنچه واقعاً اتفاق افتاده بررسی میکند.
در تست پوکمون، کلود به اشتباه متوجه شده بود که نقطه عطفی در کدام سمت کوه قرار دارد. عامل با تکیه بر آن یادداشت معیوب، سه بار در همان دام افتاد، در نهایت خواست تسلیم شود و هدفش را از دست داد. پس از یک پاس رویایی، کلود با بررسی یادداشت در برابر رونوشت خطا را گرفت و مسیر درست را پیدا کرد.
رویاپردازی همچنین می تواند پایگاه های دانش بسیار بزرگ تری را سازماندهی کند. کلود یک ویکی پیوندی از حدود 350000 سند داخلی از Stainless، یک شرکت نرمافزاری که Anthropic خریداری کرده بود، با Dreaming ایجاد صفحات جدید در حالی که شکافها، تکراریها و لینکهای شکسته را برطرف میکرد. بیشترین بازده زمانی بود که کلود میتوانست ویکی را با جستجو ترکیب کند، بنابراین حافظه انتخابشده بهجای جایگزینی برای آن، مکملی برای بازیابی بود.
وقتی یک ویکی جستجو را شکست می دهد
در یک آزمون حقوقی جداگانه که توسط آنتروپیک انجام شد، یک ویکی سرپرستی بیشترین کمک را به سوالاتی کرد که پاسخهای آنها در چندین سند پخش شده بود. کلود با ویکی 87 درصد در مقایسه با 73 درصد با استفاده از جستجو به تنهایی امتیاز کسب کرد. برای کارهای جستجوی ساده، ویکی تقریباً همتراز با جستجو بود - و در یک مورد حتی از اسناد منبعی که خلاصه میکرد بزرگتر شد.
آنتروپیک در مورد مشکلات باز صریح است. یادداشت برداری در میانه کار، عامل را از کار خود منحرف می کند. رویاپردازی هزینه بیشتری برای محاسبه دارد و نتایج آن تنها پس از تأخیر به دست میآید. ویکیها و یادداشتها نیز نیاز به نگهداری منظم دارند، یا خطاها و توهمها روی هم جمع میشوند. و این شرکت نسبت به بارگذاری خودکار خاطرات بیش از حد در هر جلسه هشدار می دهد، زیرا آنها زمینه را می خورند و هر یادداشت بدی را به هر جلسه آینده منتقل می کنند.
از پیش نمایش تحقیق تا محصول
Dreaming به خودی خود چیز جدیدی نیست: Anthropic آن را در ماه می به عنوان پیش نمایش تحقیقاتی برای Claude Managed Agents، پلتفرم ابری شرکت برای عوامل هوش مصنوعی معرفی کرد. این سرویس یک حافظه موجود و حداکثر 100 جلسه گذشته را می خواند، ورودی های تکراری و قدیمی را حذف می کند و یک فروشگاه سازماندهی مجدد ایجاد می کند در حالی که نسخه اصلی دست نخورده باقی می ماند. در زمان راه اندازی از Claude Opus 4.7 و Sonnet 4.6 پشتیبانی می کرد. OpenAI از آن زمان این نام تجاری را برای بازنگری حافظه خود در ChatGPT در ماه ژوئن قرض گرفته است که آن را "Dreaming" نیز می نامد - یک سیستم پس زمینه که نمایه کاربر را حفظ می کند و به طور خودکار اطلاعات قدیمی را تصحیح می کند.
برداشت کلی از تحقیقات Anthropic این است که یک حافظه عامل مفید کمتر به ذخیره سازی تا حد امکان بستگی دارد تا به حفظ اطلاعات صحیح و تصحیح اشتباهات بعدا. از آنجایی که آزمایشگاهها برای ساخت عواملی که میتوانند بهجای دقیقهها، روزها و هفتهها به طور قابل اعتماد کار کنند، رقابت میکنند، مدیریت حافظه بیسر و صدا در حال تبدیل شدن به یک مرز رقابتی برای خودش است. میتوانید آخرین پیشرفتهای هوش مصنوعی در تحقیقات عامل را در [AI Buzz Wire] (https://aibuzzwire.news) دنبال کنید.
از هوش مصنوعی جلوتر بمانید
تحقیقات مامور به سرعت در حال پیشرفت است و حافظه میدان نبرد بعدی است. در [AI Buzz Wire] (https://aibuzzwire.news)، هر بهروزرسانی، بهعلاوه آخرین پیشرفتهای هوش مصنوعی را از هر آزمایشگاه بزرگ دریافت کنید.
اخبار هوش مصنوعی را بیشتر بخوانید →