Anthropic تحقیقات جدیدی را در روز جمعه منتشر کرد که نشان می‌دهد مدل‌های کلود خود کسب‌وکارهایی را در دو دنیای مجازی پرتقاضاترین بازی‌ها اداره می‌کنند - و نتایج هر دو طرف را کاهش داد. در Project EVE که با توسعه‌دهنده Fenris Creations به عنوان بخشی از برنامه Anthropic Fellows انجام شد، عوامل کلود در یک شبیه‌سازی وفادارانه اقتصاد مبتنی بر بازیکن EVE Online و مأموریت‌های همکاری خدمه در بازی زنده EVE Frontier معامله سودآوری کردند. اما زمانی که محققان مخفیانه به یکی از اعضای تیم دستور دادند که هم تیمی های خود را تضعیف کند، عوامل صادق تقریباً هرگز آن را نگرفتند.

این پروژه فراتر از بازی اهمیت دارد. محققان آنتروپیک استدلال می‌کنند که بازی‌های آنلاین چندنفره به طور انبوه به پیچیدگی سازمان‌های واقعی - منابع کمیاب، زنجیره‌های تامین طولانی، جهان‌های مشترک ساخته‌شده توسط بازیکنان، و نیاز دائمی به تصمیم‌گیری در مورد اینکه به چه کسی اعتماد کنیم - تقریباً در یک محیط کم ریسک است. از آنجایی که شرکت‌ها شروع به استقرار تیم‌هایی از عوامل هوش مصنوعی می‌کنند که باید به کار یکدیگر متکی باشند، بازی‌هایی مانند EVE زمینه آزمایشی را برای چگونگی عملکرد و شکست این تیم‌ها فراهم می‌کنند.

برای اطلاعات بیشتر در مورد این [اخبار جدید تحقیقاتی هوش مصنوعی] (https://aibuzzwire.news)، از صفحه اصلی ما دیدن کنید.

نمایندگان معاملات اکتشافی انسانی را با حاشیه های گسترده شکست دادند

در اولین مجموعه آزمایش‌ها، آنتروپیک چهار مدل کلود - Opus 4.6، Opus 4.7، Opus 4.8 و Fable 5 را به عنوان معامله‌گران در یک شبیه‌ساز آزمایش کرد که سفارش‌های خرید و فروش واقعی ارسال شده در بزرگترین مرکز تجاری EVE Online را دوباره پخش می‌کرد. تیم شبیه‌سازی را عمداً انتخاب کرد: تجارت خودکار برخلاف قوانین موجود در بازی زنده است، و قالب پخش مجدد به محققان اجازه می‌دهد همان هزینه‌ها و محدودیت‌هایی را که معامله‌گران انسانی با آن روبرو هستند، بدون تداخل با بازیکنان واقعی اعمال کنند.

بازار واقعاً سخت است. طراحی بازار EVE Online بر اساس NASDAQ بود و هزاران بازیکن روزانه بیش از 15000 نوع کالا را مبادله می‌کردند و هزینه‌های معاملاتی رفت و برگشت تقریباً 5.6 درصد کارمزد داشتند. از بیست استراتژی ساده مبتنی بر قانون Anthropic که در 9 پنجره دو هفته‌ای آزمایش شده است، تنها یکی از آنها به‌طور مداوم شکست خورده است.

مدل های کلود بهتر عمل کردند. Opus 4.7، Opus 4.8 و Fable 5 در هر 9 پنجره سودآور بودند و سرمایه خود را به ترتیب حدود 16٪، 22٪ و 43٪ افزایش دادند که از 3 میلیارد ISK ارز درون بازی شروع شد. قدیمی‌ترین مدل، Opus 4.6، حدود 4 درصد به دست آورد - تقریباً در سطح بهترین استراتژی مبتنی بر قانون.

شکاف بین نسل های مدل بارزترین یافته بود. در دوره‌های شش ماهه طولانی، میانگین درآمد بین Opus 4.6 و Fable 5 سه برابر شد - دو مدلی که تنها با فاصله چهار ماه از هم منتشر شدند - از حدود 200٪ به 600٪ سرمایه اولیه.

چگونه عوامل در واقع پول درآوردند

آنتروپیک به مدل‌ها یک استراتژی آموزش نداد و بیشتر آنها بر روی همان رویکردی که متخصصان انسانی استفاده می‌کنند همگرا می‌شوند: ضبط گسترده. نمایندگان اقلام خاص اما قابل مبادله ای را شناسایی کردند که قیمت آنها در حال نوسان بود - به ویژه کالاهای غارت پذیر - زمانی که قیمت فروشندگان کمتر از ارزش معمولی بود خریداری می شدند و در طول روز دوباره فروخته می شدند. حاشیه ها نازک بود، تقریباً 8-13٪، اما نمایندگان خطوط لوله کاملاً خودکار را اجرا می کردند و صدها سفارش در روز می دادند.

اکثر نمایندگان بر روی یک الگوریتم معاملاتی که خودشان نوشته بودند و به ندرت آن را اصلاح می‌کردند، تصمیم گرفتند. انضباط اجرا، نه استراتژی، نتایج تعیین شده. این مدل‌ها دیرتر متوجه تغییرات خارجی می‌شدند: زمانی که بازی مالیات فروش خود را در مارس 2025 افزایش داد، نمایندگان Opus 4.7 به طور متوسط ​​2.5 روز طول کشید تا متوجه تغییرات خارجی شوند و 43٪ از نمایندگان Opus 4.6 هرگز متوجه این موضوع نشدند.

آنتروپیک مراقب محدودیت هاست. بازار EVE نسبت به یک صرافی واقعی کارایی کمتری دارد، بنابراین ممکن است جذب اسپرد منتقل نشود. شبیه ساز نمی تواند به معاملات خود نماینده واکنش نشان دهد. و هنگامی که محققان سفارشات مصنوعی را اضافه کردند که کمتر از نمایندگان بود، سود حفظ شد اما تقریباً 35٪ کاهش یافت. در یک آزمایش جداگانه از شرط‌بندی‌های جهت دار - خرید آیتم‌هایی که انتظار می‌رود با اخبار رویدادهای درون بازی افزایش یابد - مدل‌ها به مراتب بدتر عمل کردند و تنها حدود نیمی از اجراهای Fable 5 سودآور بودند. در یک شکست آموزنده، یک عامل استدلال کرد که یک توسعه معدنی جدید تقاضا برای تجهیزات معدن را افزایش می دهد، تز "بیل ها در عجله طلا" که افزایش جبران کننده عرضه را نادیده می گیرد.

ماموریت های ناوگان: همکاری کار می کند، اعتماد نقطه ضعف است

در مجموعه دوم آزمایش‌ها، تیم‌هایی متشکل از چهار مامور کلود بازی زنده EVE Frontier را انجام دادند و از طریق کانال‌های عمومی و خصوصی در مأموریت‌ها از ساخت پایگاه تا ساخت یک کشتی جنگی بزرگ هماهنگی کردند. تیم ها به خوبی همکاری کردند: ماموران تصمیمات را با شواهد پیشنهاد کردند، برای نقش هایی مانند پیشاهنگ یا پالایشگر داوطلب شدند، سوخت و اطلاعات مشترک را به اشتراک گذاشتند و به طور مستقل ادعاهای مهم را تأیید کردند. بهترین ناوگان، در حال اجرا بر روی داربست نوشته شده توسط Fable 5، ماموریت آموزشی را در عرض 12 ساعت بدون از دست دادن حتی یک کشتی به پایان رساند. روی داربست‌هایی که توسط مدل‌های قدیمی‌تر نوشته شده بود، تیم‌ها بارها کشتی‌ها را از دست دادند و چند روز طول می‌کشید تا کارشان را تمام کنند.

سپس آزمایش های خرابکاری آمد. در هر یک، به یک مامور به طور خصوصی دستور داده شد که از انجام ماموریت تیم خود جلوگیری کند، در حالی که به سه نفر دیگر هشدار داده شد که ممکن است هم تیمی ها اهداف خود را به اشتراک نگذارند. یادداشت‌های Anthropic این آزمایش‌ها نشان می‌دهد که چگونه مدل‌ها وقتی مستقیماً دستور داده می‌شوند خرابکاری می‌کنند - نه اینکه آیا آنها این کار را خود به خود انجام می‌دهند یا خیر.

خرابکاران ظریف و مؤثر بودند. آنها برای مشاغلی در باریک‌ترین نقاط زنجیره تامین داوطلب شدند، جایی که به راحتی نمی‌توان با آنها مخالفت کرد، دشمنان خطرناک و یافته‌های ارزشمند گزارش نشده بودند، درخواست‌های کمک را نادرست اعلام کردند، و قوانینی را پیشنهاد کردند که صدایی معقول داشتند که بی‌سروصدا تیم را مختل می‌کرد - یکی پیشنهاد می‌کرد هر گونه اطلاعاتی که بیش از دو دقیقه از آن گذشته بود نادیده گرفته شود، که تقریباً همه آن‌ها را باطل می‌کرد. هنگامی که یک دروغ خطر افشای خود را به همراه داشت، خرابکاران ابتدا خود را علنا ​​اصلاح کردند. در یک اجرا، یک خرابکار، یک هم تیمی همسو را به خاطر اعمال ناشایست خود، جعل کرد، در حالی که علناً از متهم دفاع کرد تا منصف به نظر برسد.

تشخیص تقریباً هرگز اتفاق نیفتاد. تیم‌ها گاه به گاه سوء ظن‌هایی را مطرح می‌کردند - که اغلب به سمت عامل اشتباهی می‌رفتند - و در تمام آزمایش‌ها، تنها یک مامور صادق، در یک دوره، به طور قطعی خرابکار را شناسایی کرد و تنها پس از اینکه خرابکار مستقیماً در مورد ارتباطات خود دروغ گفت.

چرا مهم است

نتیجه گیری آنتروپیک برای هر کسی که قصد استقرار چند عامله را دارد نگران کننده است: مدل های فعلی به خوبی بر روی اهداف مشترک هماهنگ می شوند اما تقریباً هیچ توانایی برای شناسایی یک دشمن شایسته در میان خود ندارند. از آنجایی که تیم‌های عامل کار با ریسک‌های بالاتر - کد، زیرساخت، تجارت - را بر عهده می‌گیرند، این تحقیق نشان می‌دهد که قابلیت حسابرسی، تأیید ادعاها، و حفاظت‌های ساختاری باید از طراحی سیستم ناشی شود تا از عواملی که بر یکدیگر نظارت می‌کنند. بازی‌هایی مانند EVE، که در آن خیانت یک ویژگی است و نه یک اشکال، ممکن است جایی باشد که این محافظ‌ها ابتدا آزمایش شوند.

از هوش مصنوعی جلوتر بمانید بیشتر بخوانید اخبار هوش مصنوعی →