بر اساس تجزیه و تحلیل مستقلی که روز پنجشنبه توسط گروه ارزیابی غیرانتفاعی METR منتشر شد، Anthropic در حال بهبود قابلیت‌های مدل‌های هوش مصنوعی خود تقریباً دو برابر سریع‌تر از یک سال پیش است و به نظر می‌رسد که بیشتر این افزایش سرعت ناشی از سیستم‌های هوش مصنوعی است که به ساخت جانشینان خود کمک می‌کنند.
این یافته‌ها که توسط آسوشیتدپرس گزارش شده، وزن غیرعادی دارند زیرا بر آنچه METR به عنوان «دسترسی بی‌سابقه» به داده‌های داخلی آنتروپیک توصیف می‌کند، استوار است. محققان گروه مستقر در برکلی کالیفرنیا - که نام کامل آنها ارزیابی مدل و تحقیقات تهدید است - به مدت تقریبا 11 هفته، از اواسط آگوست تا اواخر اکتبر، به داخل شرکت دعوت شدند، جایی که آنها داده های تحقیقات داخلی را تجزیه و تحلیل کردند و با کارکنان مصاحبه کردند.
برای خوانندگانی که بحث ایمنی در اطراف آزمایشگاه‌های مرزی را دنبال می‌کنند، به پوشش [اخبار جدید هوش مصنوعی] (https://aibuzzwire.news) ما مراجعه کنید.
یافته اصلی: پیشرفت در حال مرکب است
تخمین مرکزی METR این است که آنتروپیک در حال بهبود عملکرد مدل‌های خود در کارهای مشخص شده حدود دو برابر سریع‌تر از یک سال قبل است. در این گزارش به صراحت آمده است: «به نظر می‌رسد که Anthropic در سال گذشته به همان اندازه که بین اکتبر 2023 و اکتبر 2025 پیشرفت کرده است، در معیارها پیشرفت کرده است.
نتیجه بیشتر آن چیزی است که METR معتقد است شتاب را هدایت می کند. محققان گفتند که توانستند با اطمینان خاطر رشد قدرت محاسباتی را به عنوان علت رد کنند - معمولاً متغیری که بیشترین ارتباط را با عملکرد مدل دارد. نتیجه گیری آنها: بهبود تا حد زیادی به استفاده از خود هوش مصنوعی برای انجام تحقیقات هوش مصنوعی مربوط می شود.
Anthropic اذعان کرده است که چت ربات Claude به طور فزاینده ای به این شرکت کمک می کند تا نسخه های جدیدتر و پیشرفته تر خود را توسعه دهد. گزارش METR هیچ «گلوگاهی» - مانند محدودیت‌هایی در محاسبات یا داده‌ها - که این فرآیند را متوقف می‌کند پیدا نکرد و اشاره کرد که در حالی که هوش مصنوعی هنوز «سهم بسیار مهم و کاملاً مستقل» را در مهم‌ترین بخش‌های آموزش مدل انجام نمی‌دهد، محققان Anthropic «نشانه‌های حیات» قابل‌توجهی را توصیف کردند که نشان می‌دهد ممکن است به زودی تغییر کند.
یافته‌ها به بحث در اواسط کاهش سرعت منجر شد
این زمان برای شرکتی که مدیر اجرایی آن برای مهار لابی کرده است، ناخوشایند است. در طول دوره ارزیابی METR بود که داریو آمودی، مدیر عامل آنتروپیک، مقاله‌ای را در 12 سپتامبر منتشر کرد که در آن از صنعت هوش مصنوعی می‌خواست «سرعت بهبود قابلیت‌های مدل‌های هوش مصنوعی را کاهش دهد» تا تدابیر ایمنی بتواند به آن برسد.
METR همچنین گزارش ریسک عمومی Anthropic را که در ماه اوت منتشر شد و نسخه خصوصی آن را بررسی کرد و به این نتیجه رسید که سند عمومی "به طور کلی سطح شتابی را که در حال رخ دادن بود کمتر نشان می دهد."
پاسخ Anthropic: توافق جزئی، ویرایش های سنگین
Sam McCandlish، یکی از بنیانگذاران Anthropic و معمار ارشد شرکت، روز پنجشنبه در یک پست طولانی در X به این گزارش پاسخ داد و نوشت که بسیاری از نتیجه گیری های METR با دیدگاه خود او مطابقت دارد.
او نوشت: «هوش مصنوعی تحقیقات ما را سرعت می‌بخشد، اما گفتن دقیق چقدر سخت است.
McCandlish همچنین از تصمیم شرکت برای ویرایش بخش‌های بزرگی از گزارش دفاع کرد که این امر محدود می‌کرد که METR چگونه برآوردهای شتاب خود را به طور دقیق اعلام کند. او گفت که اشتراک‌گذاری «دقیقاً آنچه باعث افزایش سرعت می‌شود کار درستی نیست»، زیرا این اطلاعات هم از نظر تجاری حساس است و هم «خطر ارائه نقشه راه برای دیگران برای سریع‌تر رفتن» - که به گفته او، خطراتی را که METR نگران است بدتر می‌کند. او نوشت: «این یک معامله است.
هشدارهای مهم
این گزارش، طبق توضیحات خود METR، با هشدارهایی همراه بود. این گروه گفت که یافته‌های سرفصل آن می‌تواند مواردی مبالغه‌آمیز باشد: شتاب اندازه‌گیری‌شده ممکن است فقط برای کارهای مشخص‌شده‌ای که می‌توانند به طور خودکار درجه‌بندی شوند، اعمال می‌شود، به جای کارهای پیچیده‌تر و باز که تحقیقات مرزی را تعریف می‌کنند. از طرف دیگر، آنتروپیک ممکن است به سادگی خط پایه قبلی خود را دست کم گرفته باشد، که باعث می شود آخرین پرش بزرگتر از آنچه هست به نظر برسد.
موقعیت METR همچنین به دلایل شفافیت قابل ذکر است: این سازمان غیرانتفاعی از طریق کمک های مالی تامین می شود، برای ارزیابی های خود غرامت نمی پذیرد، و برای سال ها ارزیابی قابلیت ها را برای آزمایشگاه های Anthropic، OpenAI و سایر آزمایشگاه ها انجام داده است - اگرچه شرکت های شریک دسترسی مدل و توکن های مورد نیاز برای اجرای تحقیقات خود را فراهم می کنند.
چرا اکنون مهم است
این تجزیه و تحلیل هفته‌ها قبل از آنتروپیک ارائه می‌شود که انتظار می‌رود بزرگترین عرضه عمومی اولیه در تاریخ باشد، با بحث‌هایی در مورد اینکه آیا مدل‌های هوش مصنوعی توانمندتر ممکن است از کنترل انسان دور باشند یا خیر. طرفداران ایمنی مدت‌هاست که استدلال می‌کنند که راستی‌آزمایی مستقل - نه گزارش‌دهی آزمایشگاهی - تنها معیار قابل اعتماد برای سرعت حرکت مرزها است، به‌ویژه که دولت ترامپ شرکت‌ها را تشویق کرده است تا خودشان را پلیس کنند.
METR یکی از نگرانی‌های نهایی را مطرح کرد: اگر تحقیقات هوش مصنوعی با کمک هوش مصنوعی شروع به ترکیب شدن کند، خود شتاب می‌تواند شتاب بگیرد و خطرات ناشی از مدل‌های پیشرفته با سرعتی که ناظران بیرونی نمی‌توانند به راحتی ردیابی کنند، رشد می‌کنند. گزارش این گروه نشان می‌دهد که حداقل برای یک آزمایشگاه پیشرو، حلقه بازخوردی که زمینه نگران آن است دیگر فرضی نیست - در داده‌های معیار نشان داده می‌شود.
اینکه بقیه صنعت چقدر سریع دنبال می‌شود، سوالی است که تنظیم‌کننده‌ها، سرمایه‌گذاران و مدیران خود شرکت اکنون به دنبال آن هستند.
---
از هوش مصنوعی جلوتر بمانیدآخرین اخبار، تحلیل ها و پیشرفت های هوش مصنوعی را دریافت کنید - همه در یک مکان.
بیشتر بخوانید اخبار هوش مصنوعی →
