تصدرت عملية الاكتتاب العام الأولي المعدلة لشركة Anthropic عناوين الأخبار يوم الاثنين لبياناتها المالية - ما يقرب من 17 مليار دولار من إيرادات الربع الثالث مقابل 895.4 مليار دولار من التزامات الحوسبة. لكن عوامل الخطر الكامنة في نظام S-1A المنقح هي الكشف الذي قد يكون أكثر أهمية: تقول الشركة إنها ربما تكون على وشك تجاوز عتبة التحسين الذاتي العودي، وهي النقطة التي تصبح عندها أنظمة الذكاء الاصطناعي قادرة على تسريع تطورها.
أفاد موقع TechCrunch أن الملف يبدو أنه يحذر من أن Anthropic على وشك إنشاء نموذج قادر على التحسين الذاتي المتكرر، والمعروف باسم RSI - وهي المرحلة التي يصبح فيها الذكاء الاصطناعي جيدًا جدًا في تحسين الذكاء الاصطناعي بحيث تبدأ مكاسب القدرات في التراكم بشكل كبير. لمزيد من السياق حول هذه القصة، راجع أحدث تطورات الذكاء الاصطناعي.
ما يقوله الملف في الواقع
تستخدم شركة Anthropic بالفعل الذكاء الاصطناعي لتسريع عمليات البحث والتطوير الخاصة بها. في الملف المعدل، تحذر الشركة من أن هذه الممارسة تقطع كلا الاتجاهين: "إن استخدام الذكاء الاصطناعي للمساعدة في بناء ذكاء اصطناعي أكثر قدرة يمكن أن يشكل أيضًا خطرًا كبيرًا على السلامة، لا سيما إذا أدى إلى تسريع وتيرة التقدم بشكل حاد. وهذا أحد المجالات التي تغطيها سياسة التوسع المسؤول لدينا، والتي تحدد خططنا لرصد المخاطر والتخفيف منها بينما نقترب مما يسمى "التحسين الذاتي العودي".
تذهب لغة عامل الخطر الجديدة إلى أبعد مما ذكرته شركة Anthropic سابقًا في ملفاتها العامة. تكشف الشركة أنها فشلت في الماضي في التعرف على القفزات الكبيرة في القدرات عند حدوثها: "لم نحدد في الماضي، وقد لا نحدد في المستقبل، تسارعًا كبيرًا في معدل التطوير لدينا إلا بعد حدوثه."
ثم يأتي البيان الذي يلفت انتباه الصناعة. وفقًا للملف: "تشير تقديراتنا الداخلية وتوقعاتنا فيما يتعلق بالنماذج المستقبلية، بدلاً من نماذجنا الحالية، إلى أننا قد نحقق قريبًا تعريف سياسة التوسع المسؤول الخاصة بنا وهو "التقدم المتسارع بشكل كبير المنسوب إلى الذكاء الاصطناعي".
تضيف Anthropic أنها "لم تحدد أيًا من نماذجنا الحالية على أنها تتجاوز هذه العتبة" وتستمر في تقييم البيانات الأساسية. بمعنى آخر: لا يوجد نموذج حالي لكلود مؤهل، لكن التوقعات الداخلية للشركة تشير إلى أن الجيل القادم قد يكون مؤهلاً لذلك.
إبقاء البشر في الحلقة
إلى جانب التحذير، تلتزم شركة Anthropic بإبقاء الأشخاص متحكمين في تطوير النموذج. "لا نتوقع أن نكون قادرين على استخدام كلود بأمان لتصميم وبناء أجيال متتالية من النماذج الحدودية بشكل مستقل تمامًا دون إشراف أو فهم بشري ذي معنى، إذا وعندما يصبح ذلك ممكنًا من الناحية الفنية،" كما جاء في التسجيل. "وبناءً على ذلك، فإننا ندرس تحديثات سياسة التوسع المسؤول لدينا لإبقاء البشر متحكمين في تطوير النماذج الحدودية في Anthropic."
يتزايد حجم دور الذكاء الاصطناعي في الأبحاث التي تجريها أنثروبك بسرعة. أفاد Business Insider أن الذكاء الاصطناعي يقود الآن ما يقرب من ربع أعمال البحث والتطوير الداخلية لشركة Anthropic، ارتفاعًا من 1 بالمائة في مارس - وهو رسم بياني وصفه المطلعون على الصناعة بأنه أحد أهم الرسوم البيانية في الذكاء الاصطناعي.
تحول في الخطاب: من الكلمات الطنانة إلى الميزانية العمومية
عندما أصبح مصطلح مؤشر القوة النسبية شائعا في وقت سابق من هذا العام، رفضه الكثيرون في الصناعة باعتباره كلمة طنانة - أو، في أحسن الأحوال، هدف غير محدد بشكل جيد للغاية بحيث لا يمكن تحقيقه أو إثباته أو تنظيمه. من الصعب الحفاظ على هذه الشكوك الآن بعد أن ظهر هذا المفهوم، مع تعريف داخلي دقيق، في وثيقة يتعين على الشركة قانونا تقديمها إلى لجنة الأوراق المالية والبورصات قبل بيع الأسهم للجمهور.
كما أن الأنثروبيك ليست الوحيدة التي تتعامل مع التحسين الذاتي باعتباره افتراضًا للتخطيط على المدى القريب. وصف سيرجي برين، أحد مؤسسي جوجل، الصناعة بأنها تتسابق نحو "جهاز المشي RSI" الذي تساعد فيه النماذج في بناء خلفائها، وقال جون شولمان، المؤسس المشارك السابق لشركة OpenAI، إنه يتوقع تحسينًا ذاتيًا متكررًا في غضون ثلاث إلى أربع سنوات تقريبًا. ما يميز إفصاح Anthropic هو شكليته: حد محدد، وعملية قياس داخلية، وبيان عام بالوقت الذي تتوقع فيه الشركة تجاوز هذا الحد.
لماذا مؤشر القوة النسبية هو جهاز مراقبة كلا المعسكرين
يحمل مؤشر القوة النسبية معاني مختلفة اعتمادًا على من يصفه. بالنسبة للباحثين في مجال سلامة الذكاء الاصطناعي، يمثل ذلك نقطة اللاعودة - السيناريو الذي تعمل فيه أنظمة الذكاء الاصطناعي على تحسين نفسها بشكل أسرع مما يستطيع البشر فهمه أو التحقق من صحته أو التدخل فيه، مما قد يخرج عن نطاق السيطرة البشرية. وبالنسبة للمتفائلين في مجال الذكاء الاصطناعي، فإن نفس الديناميكية هي الجائزة: فالأنظمة التي تعمل على تحسين نفسها بشكل موثوق من شأنها أن تتضاعف إلى إنتاجية غير عادية واكتشاف علمي.
يعترف الإطار الأنثروبي بكلا الاحتمالين. يوجد هذا الكشف في وثيقة جمهورها الأساسي هو المستثمرون، ويشير المتشككون إلى أن S-1 يعمل كإفصاح وتسويق في نفس الوقت - والادعاء بأن الشركة على وشك بناء ذكاء اصطناعي ذاتي التحسين يمكن أن يُقرأ بسهولة كحجة لتقييمها.
ومع ذلك، هناك مرساة ملموسة لهذا الادعاء. تطورت قدرات كلود في البرمجة والرياضيات والأمن السيبراني بشكل حاد حتى عام 2026، وتحدد سياسة القياس المسؤول الخاصة بشركة Anthropic معيار "التقدم المتسارع بشكل كبير الذي يُعزى إلى الذكاء الاصطناعي" الذي تقول الشركة الآن إنها قد تحققه قريبًا.
اختبار لحوكمة الذكاء الاصطناعي
يأتي هذا الكشف وسط مناقشات سياسية مكثفة حول مراقبة الذكاء الاصطناعي الحدودي، بدءًا من إطار عمل البيت الأبيض لمراجعة النماذج الحدودية إلى المناقشات الدولية حول إدارة الحوسبة. إذا قام أحد مختبرات الذكاء الاصطناعي الرائدة بتعيين نموذج رسميًا على أنه يفي بعتبة التقدم المتسارع الخاصة به، فسيؤدي ذلك إلى تفعيل التزامات بموجب سياسة التوسع المسؤول لشركة أنثروبيك - وسيكون أول اختبار في العالم الحقيقي لما إذا كانت أطر الصناعة هذه قادرة على إبطاء أو تشكيل سباق القدرات في الممارسة العملية.
في الوقت الحالي، تقول أنثروبيك إنه لم يتجاوز أي نموذج الحدود. يشير التسجيل إلى أن الشركة تتوقع تجاوز هذا الخط قريبًا - وتطلب من المستثمرين أن يفهموا مسبقًا ما تخطط للقيام به حيال ذلك.
---
ابق على اطلاع بأخبار الذكاء الاصطناعيآخر أخبار وتحليلات وإنجازات الذكاء الاصطناعي — في مكان واحد.
اقرأ المزيد من أخبار الذكاء الاصطناعي →
