سرگئی برین می گوید که گوگل در حال ورود به تردمیل RSI است زیرا مدل ها به ساختن جانشینان خود کمک می کنند

سرگئی برین، یکی از بنیانگذاران گوگل، می گوید توسعه هوش مصنوعی این شرکت به نقطه ای رسیده است که مدل های آن به طور فعال به ساختن جانشینان خود کمک می کنند - پویایی که به عنوان خود-بهبودی بازگشتی یا RSI شناخته می شود. برین در یک میزگرد درباره ایجاد مدل جدید جمینی 4 گوگل، آرگون، صحبت کرد و گفت که توسعه هوش مصنوعی در داخل سرعت می‌گیرد و شرکت شروع به ورود به آن تردمیل RSI کرده است.

برین در طول میزگردی که گوگل روز چهارشنبه آن را به اشتراک گذاشت، گفت: "و اکنون محققان ما و مدل دست به دست هم می دهند تا نسخه بعدی مدل را بسازند." نظرات او ابتدا توسط Business Insider گزارش شد. این اظهارات بنیانگذار گوگل را - که به طور فزاینده ای نقش عملی را در برنامه جمینی ایفا کرده است - در مهم ترین بحث صنعت قرار می دهد: اینکه آیا سیستم های هوش مصنوعی به زودی سریعتر از مهندسین انسانی بهبود می یابند. برای پوشش ادامه این بحث، [اخبار تحقیقات هوش مصنوعی] (https://aibuzzwire.news) ما را دنبال کنید.

آنچه برین به عنوان مدرک به آن اشاره کرد

برین به آهنگ انتشار مدل فلش گوگل که منجر به جمینی 4 می شود اشاره کرد و به عنوان شاهدی بود که حلقه بازخورد در حال چرخش است. مفهوم این است که هر نسل از مدل ها زمان مورد نیاز برای تولید مدل بعدی را به عنوان ترکیب خودکار کدگذاری، ارزیابی و ابزار تحقیق کوتاه می کند.

به نظر می رسد اسناد ایمنی خود گوگل برای آرگون از بخش هایی از آن تصویر پشتیبانی می کند. طبق گزارش ایمنی این مدل، «نمایندگان هوش مصنوعی اکنون به عنوان دستیارانی با اهرم بالا عمل می‌کنند که اکثر کدهای تولید و رفع اشکال را ایجاد می‌کنند، اگرچه تغییرات کد قبل از ارسال، مشروط به بررسی انسانی است.» به عبارت دیگر، این شرکت جریان کاری را توصیف می‌کند که در آن مدل‌ها بیشتر کد را تولید می‌کنند – در حالی که انسان‌ها حرف آخر را در مورد کشتی‌ها حفظ می‌کنند.

بحث گسترده تر RSI

Anthropic و OpenAI همچنین گفته‌اند که هوش مصنوعی ممکن است در آستانه RSI باشد، و گزارشی از شرکت Gladstone AI که این هفته منتشر شد، راه‌هایی را که شرکت‌های هوش مصنوعی به سمت آن حرکت می‌کنند، نشان می‌دهد. بر اساس گزارش Business Insider از این گزارش، اکثر محققانی که در شرکت‌هایی از جمله Anthropic، OpenAI و Google DeepMind کار می‌کنند، بر این باورند که RSI ظرف 3 تا 12 ماه آینده آغاز خواهد شد و در صورت عدم مداخله دولت، می‌تواند زودتر برسد.

چرا جدول زمانی مهم است

خود-بهبودی بازگشتی فقط یک نقطه عطف توانایی دیگر نیست. اگر مدل‌ها به نیروی کار اولیه برای تحقیقات هوش مصنوعی تبدیل شوند، پیش‌بینی سرعت پیشرفت سخت‌تر و کنترل آن سخت‌تر می‌شود. به همین دلیل است که RSI در قلب هشدارهای محققان برجسته هوش مصنوعی در ماه گذشته قرار گرفت مبنی بر اینکه اگر نرده های محافظ کافی در محل قرار نگیرند، انسان ها ممکن است کنترل این فناوری را از دست بدهند.

قاب بندی برین به طور قابل توجهی موضوعی بود. او به جای اینکه تردمیل RSI را به عنوان یک فرضیه دور تلقی کند، آن را به عنوان یک شرایط عملیاتی برنامه توسعه مدل گوگل توصیف کرد - محققان و مدل‌ها دست به دست هم روی هر نسخه متوالی کار می‌کنند.

نقطه مقابل

همه افراد داخل گوگل در مورد سرعت چرخش فلایویل موافق نیستند. گزارش در همان چرخه خبری اشاره کرد که Google DeepMind در ارزیابی‌های خود شتاب قابل‌توجهی در تحقیق و توسعه یادگیری ماشین پیدا نکرده است، نتیجه‌ای که از لفاظی‌های نگران‌کننده‌تر برخی از رقبا متفاوت است. شکاف بین این دو قرائت - بنیانگذار گوگل که تردمیلی را توصیف می کند که شروع به حرکت کرده است، و محققان ایمنی گوگل که هیچ سرعت چشمگیری را اندازه گیری نمی کنند - خود تصویری است از میزان نامطمئن بودن میدان در مورد مسیر خود.

اخطارهای ساختاری نیز وجود دارد. عواملی که اکثر کدهای تولید را تهیه می‌کنند، هنوز تحت بازبینی انسانی هستند، و بسیاری از مواردی که امروزه به عنوان «تحقیقات هوش مصنوعی خودکارسازی هوش مصنوعی» به حساب می‌آیند، شامل محدود کردن فضاهای جستجو، ایجاد راه‌حل‌های نامزد و اجرای ارزیابی‌ها - کمک با اهرم بالا به جای کشف مستقل است.

چه چیزی را تماشا کنیم

سه چیز به ناظران می گوید که آیا استعاره تردمیل برین قابل اجرا است یا خیر. اول، آهنگ انتشار مدل های خود گوگل، که در آن فواصل کوتاه تر بین نسل ها واضح ترین سیگنال قابل مشاهده است. دوم، اینکه آیا سایر آزمایشگاه‌های مرزی شروع به تعیین کمیت می‌کنند که چه مقدار از خط لوله تحقیقاتی و مهندسی آنها به صورت مدل اجرا شده است، همانطور که گزارش ایمنی آرگون گوگل انجام داده است. سوم، اینکه آیا دولت‌ها بر اساس گزارش‌هایی مانند Gladstone AI عمل می‌کنند که محققین مصاحبه‌شده به صراحت جدول زمانی خود را مشروط به عدم مداخله کرده‌اند.

اقتصاد پشت تردمیل

همچنین یک منطق تجاری ساده در نظرات برین وجود دارد. اگر مدل‌ها چرخه‌های تحقیقاتی را به‌طور معنی‌داری کوتاه کنند، هزینه نهایی هر نسل مدل جدید کاهش می‌یابد و شرکتی که اولین حلقه را می‌بندد، از مزیت ترکیبی هم در قابلیت و هم در قیمت برخوردار می‌شود. گوگل در حال حاضر تمایل خود را برای رقابت تهاجمی در محور دوم نشان داده است و قیمت API رقبا را با آرگون پایین می‌آورد و در عین حال مدل‌های کلاس Flash را برای حجم کاری بالا عرضه می‌کند. یک چرخ لنگر واقعی RSI می‌تواند این استراتژی را تقویت کند – که به توضیح اینکه چرا گوگل انگیزه‌ای دارد تا آن را به‌عنوان در حال انجام توصیف کند.

در حال حاضر، اهمیت میزگرد در موقعیت یابی است: یکی از بنیانگذاران Google به طور عمومی بهبود خود بازگشتی را نه به عنوان یک سناریوی خطر، بلکه به عنوان واقعیت کاری شرکت توصیف می کند. این چارچوب مجدد - از آزمایش فکری تا نقشه راه - ممکن است خبرسازترین چیز در مورد چرخه راه اندازی Gemini 4 باشد، صرف نظر از اینکه امتیازات معیار در کجا قرار می گیرند.

---

از هوش مصنوعی جلوتر بمانید

آخرین اخبار، تحلیل ها و پیشرفت های هوش مصنوعی را دریافت کنید - همه در یک مکان.

بیشتر بخوانید اخبار هوش مصنوعی →