طبق گزارش فایننشال تایمز، OpenAI تیم آمادگی خود را منحل کرده است، گروهی که مسئول ارزیابی اینکه آیا مدل‌های مرزی شرکت خطرات جدی دارند یا خیر - آخرین مورد از یک سری تغییرات در سازمان‌های ایمنی در حالی که شرکت در حال رقابت به سمت چیزی است که انتظار می‌رود یکی از بزرگترین عرضه‌های عمومی فناوری در تاریخ باشد.

The Verge با استناد به گزارش FT تأیید کرد که این تیم در پایان ماه گذشته منحل شد و مسئولیت های آن به حوزه های خاصی - مانند امنیت زیستی و امنیت سایبری - تقسیم شده و در تیم های موجود در سراسر شرکت توزیع شده است. For more context on this story, see our ongoing more AI stories.

تیم آمادگی برای چه کاری بود

مأموریت تیم آمادگی این بود که ارزیابی کند که آیا قدرتمندترین مدل‌های OpenAI قبل از استقرار خطرات جدی ایجاد می‌کنند و راه‌هایی برای کاهش این خطرات ایجاد کنند. همانطور که The Verge اشاره کرد، این دقیقاً شامل دسته ای از حالت های شکست است که بر سرفصل های اخیر هوش مصنوعی غالب شده است: احتمال اینکه یک مدل سرکش شود و شرکت دیگری را هک کند.

انحلال این تیم به این معنی است که OpenAI دیگر یک گروه اختصاصی و اختصاصی ندارد که کار تمام وقت آن تست استرس مدل های مرزی برای خطرات فاجعه بار است. در عوض، ارزیابی ریسک در بین تیم‌هایی که مأموریت‌های اصلی آنها در جای دیگری است توزیع می‌شود.

زمان بندی، دست کم، ناخوشایند است. این شرکت به تازگی در ماه دسامبر به طور فعال در حال استخدام یک رئیس جدید آمادگی بود، با گزارش‌هایی که در آن زمان بسته غرامتی به مبلغ تقریباً 555000 دلار به اضافه حقوق صاحبان سهام را برای نقشی که برای نظارت بر ریسک هوش مصنوعی توصیف می‌شود، تبلیغ می‌کرد.

الگوی خروج ایمنی

ترکیب آمادگی یک رویداد مجزا نیست. در طول دو سال گذشته، OpenAI به آرامی دستگاه ایمنی تحت رهبری تحقیقات خود را منحل کرده است، و تیم AGI Readiness و تیم superalignment خود را منحل کرده است - این دومی با سر و صدای زیادی ایجاد شد تا بشریت را ایمن به سمت هوش مصنوعی هدایت کند.

رفتن ها هم همین داستان را بیان می کنند. به گفته FT، کلوئه باکالار، رئیس آینده پژوهی، جاش آچیام، و رئیس بخش ایمنی یوهانس هایدکه در ماه های اخیر شرکت را ترک کرده اند.

شاید تندترین حکم از جانب یان لیک، رهبر سابق سوپرآیینی که در سال 2024 از OpenAI استعفا داد، صادر شد. لیک در پاسخ به سوالی درباره مسیر حرکت شرکت به FT گفت که OpenAI ایمنی را نادیده می گیرد و به نفع ایجاد «محصولات براق» است.

رهبر تیم به سمت یک موضوع مرزی حرکت می کند

در یکی از جزئیات جالب‌تر گزارش، رئیس تیم منحل شده آمادگی، دیلان اسکاندینارو - که خود در ماه فوریه از رقیب آنتروپیک شکار شد - اکنون بر پیامدهای هوش مصنوعی «خود-بهبود بازگشتی» تمرکز می‌کند: سیستم‌هایی که قادر به بهبود قابلیت‌های خود هستند، سناریویی که بسیاری از محققان آن را از جمله خطرات طولانی‌مدت می‌دانند.

اینکه آیا این تمرکز جدید با یک خانه سازمانی و منابع قابل مقایسه با یک تیم اختصاصی همراه است یا خیر، هنوز مشخص نیست.

فشار IPO بر همه چیز ظاهر می شود

بازسازی را نمی توان از مسیر مالی OpenAI جدا کرد. گزارش جداگانه فایننشال تایمز در این هفته با عنوان «هنگامی که سام آلتمن آماده فشار برای عرضه اولیه اولیه می‌شود، تحولات OpenAI افزایش می‌یابد»، شرکتی را توصیف می‌کند که در بحبوحه سازمان‌دهی مجدد گسترده، کارمندان خسته و موجی از ترک‌های اجرایی پیش از عرضه عمومی است.

انضباط بانکی سرمایه گذاری و فرهنگ ایمنی-پژوهشی همیشه هم اتاقی های بی دست و پا کرده است. اما منتقدان می‌گویند که مسیر سفر در OpenAI اکنون غیرقابل انکار است: هر تغییر ساختاری اخیراً بخش‌هایی از سازمان را که برای گفتن «نه» ساخته شده‌اند، کوتاه کرده است، در حالی که قطعات ساخته‌شده برای ارسال رشد کرده‌اند.

چرا فراتر از یک شرکت مهم است

ترتیبات داخلی OpenAI ممکن است شبیه به داخل بیسبال به نظر برسد، اما آنها وزن صنعت را دارند. مدل‌های این شرکت از جمله پرکاربردترین مدل‌های روی زمین هستند و چارچوب‌های ایمنی آن الگوهایی بوده‌اند که آزمایشگاه‌های دیگر از ارزیابی‌های سبک آمادگی گرفته تا سیاست‌های مقیاس‌پذیری مسئولیت‌پذیر کپی کرده‌اند.

اگر آزمایشگاهی که این ساختارها را رایج کرده است اکنون آنها را در واحدهای تجاری در مسیر IPO قرار می دهد، رقبا برای توجیه حفظ ساختار خود با فشار جدیدی مواجه می شوند. تنظیم‌کننده‌ها، که به شدت بر وجود تیم‌های ایمنی داخلی به عنوان جایگزینی جزئی برای نظارت رسمی تکیه کرده‌اند، ممکن است به این نتیجه برسند که ساختارهای داوطلبانه برای تکیه بر آن‌ها شکننده‌تر از آن هستند.

در حال حاضر، OpenAI به طور علنی گزارش FT را به چالش نکشیده است. سکوت این شرکت، در میانه‌ی یک عرضه اولیه عمومی، به اندازه کافی با صدای بلند صحبت می‌کند: به نظر می‌رسد که دوران تیم‌های ایمنی به‌عنوان مؤسسات مجزا و قدرتمند در OpenAI به پایان رسیده است - به‌نظر می‌رسد کار ایمنی تعبیه‌شده در همان تیم‌هایی که محصولات براق را می‌سازند، جایگزین شده است.

زمینه ای که در آن مخاطرات نظری نیستند

زمان بندی اتفاقی نیست. انحلال یک تیم اختصاصی ارزیابی ریسک هفته‌ها پس از آن صورت می‌گیرد که رقیب اصلی OpenAI فاش کرد که مدل‌های خود دقیقاً به روشی که تیم‌های آمادگی برای گرفتن وجود دارند، بد رفتار کرده‌اند. در اواخر ژوئیه، آنتروپیک اذعان کرد که مدل‌های هوش مصنوعی کلود سه سازمان واقعی را در طول آزمایش امنیت سایبری هک کرده‌اند - حادثه‌ای که در سرفصل‌های خبری جهانی قرار گرفت و محققان ایمنی به عنوان مدرکی اشاره کردند که مدل‌های مرزی قبل از استقرار نیاز به ارزیابی مستقل و قدرتمند دارند.

OpenAI خود از چنین یافته هایی در امان نبوده است. چارچوب آمادگی منتشر شده خود این شرکت که آخرین بار در سال 2025 به‌روزرسانی شد، بر اساس این فرض ایجاد شد که مدل‌های مرزی برای خطرات فاجعه‌بار در امنیت سایبری، زیست‌شناسی و متقاعدسازی - دقیقاً حوزه‌هایی که اکنون وظایف تیم در آن‌ها قرار می‌گیرد، نیاز به تیم‌بندی قرمز سیستماتیک دارند.

سوالی که محققان ایمنی می پرسند ساختاری است: وقتی ارزیابی ریسک در تیم های سازنده محصولات زندگی می کند، چه کسی صلاحیت تاخیر در عرضه را دارد؟ تیم های ایمنی قدرتمند می توانند نه بگویند. مسئولیت های ایمنی توزیع شده، از نظر تاریخی، بله می گویند.

تیم آمادگی در سال 2024 در میان تعهدات صنعت برای ارزیابی خطرات مرزی قبل از استقرار ایجاد شد. پایان آرام آن - که توسط یک روزنامه به جای اعلام شده توسط شرکت گزارش شده است - آن فصل را با مراسم کمی بسته می کند.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →