OpenAI یک واحد تحقیقاتی جدید به نام تیم آینده‌های استراتژیک راه‌اندازی کرده است و آن را در 20 آگوست 2026 با انتشار یک مقاله موسس در وبلاگ جدیدی که شرکت آن را AI Futures نامیده است، رونمایی کرد. ماموریت این تیم سوالی است که بیشتر شبیه به فلسفه سیاسی است تا یادگیری ماشینی: جامعه آزاد چگونه باید بازسازی شود تا حقوق فردی و آژانس حفظ شود و در عین حال با ظهور هوش مصنوعی متحول کننده سازگار باشد؟

این مقاله این را به‌عنوان مشکل «تمرکز قدرت» تعریف می‌کند – دسته‌ای از ریسک که تیم استدلال می‌کند در درازمدت، «بزرگ‌ترین، جدی‌ترین و از لحاظ مفهومی چالش‌برانگیزترین برای رسیدگی» در جامعه وسیع‌تر ایمنی و سیاست‌گذاری هوش مصنوعی است. For more context on this story, see our ongoing breaking AI news.

این راه‌اندازی هم به دلیل ماهیت و هم برای افرادی که آن را منتشر می‌کنند قابل توجه است: یک شرکت هوش مصنوعی مرزی که به طور رسمی تحقیقاتی را در مورد اینکه چگونه فناوری خود می‌تواند توازن قدرت بین دولت‌ها، شرکت‌ها و شهروندان را تغییر دهد، سازماندهی می‌کند.

وقتی قدرت دیگر به مردم نیاز ندارد

هسته اصلی بحث تاریخی است. در این مقاله مشاهده می‌شود که در تمام تاریخ بشریت، قدرت سیاسی و نظامی در نهایت بر نیروی کار استوار است - سربازان، پلیس و بوروکراسی‌های وسیعی که آنها را اداره می‌کنند و همه از طریق مالیات بر کار انسانی تامین می‌شوند. فیلسوف دیوید هیوم مشاهده کرد که رهبران سیاسی "چیزی برای حمایت از آنها ندارند جز عقاید [مردمی]."

تیم OpenAI استدلال می کند که شالوده ممکن است در حال فرسایش باشد. پیشرفت‌ها در سیستم‌های خودمختار دنیای واقعی می‌تواند به دولت‌ها اجازه دهد «بدون تکیه بر سربازان یا افسران پلیس همکار» نیروی خود را طراحی کنند. پیشرفت در هوش ماشینی می تواند به دولت ها اجازه دهد "نه از ثمره کار فردی انسان، بلکه از خروجی های مراکز داده" درآمد جمع آوری کنند. و خود بوروکراسی می تواند تا حد زیادی خودکار شود.

این مقاله هشدار می‌دهد: «بنابراین ممکن است قدرت دیگر برای تداوم یک معامله در سطح جامعه نیاز نداشته باشد، و مردم، به طور کلی، ممکن است تنها یک صندلی کوچک در میز مذاکره داشته باشند، یا شاید اصلاً هیچ جایگاهی نداشته باشند.»

درسهایی از بنیانگذاران

این مقاله برای پاسخ به زمان تأسیس ایالات متحده می رسد. این تیم می نویسد که جیمز مدیسون می دانست که "موانع پوستی" - قوانین نوشته شده به تنهایی - مانع از استبداد نمی شود. بنیانگذاران در عوض توازن قدرت را بر اساس مکانیک نیوتنی زمان خود مدل کردند: مدارها، کره ها و جاذبه گرانشی، تنظیم قدرت در برابر قدرت و "جاه طلبی در برابر جاه طلبی".

تیم استراتژیک آینده یک قیاس مستقیم را ترسیم می کند. آنها استدلال می کنند که پاسخ به هوش ماشینی پیشرفته، تمرکززدایی حداکثری نیست، بلکه توازن صحیح قدرت است - "به گونه ای که هیچ بازیگر یا مجموعه کوچکی از بازیگران نمی توانند بر بقیه مسلط شوند." آنها صریحاً می گویند که تمرکززدایی راه درمان نیست: دنیایی که در آن هر فرد بدخواه می تواند به طور پیش پا افتاده به میلیون ها نفر آسیب برساند نیز تعادل ندارد.

این مقاله همچنین به آنچه «حادثه اخیر در آغوش گرفتن» می‌گوید، به عنوان مدرکی اشاره می‌کند که نشان می‌دهد عوامل هوش مصنوعی «می‌توانند فراتر از وظایف محوله‌شان عمل کنند و بر اساس اکتشافات یکدیگر به روش‌هایی که اپراتورها پیش‌بینی نکرده‌اند یا اجازه نداده‌اند، اکتشاف کنند».

شش اصل راهنما

این تیم مجموعه ای غیر جامع از اصول را برای هدایت کار خود ارائه کرد:

  • انسان ها باید استقلال فردی و فرصت ها را در استفاده از هوش مصنوعی حفظ کنند، "حتی اگر گاهی اوقات این امر با امنیت و رشد اقتصادی معاوضه شود."
  • استقلال فردی به مسئولیت فردی در قبال استفاده نادرست از فناوری بستگی دارد
  • یک دسته کوچک اما جدی از خطرات مستلزم اقدام جمعی است که دامنه آن تا حد امکان محدود و کم باشد.
  • قانون باید در صورت امکان، زمین بازی را یکسان کرده و افراد و سازمان های کوچک را به جای متمرکز کردن قدرت، توانمند سازد.
  • نهادهای انسانی سیاسی، اجتماعی و اقتصادی باید اولویت را در امور جهانی حفظ کنند
  • حکمرانی بلندمدت هوش مصنوعی به مکانیزم‌های جدیدی برای آنچه که تیم آن را «خوانایی محدود» می‌خواند نیاز دارد - اقدامات هوش مصنوعی با ریسک بالا باید در یک انسان یا سازمان مسئول قابل ردیابی باشد، در حالی که حریم خصوصی و استفاده ناشناس از هوش مصنوعی حفظ شود.

این تیم اذعان می‌کند که این اصول «در تنش‌هایی با یکدیگر وجود دارند» و می‌گوید که کارش شامل تحقیق در تلاقی طراحی سیاست عمومی، اقتصاد، قانون، تاریخ و یادگیری ماشینی می‌شود - از جمله پیش‌بینی اینکه چگونه هوش مصنوعی شرکت‌ها را به روشی که راه‌آهن‌ها باعث ایجاد شرکت مدیریتی مدرن شد، بازسازی می‌کند.

بعد چه می آید

تیم استراتژیک آینده می گوید که کار خود را از طریق وبلاگ آینده هوش مصنوعی و همچنین مقالات، ویدئوها و پادکست ها با تاکید بر تکرار و بحث منتشر خواهد کرد.

این مقاله در پایان می‌گوید: «با ایستادن «در دامنه‌ی تکینگی»، سؤال‌های ما بسیار بیشتر از پاسخ‌هایمان است. ما می‌دانیم که «موانع پوستی» به تنهایی راه‌حل‌هایی را که به دنبال آن هستیم ارائه نمی‌کند، اما آنچه را که به‌عنوان «کلمات صرف» نوشته شده است را کنار نمی‌گذاریم.»

برای دنیای سیاست‌های هوش مصنوعی، این راه‌اندازی صدای سازمانی جدیدی را به یکی از قدیمی‌ترین بحث‌های این حوزه اضافه می‌کند – اینکه آیا خطر بزرگ‌تر در خود سیستم‌های هوش مصنوعی نهفته است یا اینکه چه کسی آنها را کنترل می‌کند. بدیهی است که پاسخ OpenAI این است که سؤال کنترل دیگر نمی تواند منتظر بلوغ فناوری باشد.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →