آرتور منش، بنیانگذار و مدیر عامل شرکت Mistral AI به هشدار ایمنی که صنعت هوش مصنوعی را فرا گرفته است، پاسخی صریح دارد: هوش مصنوعی یک نرم افزار است و نرم افزار قابل کنترل است.

در مصاحبه ای که توسط روزنامه فرانسوی لوموند در 24 سپتامبر منتشر شد، رئیس برجسته ترین استارت آپ هوش مصنوعی اروپا استدلال کرد که غول های فناوری آمریکایی برای توجیه سیستم های بسته و اختصاصی و قفل کردن بازار، خطرات هوش مصنوعی را اغراق می کنند. او گفت که شرکت او شرط معکوس دارد: مدل‌های با وزن باز، زیرساخت‌های اروپایی، و این موضع که خطرات این فناوری از طریق مهندسی معمولی قابل کنترل هستند و نه ترس فوق‌العاده. For more context on this story, see our ongoing AI trends.

'می توان آن را کنترل کرد'

مصاحبه لوموند که تحت عنوان "هوش مصنوعی نرم افزار است، قابل کنترل است" منتشر شده است، در لحظه ای می آید که حوادث امنیتی مربوط به ماموران ماه ها بر چرخه اخبار هوش مصنوعی غالب شده است. منش به طور مستقیم به این آب و هوا پرداخت و ادعا کرد که حوادثی مانند نقض سرور در ماه جولای Hugging Face در بحث عمومی توسط شرکت‌های بزرگ ایالات متحده مورد استفاده قرار گرفته است تا استدلال کنند که فقط مدل‌های بسته و کاملاً محدود می‌توانند با خیال راحت کار کنند.

به گفته منش، این قاب بندی، شکست های امنیتی عملیاتی را با بحث در مورد خود فناوری ترکیب می کند. موضع او، همانطور که در پوشش مصاحبه خلاصه شد، این است که سیستم‌های هوش مصنوعی محصولات نرم‌افزاری هستند که می‌توانند مانند هر نرم‌افزار دیگری حسابرسی، محدود و کنترل شوند و باز بودن با ایمنی سازگار است نه مخالف آن.

این استدلال میسترال را در تضاد با موضع عمومی چندین رقیب آمریکایی قرار می‌دهد که به مجموعه‌ای از اپیزودهای سوء رفتار ماموران در سال جاری با تدابیر سخت‌گیرانه، دسترسی محدود و چارچوب‌های افشای جدید پاسخ داده‌اند.

اوزان باز به عنوان یک شرط استراتژیک

نظرات منش بر روی استراتژی میسترال است که از زمان تأسیسش در سال 2023 دنبال کرده است: عرضه مدل هایی با وزن های آزاد که مشتریان می توانند آن ها را دانلود کنند، تنظیم دقیق کنند، در زیرساخت های خود مستقر کنند، و بازرسی کنند.

در پوشش مصاحبه، این رویکرد به عنوان پاسخی مستقیم به این سوال که چه کسی سیستم‌های هوش مصنوعی را کنترل می‌کند، در نظر گرفته می‌شود. وزن‌های باز به بررسی مستقل آنچه که یک مدل انجام می‌دهد اجازه می‌دهد، استقرار خصوصی داده‌های حساس را از سرورهای شخص ثالث دور نگه می‌دارد، و توانایی تغییر یک مدل به مشتریان اجازه خروج از قفل فروشنده را می‌دهد. منتقدان خاطرنشان می‌کنند که معاوضه این است که وزن‌های آزاد در دسترس نیز می‌توانند توسط هر کسی، از جمله بازیگرانی که قصد مخرب دارند، استفاده کنند، و Mistral باید هم بر روی قابلیت و هم در اکوسیستم با دیگر آزمایشگاه‌های مدل باز رقابت کند.

فشار محاسباتی اروپا و صندوق جنگ 3 میلیارد یورویی

این مصاحبه همچنین به سؤال زیرساختی که زیربنای جاه‌طلبی‌های هوش مصنوعی اروپا است، پرداخت. منش از ضمانت‌های دولتی برای ساده‌سازی تامین مالی برای مراکز داده اروپایی حمایت می‌کند، یک مکانیسم سیاستی با هدف کاهش اتکای قاره به ارائه‌دهندگان ابری ایالات متحده برای محاسبات هوش مصنوعی.

موقعیت Mistral برای ارائه این استدلال با کمک مالی اخیر آن تقویت شده است. این شرکت 3 میلیارد یورو در دور سری D به رهبری سامسونگ الکترونیکس همراه با صندوق اروپایی Scaleup با حمایت اتحادیه اروپا جمع آوری کرد، ارزشی که شرکت را بالای 21 میلیارد یورو نشان داد. به طور جداگانه، Mistral قراردادی چند میلیارد دلاری با مایکروسافت برای توسعه زیرساخت‌های Azure در اروپا منعقد کرد، اگرچه این ترتیب، قهرمان اروپا را در کوتاه‌مدت به یک ابر مقیاس‌کننده ایالات متحده پیوند می‌دهد، تنشی که ناظران صحنه فناوری اروپا از دست نداده‌اند.

منش قبلاً هشدار داده بود که اروپا یک فرصت محدود دارد، تقریباً دو سال برای جلوگیری از وابستگی دائمی هوش مصنوعی به ایالات متحده، و فشار مالی و زیرساختی به عنوان پاسخی مستقیم به این ضرب الاجل است.

لفاظی ایمنی با دسترسی به بازار روبرو می شود

ماهیت استدلال منش به همان اندازه تجاری است که فلسفی است. اگر هوش مصنوعی مرزی به عنوان یک خطر وجودی که نیاز به دسترسی کاملاً کنترل شده دارد، تلقی شود، بازار در اطراف تعداد انگشت شماری از شرکت‌ها با منابعی برای ارائه APIهای محدود تحت رژیم‌های انطباق سنگین، ادغام می‌شود. اگر هوش مصنوعی به عنوان یک نرم افزار قابل کنترل در نظر گرفته شود، ارائه دهندگان با وزن باز می توانند در قیمت، حریم خصوصی و سفارشی سازی با یکدیگر رقابت کنند.

به همین دلیل است که بحث در مورد خطرناک بودن هوش مصنوعی در واقع به بحثی در مورد ساختار بازار تبدیل شده است. استدلال منش به لوموند این است که ترس به صورت استراتژیک به کار گرفته می‌شود و حوادث تابستان بیش از آنکه در مورد قابلیت کنترل فناوری به‌عنوان یک کل باشد، درباره امنیت عملیاتی شرکت‌ها صحبت می‌کند.

شکاکان مخالف این هستند که وزن‌های باز جلوگیری از سوء استفاده را سخت‌تر می‌کند و حوادث اخیر عامل صنعت، که شامل دسترسی‌های غیرمجاز و نشت داده‌ها می‌شود، نشان می‌دهد که حتی آزمایشگاه‌های دارای منابع خوب نیز برای کنترل سیستم‌های خود تلاش می‌کنند. بعید است که این اختلاف با هیچ مصاحبه ای حل شود.

بعد چه چیزی را تماشا کنیم

میسترال گفته است که قصد دارد یک مدل وزن باز جدید ارسال کند، و مصاحبه منش بر این انتظارات می افزاید که این شرکت قصد دارد همزمان با آزمایشگاه های مرزی باز بماند. مانند هر ادعای پیش از انتشار، آزمایش معنی‌دار زمانی فرا می‌رسد که مدل‌ها و معیارهای مستقل بتوانند جایگاه واقعی آن را تأیید کنند.

در حال حاضر، مصاحبه لوموند یک خط تقسیم را در صنعت تشدید کرده است. یکی از اردوگاه ها، رفتار نادرست ماموران اخیر را به عنوان مدرکی می بیند که هوش مصنوعی به کنترل دقیق تر و دسترسی محدود نیاز دارد. دیگری که توسط آزمایشگاه پیشرو هوش مصنوعی اروپا نمایندگی می‌شود، نرم‌افزار قابل کنترلی را می‌بیند که خطرات آن واقعی است اما قابل کنترل است و مزایای آن نباید پشت درهای بسته قفل شود.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →