بر اساس مجموعهای از فهرستهای شغلی که اواخر ماه گذشته منتشر شد، انویدیا بی سر و صدا در حال جمعآوری یک تیم مهندسی ایمنی و ایمنی هوش مصنوعی جدید است که نشان میدهد غول تراشهها ایمنی را در اولویت بزرگتری قرار میدهند، حتی اگر به شدت روی آیندهای که توسط مدلهای وزن باز و عوامل مستقل شکل میگیرد، شرطبندی کند.
فشار استخدامی که توسط Business Insider گزارش شده است، نشان می دهد که انویدیا به دنبال یک "مهندس ممتاز" است تا در کنار یک مهندس تحقیقات امنیتی و سایر متخصصان، به عنوان یک رهبر فنی موسس برای تیم تازه تشکیل شده خدمت کند. این حرکت در حالی انجام می شود که شرکت تعهد خود را به هوش مصنوعی با وزن باز افزایش می دهد و صنعت گسترده تر با موجی از حوادث امنیتی مربوط به سیستم های هوش مصنوعی مواجه می شود. برای خوانندگانی که چرخه [اخبار جدید هوش مصنوعی] (https://aibuzzwire.news) را دنبال می کنند، این توسعه یک سیگنال گویا است: شرکتی که کلنگ ها و بیل های هوش مصنوعی را به فروش می رساند، اکنون می خواهد دست بزرگتری برای اطمینان از ایمن بودن آن ابزارها داشته باشد.
آنچه فهرست های شغلی نشان می دهد
طبق گزارش Business Insider، تیم جدید در یک فهرست به عنوان ریشه در اصول توسعه ایمن هوش مصنوعی توصیف شده است. انویدیا در حال استخدام یک مهندس برجسته است تا به عنوان "رهبر فنی موسس" برای گروه عمل کند، عبارتی که نشان می دهد تیم به جای توسعه از یک واحد موجود، از ابتدا ساخته می شود. این شرکت همچنین در حال استخدام یک مهندس تحقیقات امنیتی با تمرکز بر هوش مصنوعی است.
این استخدام نشان میدهد که انویدیا ایمنی هوش مصنوعی را اولویت رسمیتر و عمدیتری قرار میدهد زیرا به استراتژی متمرکز بر مدلهای وزن باز و عوامل هوش مصنوعی متمایل است. مدلهای وزن باز، «وزنهای» آموزشدیده خود را - پارامترهایی که نحوه رفتار یک مدل را تعیین میکنند - در دسترس عموم قرار میدهند، حتی اگر دادههای آموزشی و کد منبع آنها خصوصی بماند. این باز بودن نوآوری را تسریع میکند و به توسعهدهندگان اجازه میدهد مدلها را روی سختافزار انویدیا اجرا کنند، اما همچنین سؤالات امنیتی را ایجاد میکند که سیستمهای بسته و دارای درگاه API میتوانند از آنها دوری کنند.
چرا مدلهای با وزن باز ریسک را افزایش میدهند
مدلهای وزن باز موقعیت پیچیدهای در بحث ایمنی هوش مصنوعی دارند. آزمایشگاهها با انتشار وزنها به صورت عمومی، جامعه جهانی از محققان و توسعهدهندگان را قادر میسازند تا مدلهای قدرتمند را - اغلب بر روی پردازندههای گرافیکی خود انویدیا - بازرسی، تنظیم دقیق و استقرار دهند. این باز بودن یک موهبت واقعی برای پیشرفت علمی و تجارت انویدیا است. اما همچنین به این معنی است که هنگامی که وزنه ها تمام می شوند، آزمایشگاه کنترل خود را بر نحوه استفاده، اصلاح یا سوء استفاده از مدل از دست می دهد.
بازیگر مخربی که یک مدل با وزن باز دانلود میکند میتواند سعی کند نردههای ایمنی را از بین ببرد، مدل را برای حملات سایبری تغییر دهد، یا آن را با ابزارهای دیگر ترکیب کند، به گونهای که سازندگانش هرگز قصد نداشتند. بر خلاف مدلی که پشت یک API ارائه میشود – که در آن اپراتور میتواند استفاده، درخواستهای محدودیت نرخ و لغو دسترسی را کنترل کند – یک مدل با وزن باز در هر جایی که کسی سختافزار اجرای آن را داشته باشد اجرا میشود. دقیقاً به همین دلیل است که شرکتی که روی هوش مصنوعی باز سرمایه گذاری می کند، یک تیم ایمنی و امنیتی اختصاصی نیز می خواهد: این دو استراتژی دو روی یک سکه هستند.
بنابراین، منافع تجاری انویدیا و وضعیت ایمنی آن کاملاً به هم مرتبط هستند. هرچه شرکت بیشتر به پذیرش وزن باز تشویق کند، از اینکه به عنوان یک مباشر مسئول آن اکوسیستم دیده شود، سود بیشتری می برد.
یک صنعت گسترده تر در مورد امنیت هوش مصنوعی
تیم جدید در خلاء وارد نمی شود. استخدام انویدیا مصادف با دوره ای است که در آن امنیت هوش مصنوعی از یک نگرانی انتزاعی به یک مشکل عینی و تکرارشونده تبدیل شده است. هفتههای اخیر شاهد یک سری رویدادهای پرمخاطب بودهایم که در آن عوامل هوش مصنوعی توانایی عمل مستقل به روشهایی را که توسعهدهندگان آنها به طور کامل پیشبینی نمیکردند، نشان دادند، از جمله مواردی که سیستمهای آزمایششده برای اهداف امنیت سایبری رفتار غیرمنتظرهای داشتند.
خود انویدیا در مرکز واکنش صنعت بوده است. این شرکت اخیراً به رهبری یک اتحاد باز و ایمن هوش مصنوعی کمک کرد که بیش از 30 شرکت را گرد هم می آورد تا شفافیت و استانداردهای ایمنی امنیت سایبری را ایجاد کنند، کاری که به سرعت پیشرفت کرده است. به نظر می رسد تیم ایمنی داخلی جدید مکمل داخلی آن ائتلاف خارجی باشد: راهی برای سخت تر کردن مشارکت های خود انویدیا در جنبش هوش مصنوعی باز.
تضاد با برخی از رقبا قابل توجه است. چندین آزمایشگاه مرزی بر محدودیتها، کنترلهای دسترسی و استقرار دروازهای بهعنوان مکانیسمهای ایمنی اولیه خود تأکید کردهاند. رویکرد انویدیا - وزنهای باز همراه با یک دستگاه ایمنی رو به رشد - منعکسکننده فلسفهای متفاوت است: باز بودن و امنیت متضاد نیستند، و اینکه یک تیم ایمنی با منابع خوب میتواند مدلهای باز را قابل دوام کند.
چه چیزی در مورد استراتژی انویدیا نشان می دهد
برای انویدیا، حساب دیفرانسیل و انتگرال واضح است. کسبوکار اصلی این شرکت فروش سختافزاری است که هوش مصنوعی را اجرا میکند، و مدلهای با وزن باز، محرک قدرتمندی برای تقاضای سختافزار هستند: وقتی هر کسی میتواند یک مدل توانمند را دانلود کند، هر کسی که بودجهای داشته باشد به مشتری بالقوه انویدیا تبدیل میشود. سرمایهگذاری در ایمنی هوش مصنوعی با کاهش خطر مرتبط شدن مدلهای باز با آسیبهایی که میتواند مقررات سنگین یا واکنش شدید مصرفکننده را به همراه داشته باشد، از چرخ طیار محافظت میکند.
ایجاد یک تیم مهندسی ایمنی و ایمنی اختصاصی نیز یک سیگنال استخدام است. محققان برتر ایمنی هوش مصنوعی تقاضای فوق العاده ای دارند و یک تیم معتبر به رهبری یک مهندس برجسته می تواند به انویدیا کمک کند تا استعدادهایی را جذب کند که در غیر این صورت ممکن است به سمت یک آزمایشگاه مرزی جذب شوند. این استعداد، به نوبه خود، میتواند استانداردهای صنعت را شکل دهد - به انویدیا تأثیر میگذارد بر قوانین اکوسیستم هوش مصنوعی باز که به ساخت آن کمک میکند.
راه پیش رو
انویدیا نقشه راه عمومی برای کار تیم جدید را مشخص نکرده است و لیست ها نشان می دهد که این گروه هنوز در حال شکل گیری است. اما جهت گیری غیر قابل انکار است. از آنجایی که عوامل هوش مصنوعی مدلهای توانمندتر و با وزن بازتر را گسترش میدهند، شرکتی که بخش عمدهای از هوش مصنوعی جهان را تامین میکند، اکنون در حال جمعآوری افراد برای کمک به کنترل این قدرت است.
ماههای آینده نشان خواهند داد که آیا شرط ایمنی انویدیا میتواند با جاهطلبیهای تجاری آن همگام شود یا خیر - و آیا آیندهای با هوش مصنوعی باز میتواند هم نوآورانه و هم امن باشد.
از هوش مصنوعی جلوتر بمانید
تقاطع ایمنی هوش مصنوعی، مدل های باز و سخت افزار به سرعت در حال حرکت است. [پوشش صنعت AI] (https://aibuzzwire.news) ما را برای گزارش مداوم در مورد Nvidia، آزمایشگاههای مرزی و سیاستهایی که آنها را شکل میدهند، دنبال کنید.
اخبار هوش مصنوعی را بیشتر بخوانید →
