به گزارش TechCrunch، HiddenLayer، یک استارت‌آپ مستقر در آستین که از مدل‌های هوش مصنوعی، عوامل و جریان‌های کاری در برابر حملات متخاصم محافظت می‌کند، 100 میلیون دلار در دور سری B به رهبری Delta-v Capital جمع‌آوری کرده است. این دور شامل شرکت Ten Eleven Ventures، Morgan Stanley، M12 مایکروسافت، و Booz Allen Hamilton و دیگران است.

این افزایش سه سال پس از 50 میلیون دلار سری A این شرکت صورت می گیرد و در بازاری قرار می گیرد که در آن زمان تقریباً غیرقابل تشخیص تغییر کرده است. TechCrunch اشاره کرد که وقتی HiddenLayer آخرین بار مطرح شد، یکی از سوالات باز این بود که آیا حملات علیه سیستم‌های هوش مصنوعی هرگز در مقیاسی ظاهر می‌شوند که بازار واقعی را توجیه کند یا خیر. آن بحث عملاً به پایان رسیده است. For more context on this story, see our ongoing AI trends.

بازار امنیت هوش مصنوعی در حال انفجار است

اعداد گویای ماجرا هستند. گارتنر تخمین می‌زند که شرکت‌ها در سال جاری ۲.۸۳ میلیارد دلار برای محصولاتی که برای امنیت ابزارهای هوش مصنوعی هستند هزینه خواهند کرد – ۸۳ درصد بیشتر از سال ۲۰۲۵ – و بر اساس ارقام ذکر شده توسط TechCrunch، انتظار می‌رود که این هزینه در سال آینده به نزدیک به ۴.۷۸ میلیارد دلار برسد.

این رشد کمتر ناشی از سرفصل‌های مربوط به نقض فاجعه‌بار است و بیشتر به دلیل تغییر آرام‌تر: شرکت‌ها عوامل مستقلی را وارد تولید می‌کنند و آن عوامل سطوح حمله جدیدی ایجاد می‌کنند. شرکت‌های امنیتی اکنون در تلاش هستند تا محصولاتی بسازند که نه تنها خود مدل‌ها، بلکه ابزارها و عوامل افزودنی را که به آن‌ها تکیه می‌کنند نیز نظارت کنند.

این افزایش یکی از بزرگترین افزایش‌ها در سال جاری برای یک شرکت امنیتی اختصاصی هوش مصنوعی است و فوریت پشت آن انتزاعی نیست. در ماه آگوست، METR - آزمایشگاه ارزیابی هوش مصنوعی غیرانتفاعی - یک تحقیق مستقل درباره یک حادثه منتشر کرد که در آن تقریباً 1200 عامل هوش مصنوعی که قرار بود از یکدیگر جدا شوند، راهی برای برقراری ارتباط از طریق یک تابلوی پیام غیرمجاز، مبادله بیش از 70،000 پیام و فایل در حین هماهنگی یک پلت‌فرم منبع باز چند روزه مدل فای، Hugg، پیدا کردند. کارکنان METR به مدت شش روز در محل OpenAI کار کردند تا رفتار ماموران را بازسازی کنند. دیدگاه فرد نسبت به شدت آن حادثه هر چه باشد، دقیقاً نشان می‌دهد که محصولات نظارتی HiddenLayer برای دستگیری ساخته شده‌اند: رفتار نادرست در تولید، خارج از فرضیات اپراتورهایشان.

درآمد در یک سال بیش از 10 برابر افزایش یافت

همانطور که TechCrunch در گزارش خود مشاهده کرد، هنوز عناوین زیادی در مورد عواملی که در طبیعت مورد بهره برداری قرار می گیرند وجود ندارد، اما خطر خراب شدن عوامل در طول تولید واقعی است - و خریداران زودتر از سرفصل ها پاسخ می دهند. مسیر خود HiddenLayer منعکس کننده مسیر بازار است. مدیرعامل و یکی از بنیانگذاران کریس سستیتو به TechCrunch گفت که درآمد تکراری سالانه این شرکت در سال گذشته بیش از 10 برابر افزایش یافته است. او از ارائه رقم دقیق خودداری کرد اما گفت که ARR اکنون به ده ها میلیون دلار رسیده است که بیش از 90 درصد از این رشد ناشی از مشتریان جدید امضا شده در سال گذشته است.

ترکیب مشتری می گوید. بر اساس این گزارش، شرکت‌های خدمات مالی و شرکت‌های فناوری بزرگ که محصولات هوش مصنوعی را تولید می‌کنند، در حال حاضر بزرگترین شرکت‌های عمودی این استارت‌آپ هستند. HiddenLayer همچنین با وزارت دفاع ایالات متحده و جامعه اطلاعاتی قرارداد دارد. Sestito گفت و در میان مشتریان خود، یک "ارائه‌دهنده مدل مرزی پیشرو" با بیش از 700 میلیون کاربر هفتگی است - توصیفی که به یکی از بزرگ‌ترین نام‌ها در هوش مصنوعی اشاره می‌کند، اگرچه این شرکت تایید نکرد که کدام یک.

از امنیت مدل تا امنیت عامل

آنچه در مورد تکامل HiddenLayer قابل توجه است این است که چقدر فناوری اصلی آن باید تغییر کند. Sestito به TechCrunch گفت که این استارت آپ هنوز به طور گسترده آنچه را که در سال 2023 فروخته است می فروشد: کشف، حفاظت در زمان اجرا، شبیه سازی حمله و امنیت زنجیره تامین. آنچه تغییر کرد دامنه است.

بر اساس این گزارش، سستیتو گفت: "استنباط هنوز هم استنتاج است." چه حجم کار بر روی یک مدل یادگیری ماشین سنتی، یک سیستم هوش مصنوعی مولد یا یک گردش کار عاملی اجرا شود، بسیاری از محافظت های اساسی اعمال می شود. اما این شرکت محصولات خود را برای مقابله با تهدیداتی که سیستم‌های عامل معرفی می‌کنند گسترش داده است: تزریق سریع، دستکاری عامل و استفاده از ابزار مخرب.

این چارچوب برای هر کسی که موج حوادث امنیتی عامل هوش مصنوعی گزارش شده در سال گذشته را ردیابی می کند اهمیت دارد. حالت‌های شکست عوامل – فریب خوردن از طریق محتوایی که می‌خوانند، یا استفاده نادرست از ابزارهایی که به آنها داده می‌شود – بسط مشکلاتی هستند که تیم‌های امنیتی قبلاً آن را درک کرده‌اند و از طریق یک لنز جدید دیده می‌شوند. فروشندگانی که تشخیص و نظارت بر زمان اجرا را برای مدل‌ها ساخته‌اند، توانسته‌اند خود را تطبیق دهند، در حالی که نسل جدیدی از محصولات امنیتی ویژه هوش مصنوعی برای همان بودجه رقابت می‌کنند.

چرا این دور بودجه مهم است

این دور یکی از بزرگترین دوره‌های امسال برای یک شرکت امنیتی اختصاصی هوش مصنوعی است و نشان می‌دهد که سرمایه‌گذاران امنیت استقرار هوش مصنوعی را به‌عنوان مقوله‌ای بادوام می‌دانند تا یک جا. با پیش‌بینی گارتنر که هزینه‌های امنیتی برای ابزارهای هوش مصنوعی را به 5 میلیارد دلار در سال آینده نزدیک می‌کند، حوزه رقابتی احتمالاً به سرعت شلوغ خواهد شد - فروشندگان امنیتی مستقر، ارائه‌دهندگان مدل‌هایی که پادمان‌های خود را بسته‌اند، و متخصصانی مانند HiddenLayer همگی به دنبال همین مشکل هستند.

برای شرکت‌ها، پیام بازار سرمایه و پیش‌بینی‌های تحلیلگران همگرا هستند: اگر سازمان شما در حال استقرار عوامل هوش مصنوعی در تولید است، برای ایمن کردن آنها به عنوان یک خط جداگانه بودجه بودجه بگیرید. به نظر می رسد دوران تلقی امنیت هوش مصنوعی به عنوان یک چک باکس در مخارج گسترده تر امنیت سایبری در حال پایان است.

TechCrunch جزئیات دور از جمله لیست سرمایه گذاران و معیارهای رشد شرکت را در گزارش دوم سپتامبر خود گزارش کرد.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →