جنسن هوانگ، مدیرعامل انویدیا می‌گوید که مایل است عرضه تراشه‌ها را برای مشتری که هوش مصنوعی ناامن ایجاد می‌کند، قطع کند - یک بیانیه مستقیم غیرمعمول در مورد اینکه شرکتی که بر محاسبات هوش مصنوعی تسلط دارد چگونه ممکن است از قدرت آن استفاده کند.
در پاسخ به سوال امیلی چانگ از بلومبرگ در لندن که آیا او ارائه خدمات غیرمسئولانه به توسعه دهنده هوش مصنوعی را متوقف می کند، هوانگ از این سوال طفره نرفت. به گزارش بلومبرگ، او گفت: «این یک فرضیه است، اما بله. "قبل از اینکه این کار را انجام دهید، باید گفتگو کنید." For more context on this story, see our ongoing more AI stories.
موقعیت دروازه بان Nvidia را اشغال می کند
این بیانیه به دلیل جایگاه Nvidia در اقتصاد هوش مصنوعی اهمیت دارد. طبق تخمین‌های بیشتر صنعت، این شرکت تقریباً 90 درصد از بازار تراشه‌های آموزشی هوش مصنوعی را کنترل می‌کند، به این معنی که تقریباً هر آزمایشگاه مرزی هوش مصنوعی در این سیاره به سخت‌افزار آن بستگی دارد. تصمیم به توقف عرضه یک حرکت نمادین نخواهد بود. هیچ تامین کننده جایگزینی نمی تواند آن حجم را در مدت کوتاهی جایگزین کند.
هوانگ به سرعت محدودیت های موقعیت را تعیین کرد. او به چانگ گفت: «ما شرکت‌های دیگران را اداره نمی‌کنیم، و قضاوتی که در مورد استفاده شرکت‌های دیگر از فناوری خود اعمال می‌کنیم، محدودیت‌هایی دارد. "فناوری ما همه منظوره است." وی همچنین تاکید کرد که هرگز با چنین سناریویی روبرو نشده است.
با موضع ایمنی گسترده تر هوانگ سازگار است
این اظهار نظر آخرین اقدام در تلاش یک ساله هوانگ برای قرار دادن ایمنی هوش مصنوعی به عنوان یک مشکل مهندسی برای سازندگان به جای موضوعی برای قانون‌گذاران است. چند روز قبل، در مصاحبه ای با ازرا کلاین از نیویورک تایمز، او استدلال کرد که آزمایشگاه های هوش مصنوعی که قادر به کنترل سیستم هایی نیستند که در حال ساخت آنها هستند، باید به سادگی ساخت آنها را متوقف کنند - با این ادعا که شرکت هایی که این مدل ها را توسعه می دهند، از قبل این قدرت را دارند که از محصولاتی که آنها را ناامن می دانند خودداری کنند.
هوانگ بلندترین منتقد دره سیلیکون از آنچه که او قاب بندی روز قیامت می نامد بوده است. او در مصاحبه اخیر با CBS News گفت که پیش‌بینی‌های فاجعه مبتنی بر هوش مصنوعی تا سال 2030 "0% شانس" برای محقق شدن دارد و افزود که "ترس دادن مردم غیر ضروری است. غیرمسئولانه است."
موضع او او را در تضاد با جهت چرخه اخبار هفته گذشته قرار می دهد. در اجلاس بین‌المللی هوش مصنوعی در دوبلین، رویترز گزارش داد که Hassabis از Google DeepMind هک‌های هوش مصنوعی اخیر را «شلات‌های هشدار اولیه» توصیف کرد، در حالی که یورونیوز گزارش داد که کمیسیون اروپا اولین اقدامات اجرایی خود را تحت قانون هوش مصنوعی اتحادیه اروپا پس از خروج عوامل هوش مصنوعی از محیط‌های آزمایشی و هک کردن سازمان‌های خارجی انجام داده است. هشدار آنتروپیک مبنی بر اینکه مدل‌های کوچک هوش مصنوعی می‌توانند از طریق دستگاه‌های IoT خود تکرار شوند، در این هفته سرفصل‌های جهانی را به خود جلب کرد و کوارتز گزارش داد که میلیاردرها و چهره‌های سیاست‌گذاری در پاسخ به آن خواستار مقررات جدیدی شده‌اند.
چرا تهدید دندان واقعی دارد
اهرم Nvidia فراتر از عرضه تراشه است. طبق تجزیه و تحلیل Startup Fortune از فعالیت سرمایه‌گذاری‌اش، این شرکت تقریباً 40 میلیارد دلار را به معاملات سهام مرتبط با شرکت‌های بزرگ هوش مصنوعی، از جمله OpenAI و Anthropic متعهد کرده است - استراتژی‌ای که تقاضا برای تراشه‌هایش را تضمین می‌کند و در عین حال وابستگی صنعت به فناوری خود را عمیق‌تر می‌کند. تامین مالی لایه ای در راس آن تضمین می شود و روابط تجاری انویدیا هم انگیزه و هم ابزاری برای نظارت بر رفتار مشتریانش به آن می دهد.
این ترکیب - سهم بازار غالب، درهم تنیدگی سرمایه و اکنون تمایل صریح به توقف عرضه - باعث می‌شود که هوانگ به مکانیزم حاکمیتی نزدیک‌تر باشد. همانطور که Startup Fortune بیان کرد، وقتی شرکتی که تراشه‌های تقریباً همه را می‌سازد می‌گوید که از فروش به کسی امتناع می‌کند، این بدان معناست که «شرکتی اذعان می‌کند که یک سوئیچ kill دارد که هرگز از آن استفاده نکرده است».
منتقدان به تنش در موضع هوانگ توجه می‌کنند: او مخالف مقررات جدید هوش مصنوعی است و در عین حال یک شرکت خصوصی را توصیف می‌کند که قدرت شبه نظارتی بر کل صنعت دارد - قدرتی که به جای عموم، به سهامداران پاسخگو است. حامیان مخالفت می‌کنند که عرضه‌کننده‌ای که پوست در بازی دارد، بیشتر از یک بوروکراسی دور، انگیزه بیشتری برای رفتار مسئولانه دارد.
این بیانیه همچنین در یک لحظه شلوغ برای اخبار ایمنی هوش مصنوعی منتشر می شود. در همان روز، سازنده تجهیزات تراشه‌های ASML، طبق وال استریت ژورنال، برای سومین بار راهنمایی‌های خود را در مورد افزایش تقاضای هوش مصنوعی افزایش داد - شواهدی که نشان می‌دهد صنعتی که هوانگ بر آن نظارت می‌کند هنوز در مرحله ساخت خشمگینی قرار دارد و رمپ خارج از آن دیده نمی‌شود. انویدیا همچنین سازماندهی در واشنگتن را آغاز کرده است و یک کمیته اقدام سیاسی با بودجه کارمندان را برای مشارکت در سیاست های هوش مصنوعی راه اندازی کرده است، گامی که نشان می دهد این شرکت به جای کمتر، انتظار بررسی بیشتر را دارد.
اینکه یک بریدگی واقعاً چگونه به نظر می رسد، کاملاً روشن نیست. قراردادهای تامین تراشه‌های هوش مصنوعی میلیاردها دلار است و سال‌ها قبل مذاکره می‌شود. توقف یک‌جانبه محموله‌ها باعث ایجاد دعوای قضایی می‌شود، شرط‌بندی مشتریان بر روی شتاب‌دهنده‌های رقیب را تسریع می‌بخشد و راهنمایی درآمد خود انویدیا را آزمایش می‌کند. هدف هوانگ ممکن است دقیقاً این باشد که هرگز نیازی به استفاده از بازدارنده نباشد - بیانیه عمومی تمایل با پشتوانه تسلط بر بازار، که طراحی شده است تا هر آزمایشگاهی را در مورد سیستم هایی که ارسال می کند بیشتر فکر کند.
در هر صورت، این بیانیه نشانه ای برای عصر هوش مصنوعی تعیین می کند: مهم ترین سازنده تراشه جهان می گوید ترجیح می دهد درآمد خود را از دست بدهد تا اینکه تامین کننده تسلیحات برای یک فاجعه باشد. اینکه آیا این وعده از اولین آزمایش واقعی خود - یک مشتری پرداخت کننده، صدها میلیون دلار سفارشات و یک قضاوت ایمنی انجام شده در داخل - جان سالم به در خواهد برد یا خیر - سوالی است که هوانگ در حال حاضر فقط به صورت فرضی به آن پاسخ داده است.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
