داریو آمودی، مدیرعامل آنتروپیک می‌گوید واکنش‌های هوش مصنوعی اساساً یک بحران اعتماد است.

داریو آمودی، مدیر عامل آنتروپیک، از این ایده که تصویری بیش از حد بدبینانه از هوش مصنوعی ترسیم کرده است، مخالفت کرده و در یک سری پست‌ها استدلال می‌کند که واکنش فزاینده عمومی به این فناوری «اساساً یک بحران اعتماد» به مؤسسات است – نه محصول هشدارهای مدیران هوش مصنوعی.

این تبادل که توسط TechCrunch در روز یکشنبه گزارش شد، زمانی آغاز شد که گاوین بیکر، سرمایه‌گذار در پادکست All-In و در X استدلال کرد که هشدارهای Amodei در مورد خطرات هوش مصنوعی به واکنش‌های شدید در ایالات متحده، به ویژه علیه مراکز داده، کمک کرده است. بیکر ادعا کرد که آمودی بحث را در مورد مقررات هوش مصنوعی از دست داده است و با توجه به اینکه "او در شرف تبدیل شدن به مدیرعاملی یکی از مهم ترین شرکت های جهان است" نوشت: "با احترام فکر می کنم او باید تلاش کند تا مدافع مثبت تری برای صنعت خودش باشد." For more context on this story, see our ongoing AI trends.

پاسخ Amodei که در X منتشر شد، توجه صنعت هوش مصنوعی را به دلیل آنچه در مورد چگونگی تفسیر روحیه ناخوشایند مردم توسط یکی از برجسته‌ترین رهبران این حوزه فاش می‌کند - و انتقاد غیرمعمولی صریح از خود در مورد وعده‌های عملی نشده این صنعت جلب کرده است.

'مردم عادی به شرکت ها اعتماد ندارند'

آمودی در پست های خود اذعان کرد که "مردم دید منفی نسبت به هوش مصنوعی دارند" و موافقت کردند که "این یک مشکل بزرگ است." اما او این تصور را رد کرد که منفی بودن "در درجه اول ناشی از" او یا هر رهبر دیگر هوش مصنوعی است که در مورد خطرات هوش مصنوعی هشدار می دهد."

آمودی نوشت: «فکر می‌کنم اساساً بحران اعتماد است. من فکر می‌کنم که مردم عادی به شرکت‌ها، دولت‌ها یا صنعت فناوری اعتماد ندارند و همیشه مشکوک هستند که ما در حال ایجاد راه جدیدی برای خراب کردن آنها هستیم.»

به گفته آمودی، این یک بحران دهه‌ها در حال شکل‌گیری است، با واکنش شدید هوش مصنوعی «فقط آخرین تکرار آن». این اظهار نظر در لحظه تنش قابل مشاهده بین شرکت‌های هوش مصنوعی و مردم است: اعتراضات علیه ساخت مرکز داده در سراسر ایالات متحده گسترش یافته است و مخالفت‌های جامعه بارها ساخت‌وسازهای اصلی را در سال جاری به تعویق انداخته‌اند.

بحث در مورد اتهام "پیام منفی".

آمودی با این اتهام خاص که ارتباط خودش خیلی تاریک بوده است، مستقیم صحبت کرد. او نوشت: "من موافق نیستم که پیام من به طور نامتناسبی منفی بوده است." او خاطرنشان کرد که مقاله خود را با عنوان "Machines of Loving Grace" دقیقاً به این دلیل نوشته است که "احساس نمی کند صنعت هوش مصنوعی تصویری الهام بخش از این که چگونه این فناوری می تواند جهان را به طور اساسی به سمت بهتر شدن تغییر دهد" ترسیم می کند.

اما بیشترین نقل قول از پاسخ آمودی، صنعت خودش - از جمله شرکت خودش- بود. او نوشت: «فکر می‌کنم تا حد زیادی دقیق‌ترین انتقاد از شرکت‌های هوش مصنوعی از جمله آنتروپیک این است که ما هنوز به وعده‌های بزرگ خود برای سودمندی جهان عمل نکرده‌ایم. "این کاملاً به عهده ماست و من فکر می کنم این انتقادی است که شما باید به جای این همه چیز در مورد پیام رسانی و بازاریابی انجام دهید."

او افزود که قول دادن به اینکه هوش مصنوعی سرطان را درمان می کند، "بیشتر کلیشه ای است تا الهام بخش". او استدلال کرد که آنچه در واقع افکار عمومی را تغییر می دهد "در واقع درمان سرطان" است.

مبارزه مقررات

آمودی همچنین چارچوب‌بندی بیکر در مورد مقررات را رد کرد و او را متهم کرد که «یک انتخاب غلط» بین توزیع گسترده هوش مصنوعی بدون قوانین یا تمرکز فناوری در دست چند شرکت از طریق قوانین انجام می‌دهد.

آمودی می‌نویسد: «می‌دانم که نوعی کوتاه‌نویسی دره سیلیکون وجود دارد که در آن مقررات = تسخیر نظارتی = تمرکز قدرت وجود دارد، اما همیشه دریافته‌ام که این تصویری بسیار ساده از جهان است. بسیاری از مردم خارج از این حباب، مقررات را چیزی می دانند که قدرت شرکت ها را محدود می کند و به نفع مردم عادی است.

او گفت که آنتروپیک عمداً پیشنهادهای سیاستی را برای جلوگیری از تثبیت مدیران متصدی ایجاد کرده است. او می‌نویسد: «ما بسیار تلاش می‌کنیم تا پیشنهاداتی ارائه دهیم که شرکت‌های هوش مصنوعی مرزی را به ضرر (آهسته‌تر) کند و در عین حال از رقبای کوچک‌تر *بهره می‌آورد. Anthropic از الزامات شفافیت در مورد شرکت های بزرگ هوش مصنوعی، از جمله لایحه ای در کالیفرنیا که تعهدات افشا را اعمال می کند، حمایت کرده است.

در مورد مدل‌های وزن باز - نقطه اشتعال در بحث سیاست فعلی، با حرکت کاخ سفید برای معاف کردن مدل‌های وزن باز از برخی بررسی‌های فدرال - Amodei موضع متفاوتی ارائه کرد. او استدلال کرد: «هوش مصنوعی از نظر ساختاری یک فناوری است که تمایل دارد قدرت را متمرکز کند. وزن‌های باز "به برخی در این امر کمک می‌کنند، اما به یک راه‌حل کافی نزدیک نیستند، زیرا آنها به سادگی تمرکز را تا حدودی به آنهایی که بیشترین محاسبات و تراشه را دارند تغییر می‌دهند." او گفت که "قوانین جاده ای" درست می تواند به طور همزمان خطرات سایبری، زیستی و هم ترازی را برطرف کند، قدرت آزمایشگاه های مرزی را محدود کند و فضایی را برای مدل های با وزن باز باز کند.

چرا تبادل اهمیت دارد

این بحث در لحظه حساسی برای آنتروپیک پیش می‌رود. این شرکت در حال سوار شدن بر موجی از موفقیت تجاری است، با رشد درآمدی که آن را به یکی از کسب‌وکارهای مورد توجه در حوزه فناوری تبدیل کرده است و انتظار می‌رود که به طور گسترده‌ای به دنبال یک فهرست عمومی باشد. مدیرعامل آن به طور همزمان یکی از سرسخت‌ترین مدافعان صنعت برای جدی گرفتن خطرات هوش مصنوعی باقی می‌ماند - ترکیبی که پیام‌های او را به یک میله برق‌آب تبدیل می‌کند.

استدلال بیکر جریان گسترده‌تری را در سرمایه‌گذاری خطرپذیر و در میان تقویت‌کنندگان هوش مصنوعی منعکس می‌کند: این که بدبینی عمومی نسبت به هوش مصنوعی عمدتاً یک مشکل ارتباطی است که با احتیاط خود صنعت ایجاد شده است. پاسخ Amodei به طور موثر این چارچوب را معکوس می کند - مشکل آنچه رهبران هوش مصنوعی می گویند نیست، بلکه آنچه صنعت در ارائه آن شکست خورده است و اعتماد عمومی به مؤسسات سازنده این فناوری کم است.

برای شرکتی که نام تجاری آن بر اساس آزمایشگاه مسئول هوش مصنوعی ساخته شده است، موضع ثابت است. اما امتیاز آمودی - که سخت‌ترین و دقیق‌ترین انتقاد، شکاف صنعت بین وعده‌ها و تحویل است - یک اعتراف صریح از سوی مدیرعاملی است که شرکتش برخی از بزرگترین وعده‌ها را داده است.

این پست‌ها همچنین موقعیتی را ترسیم می‌کنند که احتمالاً آنتروپیک با تشدید جنگ‌های سیاسی در واشنگتن از آن دفاع می‌کند: قوانین شفافیت برای آزمایشگاه‌های مرزی، حفاظت‌هایی که به نفع رقبای کوچک‌تر است، و بدون پیش‌فرض کلی که وزن‌های باز مشکل تمرکز قدرت را حل می‌کند.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →