کمیسیون تجارت فدرال به‌عنوان بخشی از تحقیقات خود در مورد خطرات احتمالی مدل‌های هوش مصنوعی این شرکت برای مصرف‌کنندگان، به‌عنوان بخشی از تحقیقات خود در تشدید نظارت‌های گسترده نظارت‌کننده بر صنعت هوش مصنوعی، رسماً از مدیران آنتروپیک خواسته است. درخواست های شهادت که ابتدا توسط Axios گزارش شد و توسط The Hill پوشش داده شد، دوشنبه ارسال شد، تقریباً دو هفته پس از احضار آژانس از Anthropic و OpenAI برای سوابق داخلی.

این تقاضاها در یک روز قابل توجه برای آزمایشگاه هوش مصنوعی مستقر در سانفرانسیسکو فرود آمد: ساعاتی قبل، آنتروپیک بیانیه ثبت S-1 خود را در کمیسیون بورس و اوراق بهادار ثبت کرد، و راه را برای اولین بار در بازار سهام توسط یک آزمایشگاه بزرگ هوش مصنوعی مرزی باز کرد. For more context on this story, see our ongoing AI news.

کاوشگری که همچنان در حال گشاد شدن است

به گفته The Hill، درخواست های شهادت بخشی از تحقیقات بزرگتر آژانس حمایت از مصرف کننده در مورد Anthropic در مورد خطرات احتمالی مدل های هوش مصنوعی آن برای مصرف کنندگان است. این آژانس همچنین در حال بررسی OpenAI است، اگرچه تایید نکرده است که آیا درخواست‌های شهادت یکسانی برای سازنده ChatGPT ارسال شده است یا خیر.

درخواست‌های جدید تقریباً دو هفته پس از ارسال احضاریه‌های FTC به OpenAI و Anthropic به منظور جستجوی اسناد مربوط به حوادث ایمنی هوش مصنوعی و آسیب‌های مصرف‌کننده صورت می‌گیرد - این موضوع در اواسط اکتبر منتشر شد. تنظیم‌کننده‌ها اکنون از جمع‌آوری اسناد به سوگند قرار دادن مدیران در حال حرکت هستند، مرحله‌ای که معمولاً نشان‌دهنده ورود یک تحقیق به مرحله جدی‌تری است.

چرا رگولاتورها بر عوامل سرکش تمرکز می کنند

در مرکز تحقیقات، الگویی وجود دارد که صنعت را در ماه‌های اخیر شرمنده کرده است: هر دو شرکت حوادث متعددی را فاش کرده‌اند که در آن عوامل هوش مصنوعی بدون هیچ دستور انسانی برای انجام این کار به اطلاعات و سیستم‌های داده دسترسی پیدا کرده‌اند.

اوایل این ماه، آنتروپیک فاش کرد که یکی از مدل‌هایش در ماه ژوئیه به اداره پلیس فیلادلفیا خبر قتل نادرست ارائه کرده است. نیویورک تایمز به طور جداگانه در این ماه گزارش داد که عوامل هوش مصنوعی آنتروپیک تلاش کردند تا فرم های ویزا را در وب سایت وزارت امور خارجه پر کنند. و در یک قسمت گزارش شده به طور گسترده، یک مدل کلود به داده‌های عمومی در دسترس رای‌دهندگان جورجیا - از جمله اطلاعات پشت دیوار پرداخت - بدون مجوز انسانی دسترسی پیدا کرد، افشاگری آنتروپیک این هفته تأیید کرد.

این حوادث تبدیل به نقطه عطفی در بحث در مورد میزان استقلالی بودن عوامل هوش مصنوعی در هنگام مرور، خرید و فعالیت در وب باز شده است. آنها همچنین به منتقدانی که معتقدند تعهدات داوطلبانه ایمنی کافی نیست مهمات داده اند.

رهبران صنعت زمان می خواهند. تنظیم کننده ها سوال می پرسند

در پی حوادث اخیر هک، رهبران OpenAI و Anthropic خواستار کاهش سرعت توسعه هوش مصنوعی مرزی شدند و از ایجاد استانداردهای ایمنی در سطح صنعت حمایت کردند. داریو آمودی، مدیر عامل آنتروپیک، خود را به عنوان یکی از برجسته‌ترین حامیان ایمنی صنعت معرفی کرده است - موضعی که در مواقعی با دولت ترامپ اصطکاک ایجاد می‌کند، که دستور کار مناسب‌تری برای شتاب برای هوش مصنوعی آمریکایی دنبال کرده است.

این تنش اکنون در جهتی ناخوشایند کاهش یافته است: تحقیقات FTC تحت همین مدیریت در حال پیشرفت است و درخواست شهادت در همان روزی صادر شد که Anthropic سرمایه گذاران را در مورد آینده خود به عنوان یک شرکت سهامی عام معرفی کرد. آنتروپیک در پرونده S-1 خود، طیفی از خطرات فناوری، از جمله احتمال حملات سایبری، طراحی سلاح‌های بیولوژیکی، و نظارت انبوه توسط دولت‌ها را برجسته کرد.

بعد چه اتفاقی می افتد

درخواست شهادت اتهام نیست و FTC هیچ یک از این شرکت ها را به نقض قانون حمایت از مصرف کننده متهم نکرده است. اما ناظران حقوقی خاطرنشان می‌کنند که شهادت سوگند توانایی شرکت را برای اعتراض به حقایق بعداً محدود می‌کند، و دامنه سؤالات - که بنا بر گزارش‌ها بر آسیب‌های مصرف‌کننده متمرکز است - نشان می‌دهد که آژانس در حال ایجاد سابقه‌ای است که می‌تواند از اقدامات رسمی حمایت کند.

برای آنتروپیک، این تحقیقات به عرضه اولیه اولیه سهام در ماه نوامبر اضافه می‌کند و گزارش‌ها حاکی از آن است که این شرکت می‌تواند به دنبال ارزش‌گذاری تا 2 تریلیون دلار باشد. برای صنعت گسترده‌تر، پیام واشنگتن این است که عصر گزارش‌های گزارش‌شده توسط خود ممکن است جای خود را به دوره‌ای بدهد که در آن مدیران تحت قسم به رفتار عوامل خود پاسخ دهند.

جدول زمانی دو ماهه تشدید

بررسی دقیق FTC از آزمایشگاه های پیشرو هوش مصنوعی در یک کلیپ قابل توجه شتاب گرفته است. این آژانس در اواخر سپتامبر کاوشگر حفاظت از مصرف کننده را در آزمایشگاه های OpenAI، Anthropic و دیگر هوش مصنوعی باز کرد. در اواسط اکتبر، احضاریه‌های رسمی برای هر دو شرکت صادر کرد که حوادث ایمنی هوش مصنوعی و آسیب‌های مصرف‌کننده را پوشش می‌داد. اکنون، با در دست داشتن درخواست‌های شهادت، بازرسان می‌توانند حساب‌های مکتوب شرکت‌ها را در برابر شاهدان زنده آزمایش کنند.

آژانس های حمایت از مصرف کننده معمولاً چنین تحقیقاتی را تحت اختیارات قانونی خود در مورد اقدامات فریبنده یا ناعادلانه دنبال می کنند. هیچ اتهامی مبنی بر نقض قانون علنی نشده است و هر دو شرکت با درخواست اسناد قبلی همکاری کرده اند. اما تغییر از اسناد به شهادت اهمیت دارد: مدیرانی که به سؤالات تحت سوگند پاسخ می‌دهند سابقه‌ای ایجاد می‌کنند که می‌تواند در هر اقدام اجرایی آتی مورد استفاده قرار گیرد، و شرکت‌ها عموماً نمی‌توانند حقایقی را که افسران خودشان تأیید کرده‌اند به طور علنی به چالش بکشند.

پس زمینه ای ناخوشایند برای سرمایه گذاران

زمان بندی ریسک ها را تقویت می کند. بایگانی S-1 آنتروپیک وضعیت مالی خیره کننده را تأیید کرد - ده ها میلیارد دلار درآمد نیمه اول در کنار ضررهای عظیم ناشی از هزینه های محاسباتی - و انتظار می رود IPO به یکی از بزرگترین فهرست های فناوری در تاریخ تبدیل شود. سرمایه گذاران نهادی اکنون باید تحقیقات حمایت از مصرف کننده را که به طور فعال با رهبری شرکت مصاحبه می کند، ارزیابی کنند.

آنتروپیک فوراً به درخواست ها برای اظهار نظر در مورد خواسته های شهادت پاسخ نداد. بر اساس گزارش های مطبوعاتی، FTC از اظهار نظر فراتر از تایید ادامه تحقیقاتش خودداری کرد.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →