OpenAI یک شبکه کلاهبرداری هماهنگ مبتنی بر ChatGPT را که در Poipet، کامبوج فعالیت می کرد، مختل کرده است، این شرکت در گزارشی فاش کرد که چگونه گروه های جنایتکار اکنون مدل های هوش مصنوعی تجاری را در عملیات روزانه ترکیبات کار اجباری جاسازی می کنند.

این افشاگری که در 31 ژوئیه تحت عنوان "اخلال در عملیات کلاهبرداری مجرمانه" منتشر شد، سندیکایی را توصیف می کند که از ChatGPT نه تنها برای فریب قربانیان در سراسر جهان بلکه برای مدیریت فعالیت های داخلی یک شرکت مرتبط با قاچاق استفاده می کرد. این پرونده دریچه ای به نحوه تغییر مدل های زبانی بزرگ به عنوان زیرساخت عملیاتی برای جرایم سازمان یافته ارائه می دهد. برای گزارش مداوم در مورد سوء استفاده و نرده های محافظ هوش مصنوعی، آخرین پیشرفت های هوش مصنوعی را در AI Buzz Wire دنبال کنید.

نحوه عملکرد شبکه

بر اساس یافته‌های OpenAI، این شرکت مجرمانه برای ترجمه دسترسی به قربانیان، ایجاد رابط‌های سرمایه‌گذاری تقلبی و پیش‌نویس اعلامیه‌های قانونی جعلی به ChatGPT متکی است. اپراتورها افراد را از طریق پلتفرم‌های پیام‌رسانی از جمله واتس‌اپ و تلگرام هدف قرار می‌دادند و در چرخه عمر فریب سه مرحله‌ای دوچرخه‌سواری می‌کردند.

این طرح معمولاً با طرح‌های عاشقانه‌ای که برای ایجاد اعتماد طراحی شده بود، شروع شد، سپس به سمت پلتفرم‌های سرمایه‌گذاری جعلی ارزهای دیجیتال چرخید و در نهایت با شکست برنامه‌های قبلی به تهدید جریمه‌های جعلی اجرای قانون افزایش یافت. اپراتورها خود را به یک کلاهبرداری محدود نکردند - آنها تنظیمات عاشقانه را با میزهای جعلی تجارت طلا ترکیب کردند و اهداف را به کانال های قمار تغییر دادند و تعداد مسیرهای پرداخت را به حداکثر رساندند.

آنچه این عملیات را متمایز می کرد مقیاس و نظم استفاده از هوش مصنوعی آن بود. این سندیکا به جای اجرای تعداد انگشت شماری از درخواست های یکباره، مدل های مولد را سیستماتیک کرد تا ارتباطات محلی متقاعدکننده و محلی را با حجم بالا در چندین زبان ایجاد کند.

بعد کار اجباری

نگران‌کننده‌ترین یافته‌ها نه از تقلب با قربانی، بلکه از فعالیت‌های داخلی گروه به دست آمد. گزارش‌های سریع بازیابی شده در طول تحقیقات نشان داد که اپراتورها از ChatGPT برای کارهای اداری در داخل ترکیبات کلاهبرداری فیزیکی واقع در نزدیکی مرز تایلند و کامبوج استفاده می‌کنند.

این گزارش‌ها شامل ترجمه ارتباطات مدیریتی، ثبت بدهی‌های کارگران، ثبت وقایع ویزا و پیگیری جریمه‌های انضباطی بود. برخی از ورودی ها به بازداشت اجباری، کارگران فراری و شبکه های قاچاق انسان اشاره داشتند. این جزئیات با سالها گزارش در مورد ترکیبات کلاهبرداری جنوب شرقی آسیا مطابقت دارد، که اغلب افراد جویای کار را با پیشنهادات اداری تقلبی قبل از مصادره گذرنامه ها و وادار کردن آنها به کار جرایم سایبری تحت تهدید خشونت، فریب می دهند.

به عبارت دیگر، مدل‌های هوش مصنوعی وظیفه مضاعف را انجام می‌دادند: در برابر قربانیان خارجی سلاح می‌گرفتند و همزمان به عنوان نرم‌افزار مدیریتی برای نیروی کار اسیر عمل می‌کردند.

پاسخ OpenAI

OpenAI گفت که حساب های مرتبط با این عملیات را شناسایی و قطع کرده و دسترسی سندیکا به مدل های خود را مسدود کرده است. این شرکت این اختلال را بخشی از تلاش گسترده‌تر برای شناسایی و از بین بردن شبکه‌هایی توصیف کرد که از پلتفرم آن برای جرایم مالی و نقض حقوق بشر سوء استفاده می‌کنند.

این مورد بر چالش فزاینده ای برای ارائه دهندگان هوش مصنوعی تاکید می کند. بازیگران مخرب دیگر مدل‌های زبان تجاری را صرفاً به عنوان سلاح‌های خارجی در نظر نمی‌گیرند - آنها آن‌ها را به‌عنوان میان‌افزار عملیاتی به کار می‌گیرند و آن‌ها را در دستگاه‌های پشتیبان شرکت‌های مجرمانه قرار می‌دهند. تشخیص این نوع سوء استفاده مستلزم نگاهی فراتر از اطالعات آشکار قربانی است.

یک مشکل تشخیص جدید

تجزیه و تحلیل امنیتی این عملیات نشان می دهد که فیلتر کردن کلمات کلیدی ساده در درخواست های مربوط به کلاهبرداری دیگر کافی نیست. موارد استفاده اداری - ترجمه یادداشت‌ها، ردیابی بدهی‌ها، ثبت حضور و غیاب - به‌طور مجزا دنیوی خوانده می‌شوند و به مراتب سخت‌تر از اسکریپت‌های کلاهبرداری آشکار هستند.

با توجه به پوشش این اختلال، شناسایی سوء استفاده از این ماهیت به طور فزاینده ای به اشتراک گذاری اطلاعات بین پلتفرمی و تجزیه و تحلیل رفتاری دستورات اداری را می طلبد، جایی که عملیات مجرمانه حتی زمانی که درخواست های فردی خوش خیم به نظر می رسند، ردپای عملیاتی متمایز از خود بر جای می گذارند. درخواست از یک مدل برای «ترجمه این پیام مدیر» ذاتاً مشکوک نیست - اما صدها مورد از این اعلان‌ها که از حساب‌های مرتبط با یک ترکیب شناخته‌شده سرچشمه می‌گیرند، یک الگو را تشکیل می‌دهند.

تصویر بزرگتر

عملیات کامبوج آخرین سیگنالی است که نشان می دهد سطح سوء استفاده از هوش مصنوعی مولد فراتر از دیپ فیک ها و هرزنامه ها گسترش یافته است. همانطور که فناوری به بلوغ می رسد، بیشترین سوء استفاده ممکن است کمتر دیده شود: هوش مصنوعی بی سر و صدا تدارکات یک تجارت غیرقانونی، از ترجمه قربانی گرفته تا مدیریت نیروی کار را اجرا می کند.

برای OpenAI و رقبای آن، این تغییر سوالات دشواری را در مورد اینکه مسئولیت نظارت تا چه حد باید گسترش یابد، ایجاد می کند. ارائه‌دهندگان می‌توانند حساب‌ها را تعلیق کنند، اما ترکیبات اساسی، شبکه‌های قاچاق و شرایط کار اجباری باقی می‌مانند. ایجاد اختلال در لایه دیجیتال کمک می کند، اما زیرساخت فیزیکی که این عملیات را حفظ می کند، از بین نمی برد.

این افشاگری همچنین در بحبوحه یک لحظه نظارتی گسترده تر می رسد. با اعمال قوانین شفافیت جدید و فشار فزاینده بر شرکت‌های هوش مصنوعی برای توضیح نحوه استفاده از مدل‌هایشان، مواردی مانند این احتمالاً هم اولویت‌های اجرایی و هم ارائه‌دهندگان حفاظت فنی را در سیستم‌های آینده شکل می‌دهند.

همچنین عدم تقارن ناراحت کننده را برجسته می کند. همان قابلیت‌های زبانی که ChatGPT را برای کسب‌وکارهای قانونی ارزشمند می‌سازد - ترجمه، تهیه پیش‌نویس، خلاصه‌سازی - دقیقاً همان چیزی است که آن را برای شرکت‌های جنایی که در فراسوی مرزها و زبان‌ها فعالیت می‌کنند جذاب می‌کند. مدلی که می‌تواند به یک کسب‌وکار کوچک کمک کند تا به مشتریان در ده‌ها کشور دسترسی پیدا کند، می‌تواند به آسانی به یک سندیکای کلاهبرداری کمک کند تا قربانیان را در هر قاره هدف قرار دهد. تفاوت در فناوری نیست، بلکه در زیرساختی است که در اطراف آن پیچیده شده است، و اینجاست که ارائه دهندگان کمترین دید را دارند.

بعد چه می آید

افشای OpenAI به همان اندازه که به دلیل شفافیت آن به دلیل خود اختلال قابل توجه است. با انتشار جزئیات نحوه عملکرد شبکه، این شرکت الگویی را ارائه می دهد که سایر ارائه دهندگان و سازمان های مجری قانون می توانند از آن برای شناسایی سوء استفاده های مشابه استفاده کنند. اما این پرونده همچنین روشن می‌کند که تعلیق حساب‌ها، هر چند ضروری باشد، اقدامی واکنشی در برابر دشمنی است که می‌تواند هویت‌های جدید ایجاد کند و عملیات را با سهولت نسبی جابه‌جا کند.

برای تیم‌های امنیتی و ارائه‌دهندگان هوش مصنوعی، نکته مهم این است که دفاع در برابر این دسته از سوءاستفاده‌ها مستلزم سرمایه‌گذاری پایدار در تشخیص الگو، اشتراک‌گذاری داده‌ها در شرکت‌ها و همکاری با مقاماتی است که می‌توانند علیه خود ترکیبات فیزیکی عمل کنند. لایه دیجیتال و لایه فیزیکی، همانطور که این مورد نشان می دهد، دیگر قابل تفکیک نیستند.

از هوش مصنوعی جلوتر بمانید

برای اطلاعات بیشتر در مورد خطرات امنیتی، معضلات اخلاقی و بحث‌های سیاستی پیرامون هوش مصنوعی، با آخرین اخبار هوش مصنوعی از AI Buzz Wire همراه باشید.

اخبار هوش مصنوعی را بیشتر بخوانید →