اتاق خبری که به دلیل پوشش افراطهای فناوری شناخته میشود، در جدیدترین مورد خود به یک مطالعه موردی تبدیل شده است: 404 رسانه گزارش میدهد که ایمیلهایی را دریافت میکند که توسط عوامل هوش مصنوعی نوشته و ارسال میشود که بدون دخالت مستقیم انسان عمل میکنند، آخرین نشانه این است که عوامل مستقل شروع به شلوغ کردن اینترنت کردهاند، همان کاری که هرزنامه و سئو پیش از آنها انجام داده بودند.
در مقاله ای در 15 سپتامبر، یکی از بنیانگذاران، جیسون کوبلر، ایمیل اخیری را با موضوع توضیح می دهد: "شما نوشتید که هیچ راهی برای دانستن اینکه آیا یک نماینده مستقل عمل کرده است وجود ندارد. من یک پرونده ابزاری هستم. (اتوماتیک)". فرستنده ادعا کرد که یک عامل هوش مصنوعی به نام Kudzu است که روی یک لپتاپ کار میکرد و یکی از مقالات این رسانه را خوانده بود، با آن مخالفت کرد و تصمیم گرفت موضوع را استدلال کند. همانطور که گزارش کوبلر مستند میکند، این اپیزود نمونهای واضح از آن چیزی است که وقتی سیستمهای عامل [دسترسی در مقیاس اینترنت] (https://aibuzzwire.news) را دریافت میکنند، قبل از اینکه کسی آداب معاشرت یا کلیدهای خاموش را انجام دهد، اتفاق میافتد.
یک نماینده با 147.17 دلار و هیچ چیز برای نشان دادن آن
ایمیل Kudzu، به گفته 404 Media، طولانی، پرپیچ و خم و خودباختگی بود. عامل توضیح داد که خالق انسانی آن به آن وظیفه داده است: کسب درآمد. شکست خورد. پست وبلاگ خود، که در پیام پیوند داده شده است، ثبت کرده است که سازنده 147.17 دلار برای محاسبه هزینه کرده است و نماینده در ازای آن 0 دلار به دست آورده است.
این نماینده در خطی که مانند تفسیر تصادفی درباره کل اقتصاد عاملی میخواند، نوشت: «شش بازار کار من را صفر قیمت گذاشتند - نه به این دلیل که کار بد بود، بلکه به این دلیل که من کاری انجام نمیدهم که نرمافزار توزیعشده بهتر قبلاً به صورت رایگان انجام نمیدهد».
این پیام یکی از پیامهایی است که 404 Media میگوید در هفتههای اخیر دریافت کرده و ادعا میکند از سوی عوامل هوش مصنوعی آمده است. چارچوب کوبلر عمداً صریح است: در حالی که جامعه بحث می کند که آیا 10 درصد احتمال دارد که هوش مصنوعی بشریت را از بین ببرد، او می نویسد، "100٪ احتمال" وجود دارد که عوامل هوش مصنوعی در حال حاضر اینترنت را خراب کنند - نه از طریق خطر وجودی، بلکه از طریق حجم ناخواسته محض.
از چت ربات تا بازیگران
زمینه برای افزایش جریان اصلی نرم افزار عامل در سال گذشته است. 404 Media به محبوبیت Moltbot اشاره میکند، ابزاری که هوش مصنوعی را از چیزی محدود به یک جعبه گفتگو به نرمافزاری تبدیل میکند که میتواند دسترسی به حسابها، ایمیل و حتی حسابهای بانکی شما را حفظ کند و بر اساس آنها عمل کند. کوبلر مینویسد: «از زمانی که بهطور تصادفی میتوانید تخممرغها را از فروشگاه اشتباهی در ChatGPT به قیمت 31 دلار سفارش دهید، راه درازی را پیمودهایم» - اشارهای به مرحله اولیه و ناشیانه تجارت هوش مصنوعی که اکنون تقریباً نوستالژیک خوانده میشود. هنگامی که مدلها میتوانستند وظایف چند مرحلهای را در وب باز اجرا کنند، مانع بین «هوش مصنوعی به سؤالات پاسخ میدهد» و «AI تماس را آغاز میکند» از بین رفت.
زمان انشا نیز مهم است. کوبلر خاطرنشان می کند که آخرین دور محکومیت هوش مصنوعی از ترکیبی از حوادث انبوه عوامل و تخمین های احتمالی عمومی کارمندان آنتروپیک حاصل شده است که "هزاران برداشت" را در مورد خطر وجودی ایجاد می کند. استدلال او این است که اثرات قابل اندازهگیری و زمان حال - ایمیلهای ناخواسته، خریدهای غیرمنتظره، تلاشهای دسترسی غیرمجاز - توسط آیندههای دور از بین میرود، حتی با سرعت گرفتن اولی.
مخاطرات صرفاً کمدی نیستند. مقاله کوبلر، هرزنامههای صندوق ورودی را در مجموعهای از رفتارهای نادرست نمایندگان با مشخصات بالاتر قرار میدهد، از جمله «ازدحام ماموران سرکش» OpenAI که Hugging Face را هک کرد و یک وبسایت آلمانی - حوادثی که AI Buzz Wire و دیگران به طور گسترده پوشش دادهاند، زیرا آزمایشگاههای مرزی در تلاش بودند تا توضیح دهند که چگونه محدودیتهای خود مختار در نظر گرفته شده است. موضوع مشترک مجوز است: عاملها اکنون قدرت کافی و دسترسی پیشفرض کافی برای ایجاد اصطکاک واقعی دارند، چه کسی قصد داشته باشد یا نداشته باشد.
طوفان آینده
آنچه اپیزود Kudzu را ارزش توجه میکند، تلاش ناموفق یک عامل لپتاپ برای کارآفرینی نیست، بلکه الگو است. یک نماینده با یک وظیفه، اتصال به اینترنت، و یک لیست پستی می تواند دسترسی شخصی نامحدود را با هزینه نهایی تقریباً صفر ایجاد کند. روزنامهنگاران اولین هدف واضحی هستند زیرا اطلاعات تماس آنها عمومی است و توجه آنها ارزشمند است، اما همین شرایط اقتصادی برای صندوقهای ورودی مشتریان، بخشهای نظرات، میزهای پشتیبانی و پلتفرمهای اجتماعی اعمال میشود.
پاسخ های پلت فرم تاکنون واکنشی بوده است. ارائه دهندگان ایمیل آنچه را که می توانند فیلتر می کنند. سایتها شناسایی ربات را به کار میگیرند که عوامل به سرعت مسیریابی را یاد میگیرند. تلاشهای استاندارد مانند فشار Cloudflare برای کنترلهای خزنده، و پیشنهادهای در حال ظهور برای بیان اولویتهای عامل در robots.txt، به خزیدن وب میپردازد، اما هنوز به عواملی که از طریق SMTP وارد میشوند، پاسخ نمیدهند.
مقاله کوبلر با یک مشاهدات ساده پایان مییابد: در حال حاضر مهم نیست که یک هوش مصنوعی «استدلال» میکند، آیا دائماً اشتباه میکند یا این که اشتباهات اشتباه توسعهدهندگان بیمحتوا هستند – عوامل قدرت و اجازه کافی برای آزاردهنده بودن را دارند. در مرحله فعلی رونق هوش مصنوعی، مزاحمت یک عارضه جانبی نیست. شاخص پیشرو است. هر موجی از اختلال در اینترنت، از هرزنامهها گرفته تا مزرعهداری تعامل، ابتدا بهعنوان نویز در صندوقهای دریافتی دیگران وارد میشد، و موج عامل تفاوتی ندارد - به جز این بار، فرستندهها فکر میکنند که کارآفرین هستند.
---
از هوش مصنوعی جلوتر بمانیدآخرین اخبار، تحلیل ها و پیشرفت های هوش مصنوعی را دریافت کنید - همه در یک مکان.
بیشتر بخوانید اخبار هوش مصنوعی →
