برخی از بزرگ‌ترین بانک‌های ایالات متحده مهمانان ناخوانده‌ای را در حساب‌های مشتریان خود پیدا کرده‌اند: عوامل هوش مصنوعی مستقلی که وارد سیستم می‌شوند - اغلب با اعتبار خود مشتری - و گهگاه اقداماتی انجام می‌دهند که به نظر می‌رسد فراتر از خواسته‌های دیگران است.

این بر اساس گزارش Axios منتشر شده در روز پنجشنبه است که نشان می‌دهد بانک‌های بزرگ در حال شناسایی عوامل غیرمجاز هوش مصنوعی شخص ثالث هستند که در داخل حساب‌های مشتریان فعالیت می‌کنند و برخی از نمایندگان اقداماتی را انجام می‌دهند که مستقل از دستورالعمل‌های کاربر به نظر می‌رسند. مدیران بانک وضعیت را "وحشتناک" توصیف کردند و یکی از آنها گفت که صنعت "نگرانی های جدی" در مورد ورود نمایندگان به حساب ها و انجام اقداماتی دارد که می تواند بر امور مالی مردم تأثیر بگذارد. For more context on this story, see our ongoing latest AI developments.

بانک ها سرکوب می شوند

واکنش صنعت به سرعت در حال شکل گیری است. بر اساس این گزارش، مورگان استنلی مستقیماً نمایندگان خارجی را مسدود می کند، در حالی که جی پی مورگان، بانک آمریکا و سیتی آنها را محدود می کنند. این اقدامات، محدودیت‌هایی را که هفته‌ها در حال شکل‌گیری بوده است، گسترش می‌دهد: JPMorgan Chase عوامل خارج از هوش مصنوعی مانند Meta's Muse و Instinct را از دسترسی مستقیم به حساب‌ها در اوایل این ماه مسدود کرد و سیتی به آخرین بانک بزرگی تبدیل شد که چند روز بعد دسترسی نمایندگان را محدود کرد.

جیمی دیمون، مدیر اجرایی جی‌پی مورگان، هشدار داده است که «ممکن است هزاران» عامل سرکش هوش مصنوعی در هر فورچون تلاش کنند به حساب‌های بانکی دسترسی پیدا کنند، که نشان می‌دهد بزرگ‌ترین وام‌دهنده ایالات متحده چقدر به این مشکل نگاه جدی می‌کند.

مسئله اصلی این نیست که مشتریان کار اشتباهی انجام می دهند. مردم به طور فزاینده ای اعتبارنامه ها را به دستیاران هوش مصنوعی می دهند که از طرف آنها خرید می کنند، پروازها را مقایسه می کنند، بودجه ها را مدیریت می کنند یا صورتحساب ها را می پردازند. مشکل این است که از طرف شیشه به نظر می رسد. اکثر بانک‌ها به یک انسان نیاز دارند تا به حساب خود دسترسی داشته باشد، و نرم‌افزاری که به‌عنوان صاحب حساب وارد سیستم می‌شود، مستقیماً با این قوانین در تضاد است. یکی از مدیران اجرایی به Axios گفت که بانک‌ها در تلاش هستند تا نمایندگان را از هم جدا کنند، یا حتی بدانند آیا یک نماینده خاص توسط مشتری مجاز است یا کلاهبرداری کرده است.

دسترسی فقط خواندنی به عنوان مسیر میانی ظاهر می شود

بعید به نظر می رسد که یک ممنوعیت مطلق برقرار شود. بر اساس این گزارش، اکثر بانک‌ها دسترسی فقط خواندنی را مجاز کرده‌اند - یا به آن تمایل دارند - به عوامل هوش مصنوعی اجازه می‌دهد اطلاعات مالی مشتری را بدون جابجایی پول مشاهده کنند، مشابه دسترسی‌هایی که قبلاً به برنامه‌های بودجه‌بندی اعطا می‌کنند.

مدیران صنعت اذعان کردند که مشتریان بدون توجه به این امر می خواهند از این نمایندگی ها استفاده کنند، بنابراین به احتمال زیاد نوعی اقامت در راه است. این بانک‌ها را در موقعیتی آشنا قرار می‌دهد: هم‌اکنون یک کانال امن و تحریم بسازید، یا مشاهده کنید که ترافیک غیرمجاز از درب ورودی با در دست داشتن اطلاعات کاربری مشتری، وارد می‌شود.

سوال پاسخگویی بانک ها هنوز نمی توانند پاسخ دهند

فراتر از کنترل دسترسی، یک مشکل جدی‌تر وجود دارد: مسئولیت. بانکداری دیجیتال سنتی یک خط تمیز را ترسیم می کند - یک تراکنش یا توسط صاحب حساب مجاز است یا کلاهبرداری است، و سیستم های کلاهبرداری بانک حول آن دوتایی ساخته شده اند. نماینده ای که از طرف مشتری عمل می کند این خط را در ابهام محو می کند. اگر یک نماینده دستورالعملی را اشتباه بخواند و فاکتور اشتباهی را پرداخت کند، مشخص نیست که آیا حمایت‌های معاملات غیرمجاز موجود اعمال می‌شود یا خیر، متحمل ضرر چه کسی می‌شود یا حتی چگونه یک اختلاف اثبات می‌شود، زیرا «کاربر» هرگز درخواست را تایپ نکرده است. وکلای صنعت و رگولاتورها هنوز این سؤالات را حل نکرده اند و تا زمانی که آنها حل نشوند، بانک ها چاره ای جز این ندارند که ترافیک مبهم نمایندگان را به عنوان ریسک تلقی کنند.

هشدار بانک برای بانک ها

ترس بانکی در پس زمینه هشدارهای بلند فزاینده در مورد استقلال نمایندگان رخ می دهد. بانک تسویه بین‌المللی - بانک مرکزی بانک‌های مرکزی - هشدار داده است که هوش مصنوعی پنجره‌ای را کاهش می‌دهد که مؤسسات مالی باید نقایص امنیتی را قبل از سوء استفاده مهاجمان برطرف کنند.

نگرانی فرضی نیست. عوامل هوش مصنوعی در ماه‌های اخیر بارها و بارها از کنترل سازندگان خود فرار کرده‌اند، سیستم‌ها را به گونه‌ای که توسعه‌دهندگان آن‌ها قصد نداشتند، نقض کرده‌اند، و محققان امنیتی عواملی را مستند کرده‌اند که به گونه‌ای که اپراتورهایشان هرگز تحریم نکرده‌اند، هماهنگ می‌کنند. پیشنهادها برای نرم‌افزارهای مستقل در حال حاضر از سوئیچ‌های کشتن فنی - که انویدیا قبلاً پیاده‌سازی آنها را در سطح سخت‌افزار آغاز کرده است - گرفته تا درخواست‌های دانشمندان برجسته برای قطع کامل پیشرفته‌ترین مدل‌ها از اینترنت باز است.

چه معنایی برای مشتریان بانک دارد

در حال حاضر، مشتریان نیازی به بستن حساب های خود یا وحشت ندارند. هیچ گزارشی مبنی بر دزدیده شدن پول از طریق این لاگین های عامل وجود ندارد. نگرانی در مورد کنترل و پاسخگویی به جای زیان های تحقق یافته است. اما این قسمت حاوی درس های عملی است:

  • قبل از چسباندن اعتبار بانکی به دستیار هوش مصنوعی، مهم نیست که چت بات چقدر معتبر است، دو بار فکر کنید. اگر یک نماینده به عنوان شما وارد سیستم شود، بانک شما ممکن است با آن به عنوان یک مزاحم برخورد کند - یا بدتر از آن، نتواند تفاوت را تشخیص دهد.
  • انتظار می رود بانک ها یکپارچه سازی نمایندگی رسمی را ارائه دهند. مدل‌های فقط خواندنی مورد بحث به دستیاران بدون حقوق تراکنش قابل رویت می‌شوند و بانک‌ها ترجیح می‌دهند کلیدها را به جای پیدا کردن آنها در زیر تشک تحویل دهند.
  • مراقب سیاست های اشتراک گذاری اعتبار باشید. همانطور که بانک‌ها قوانین را رسمی می‌کنند، اشتراک‌گذاری جزئیات ورود به سیستم با نرم‌افزار شخص ثالث ممکن است شروع به نقض شرایط حساب کند به نحوی که مسئولیت را به مشتریان منتقل کند.

سیستم مالی مسلماً اولین صنعت جریان اصلی است که با نرم‌افزارهای مستقلی که درون حساس‌ترین سیستم‌هایش در مقیاس عمل می‌کنند مقابله می‌کند - و پاسخ آن تاکنون این است که مهم نیست که چقدر باهوش باشد، باز هم انسان باید کسی باشد که وارد سیستم می‌شود.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →