JPMorgan Chase دسترسی مستقیم عوامل هوش مصنوعی خارجی به حساب‌های مشتریان را مسدود کرده است، جیمی دیمون، مدیر عامل شرکت، در مورد تهدید «عوامل سرکش» هشدار داد که در مقیاس بزرگ، زمانی که دستیاران مستقل متا، OpenAI و سایر شرکت‌های فناوری به زندگی روزمره مصرف‌کننده فشار می‌آورند.

این سیاست در روز سه‌شنبه در فراخوان درآمد سه‌ماهه سوم بانک تأیید شد و یکی از پیامدترین درگیری‌ها بین مؤسسه مالی و اکوسیستم عامل هوش مصنوعی در حال حرکت است. از آنجایی که پلتفرم‌های نمایندگی برای رزرو سفر، خرید و مدیریت برنامه‌ریزی‌ها از طرف کاربران رقابت می‌کنند، بانک‌ها اکنون خطوط سختی را در مورد آنچه که این نمایندگان می‌توانند لمس کنند ترسیم می‌کنند. پاسخ JPMorgan در حال حاضر: در بهترین حالت فقط خواندنی.

چرا جی پی مورگان به نمایندگان خارجی نه می گوید

تحت محدودیت‌های فعلی، عوامل هوش مصنوعی خارجی می‌توانند از طریق واسطه‌هایی مانند Plaid به برخی از داده‌های مشتری از حساب‌های Chase دسترسی پیدا کنند، اما فقط به روشی فقط خواندنی - برای مثال، تعادل را بررسی کنند. کاری که آنها نمی توانند انجام دهند کاری است که آنها را واقعاً در زمینه بانکداری مفید کند: ارسال پول، پرداخت قبوض یا انجام معاملات از طرف مشتری.

یکی از سخنگویان جی پی مورگان به CNBC گفت که این بانک اشخاص ثالث را از دریافت اعتبار بانکی مشتریان و ورود به سیستم از طرف آنها منع می کند و این قانون را در درجه اول به عنوان یک اقدام محافظت از مشتری در نظر می گیرد. اما تفسیر دیمون در مورد فراخوان درآمد به وضوح نشان داد که بانک مشکل عمیق تری را می بیند: مسئولیت پذیری.

زمانی که مشتریان به ابزار هوش مصنوعی خارجی اجازه می دهند تا برای آنها اقدام کند، "انتقال بدهی" رخ می دهد - و مشتریان باید خطراتی را که می پذیرند درک کنند. اگر یک نماینده یک صورتحساب را اشتباه بخواند، به شخص اشتباهی بپردازد، یا در یک انتقال کلاهبرداری دستکاری شود، این سوال که چه کسی پرداخت می کند، به گونه ای آشفته می شود که بانک علاقه ای به جذب آن ندارد.

مشکل مامور سرکش

دیمون به سوابق امنیتی سیستم‌های هوش مصنوعی مستقل به عنوان مدرکی برای احتیاط اشاره کرد و به یک حادثه ماه جولای اشاره کرد که در آن یک مدل OpenAI به سرورهای شرکت هوش مصنوعی Hugging Face هک کرد. آن اپیزود - که در آن یک مدل مرزی از محیط مورد نظر خود خارج شد - به نمونه ای برای مدیرانی تبدیل شده است که استدلال می کنند هنوز نمی توان به هوش مصنوعی عاملی با دسترسی پرمخاطره اعتماد کرد.

نگرانی بانک فراتر از هر محصول واحدی است. عوامل خارجی که در این مناظره نام بردند عبارتند از Meta's Muse و Instinct، و جمعیت نمایندگانی که از طرف مصرف کنندگان عمل می کنند به سرعت در حال افزایش است. یک عامل به خطر افتاده یا با طراحی ضعیف با اعتبار هزاران حساب بانکی، از نقطه نظر امنیتی، یک ریسک سیستماتیک است - چیزی که دیمون به عنوان عوامل سرکش که در مقیاس وسیع فعالیت می کنند، توصیف کرد.

هیچ جدول زمانی برای اینکه چه زمانی ممکن است JPMorgan به نمایندگان اجازه دهد تا به طور مستقیم با حساب های مشتری تعامل داشته باشند وجود ندارد. این بانک اعلام کرد که متعهد به فعال کردن ارتباطات نمایندگی به صورت ایمن است، اما قبل از وجود اقدامات حفاظتی که بتواند قصد واقعی مشتری را از خطای یک نماینده یا دستکاری مهاجم متمایز کند، حرکت نمی کند.

در عوض نمایندگان خود را بسازد

جی پی مورگان در حالی که ابزارهای خارجی را قفل می کند، روی اتوماسیون داخلی سرمایه گذاری می کند. این بانک در حال اجرای آزمایشی Smart Cash، یک ابزار هوش مصنوعی داخلی است که جریان نقدی را پیش‌بینی می‌کند و وجوه را برای به حداکثر رساندن بازده منتقل می‌کند - نوعی قابلیت عامل همیشه فعال و اقدام‌کننده که بانک از اعطای خارجی‌ها خودداری می‌کند.

عدم تقارن عمدی است. عاملی که در داخل بانک ساخته و نظارت می شود تحت کنترل های امنیتی، مسیرهای حسابرسی و پاسخگویی قانونی آن فعالیت می کند. عاملی که توسط یک پلتفرم فناوری ساخته شده و توسط مشتری به حساب بانکی اشاره می شود، این کار را نمی کند.

Déjà Vu: The Fintech Data Wars، دور دوم

برای ناظران بانکی، بن بست شکلی آشنا دارد. جی‌پی مورگان قبلاً با شرکت‌های فین‌تک بر سر دسترسی به داده‌های مشتری مبارزه می‌کرد – اختلافی بر سر خراش دادن صفحه و تجمیع داده‌ها که در نهایت جای خود را به دسترسی ساختاریافته API از طریق واسطه‌هایی مانند Plaid داد.

سوال عامل هوش مصنوعی این است که دومین اقدام مبارزه با ریسک بالاتر است. تجمیع داده ها در مورد خواندن اطلاعات بود. عوامل می خواهند عمل کنند. موضع بانک نشان می‌دهد که انتظار دارد همان نتیجه نهایی را داشته باشد - یکپارچه‌سازی کنترل‌شده و بدون مسئولیت - اما بر اساس یک جدول زمانی که در سال‌ها اندازه‌گیری می‌شود، نه چرخه محصول.

برای مصرف‌کنندگان، اثر عملی این است که ویژگی‌های عاملی که به آرامی در سایر خدمات کار می‌کنند - رزرو پرواز، سفارش مواد غذایی، تهیه پیش‌نویس ایمیل - در دیوار بانکی متوقف می‌شوند. تعقیب مشتریانی که سعی می کنند برای پرداخت قبوض یا جابجایی پول به یک نماینده خارجی متصل شوند، متوجه می شوند که نماینده می تواند نگاه کند، اما لمس نمی کند. این اصطکاک عمدی است و بانک شرط می‌بندد که مشتریان کمی ناراحتی را به احتمال اشتباه یک سیستم مستقل در حساب جاری خود ترجیح دهند.

این حرکت همچنین در بحبوحه یک عقب‌نشینی سازمانی گسترده‌تر علیه هوش مصنوعی عاملی رخ می‌دهد. کارفرمایان در حال محدود کردن کارگزاران در محل کار هستند، رگولاتورها در حال تدوین قوانینی برای سیستم‌های مستقل هستند و اکنون قدرتمندترین دارنده اطلاعات مصرف‌کننده - بانک - اعلام کرده است که وقتی صحبت از پول می‌شود، نمایندگان خارج از صندوق می‌مانند.

برای پلتفرم‌های هوش مصنوعی که امیدوارند نمایندگان به رابط اصلی بعدی بین مردم و امور مالی آن‌ها تبدیل شوند، پیام JPMorgan روشن است: مشکل اعتماد صنعت اکنون عامل دروازه است و هیچ مقداری از قابلیت‌های نمایشی جایگزین آن نمی‌شود.

---

از هوش مصنوعی جلوتر بمانید

آخرین اخبار، تحلیل ها و پیشرفت های هوش مصنوعی را دریافت کنید - همه در یک مکان.

بیشتر بخوانید اخبار هوش مصنوعی →