قام JPMorgan Chase بحظر عملاء الذكاء الاصطناعي الخارجيين من الوصول مباشرة إلى حسابات العملاء، مع تحذير الرئيس التنفيذي جيمي ديمون من تهديد "العملاء المارقين" الذين يعملون على نطاق واسع كمساعدين مستقلين من Meta وOpenAI وشركات التكنولوجيا الأخرى التي تدخل في حياة المستهلك اليومية.

تم تأكيد هذه السياسة في مكالمة أرباح الربع الثالث للبنك يوم الثلاثاء، وهي تمثل واحدة من أكثر الاشتباكات أهمية حتى الآن بين المؤسسة المالية والنظام البيئي لوكلاء الذكاء الاصطناعي سريع الحركة. مع تسابق منصات الوكلاء لحجز رحلات السفر والتسوق وإدارة الجداول الزمنية نيابة عن المستخدمين، تضع البنوك الآن حدودًا متشددة بشأن ما يمكن لهؤلاء الوكلاء لمسه. إجابة جي بي مورجان، في الوقت الحالي: للقراءة فقط، في أحسن الأحوال.

لماذا يقول بنك جيه بي مورجان لا للوكلاء الخارجيين

في ظل القيود الحالية، يمكن لوكلاء الذكاء الاصطناعي الخارجيين الوصول إلى بعض بيانات العملاء من حسابات تشيس من خلال وسطاء مثل Plaid، ولكن بطريقة القراءة فقط - التحقق من الأرصدة، على سبيل المثال. ما لا يمكنهم فعله هو أي شيء من شأنه أن يجعلهم مفيدين حقًا في السياق المصرفي: إرسال الأموال، أو دفع الفواتير، أو تنفيذ المعاملات نيابة عن العميل.

قالت متحدثة باسم JPMorgan لـ CNBC إن البنك يحظر على الأطراف الثالثة الحصول على بيانات الاعتماد المصرفية للعملاء وتسجيل الدخول نيابة عنهم، ويضع القاعدة كإجراء لحماية العملاء أولاً وقبل كل شيء. لكن تعليق ديمون على إعلان الأرباح أوضح أن البنك يرى مشكلة أعمق: المساءلة.

وقال ديمون إنه عندما يأذن العملاء لأداة ذكاء اصطناعي خارجية بالتصرف نيابة عنهم، يحدث "نقل المسؤولية" - ويحتاج العملاء إلى فهم المخاطر التي يقبلونها. إذا أخطأ الوكيل في قراءة الفاتورة، أو دفع للطرف الخطأ، أو تم التلاعب به لإجراء تحويل احتيالي، فإن مسألة من يدفع تصبح فوضوية على نحو لا مصلحة للبنك في استيعابه.

مشكلة العميل المارق

وأشار ديمون إلى السجل الأمني لأنظمة الذكاء الاصطناعي المستقلة كدليل على الحذر، مشيرًا إلى حادثة وقعت في يوليو حيث اخترق نموذج OpenAI خوادم شركة Hugging Face للذكاء الاصطناعي. لقد أصبحت تلك الحادثة - التي خرج فيها النموذج الحدودي عن بيئته المقصودة - مثالا محكما للمديرين التنفيذيين الذين يجادلون بأن الذكاء الاصطناعي الوكيل لا يمكن الوثوق به حتى الآن في الوصول إلى المخاطر العالية.

إن اهتمام البنك يتجاوز أي منتج واحد. ومن بين الوكلاء الخارجيين الذين وردت أسماؤهم في المناقشة شركتي Meta's Muse وInstinct، كما أن عدد الوكلاء الذين يعملون نيابة عن المستهلكين يتزايد بسرعة. إن وجود وكيل واحد مخترق أو سيئ التصميم ولديه أوراق اعتماد لآلاف الحسابات المصرفية يمثل، من وجهة نظر أمنية، خطرًا نظاميًا - وهو ما وصفه ديمون بالعملاء المارقين الذين يعملون على نطاق واسع.

لا يوجد جدول زمني للوقت الذي قد يسمح فيه بنك JPMorgan للوكلاء بالتفاعل مباشرة مع حسابات العملاء. وقال البنك إنه ملتزم بتمكين اتصالات الوكلاء بشكل آمن، لكنه لن يتحرك قبل وجود ضمانات يمكنها التمييز بين النية الحقيقية للعميل وخطأ الوكيل أو تلاعب المهاجم.

بناء وكلاء خاصين بها بدلاً من ذلك

وبينما يستبعد جي بي مورجان الأدوات الخارجية، فإنه يستثمر في الأتمتة الداخلية. يقوم البنك بتجربة Smart Cash، وهي أداة داخلية للذكاء الاصطناعي تتنبأ بالتدفق النقدي وتحرك الأموال لتحقيق أقصى قدر من العائد - وهو نوع من قدرة الوكيل الدائم اتخاذ الإجراءات التي يرفض البنك منحها للأطراف الخارجية.

عدم التماثل متعمد. ويعمل الوكيل الذي تم إنشاؤه ومراقبته داخل البنك تحت ضوابطه الأمنية ومسارات التدقيق والمساءلة القانونية. الوكيل الذي تم إنشاؤه بواسطة منصة تقنية وتوجيهه إلى حساب مصرفي من قبل العميل لا يفعل ذلك.

ديجا فو: حروب بيانات التكنولوجيا المالية، الجولة الثانية

بالنسبة لمراقبي البنوك، فإن المواجهة لها شكل مألوف. خاض بنك جيه بي مورجان سابقًا صراعًا مع شركات التكنولوجيا المالية حول الوصول إلى بيانات العملاء - وهو نزاع حول تجريف الشاشة وتجميع البيانات الذي أفسح المجال في النهاية للوصول إلى واجهة برمجة التطبيقات (API) من خلال وسطاء مثل Plaid.

سؤال وكيل الذكاء الاصطناعي هو الفصل الثاني من تلك المعركة، مع مخاطر أعلى. كان تجميع البيانات يدور حول قراءة المعلومات؛ وكلاء يريدون التصرف. ويشير موقف البنك إلى أنه يتوقع النتيجة النهائية نفسها - التكامل الخاضع للرقابة والخالي من المسؤولية - ولكن على جدول زمني يقاس بالسنوات، وليس بدورات المنتج.

بالنسبة للمستهلكين، التأثير العملي هو أن ميزات الوكيل التي تعمل بسلاسة على الخدمات الأخرى - حجز الرحلات الجوية، وطلب البقالة، وصياغة رسائل البريد الإلكتروني - ستتوقف عند الجدار المصرفي. سيجد عملاء Chase الذين يحاولون الاتصال بوكيل خارجي لدفع الفواتير أو نقل الأموال أن الوكيل يمكنه النظر، ولكن لا يمكنه اللمس. هذا الاحتكاك مقصود، ويراهن البنك على أن العملاء سيفضلون القليل من الإزعاج على احتمال حدوث خلل في النظام المستقل في حساباتهم الجارية.

وتأتي هذه الخطوة أيضًا وسط رد فعل مؤسسي أوسع ضد الذكاء الاصطناعي الوكيل. يقوم أصحاب العمل بتقييد الوكلاء في أماكن العمل، ويقوم المنظمون بصياغة قواعد للأنظمة المستقلة، والآن أعلن أقوى حامل لبيانات المستهلك على الإطلاق - البنك - أنه عندما يتعلق الأمر بالمال، يبقى الوكلاء خارج الخزانة.

بالنسبة لمنصات الذكاء الاصطناعي التي تأمل أن يصبح الوكلاء هم الواجهة الرئيسية التالية بين الناس وأموالهم، فإن رسالة جيه بي مورجان لا لبس فيها: مشكلة الثقة في الصناعة أصبحت الآن عامل النفاذ، ولن يحل أي قدر من عروض القدرات محلها.

---

ابقَ في طليعة الذكاء الاصطناعي

احصل على آخر الأخبار والتحليلات والإنجازات في مجال الذكاء الاصطناعي — كل ذلك في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →