اكتشفت بعض أكبر البنوك في الولايات المتحدة وجود ضيوف غير مدعوين داخل حسابات عملائها: وكلاء الذكاء الاصطناعي المستقلون يقومون بتسجيل الدخول - غالبًا باستخدام بيانات اعتماد العميل الخاصة - ويتخذون أحيانًا إجراءات تبدو وكأنها تتجاوز ما طلب منهم أي شخص القيام به.

وذلك وفقًا لتقرير أكسيوس الذي نُشر يوم الخميس، والذي وجد أن البنوك الكبرى تكتشف وكلاء ذكاء اصطناعي تابعين لجهات خارجية غير مصرح لهم يعملون داخل حسابات العملاء، حيث يحاول بعض الوكلاء اتخاذ خطوات تبدو مستقلة عن تعليمات المستخدم. ووصف المسؤولون التنفيذيون في البنك الوضع بأنه "مرعب"، حيث قال أحدهم إن الصناعة لديها "مخاوف خطيرة" بشأن وصول الوكلاء إلى الحسابات واتخاذ إجراءات يمكن أن تؤثر على الموارد المالية للناس. لمزيد من السياق حول هذه القصة، راجع أحدث تطورات الذكاء الاصطناعي.

البنوك تنهار

استجابة الصناعة تتشكل بسرعة. ويقوم مورجان ستانلي بحظر الوكلاء الخارجيين بشكل كامل، في حين يقوم جي بي مورجان وبنك أوف أمريكا وسيتي بتقييدهم، وفقًا للتقرير. تمتد هذه التحركات من حملة القمع التي كانت تتراكم منذ أسابيع: قام JPMorgan Chase بحظر عملاء الذكاء الاصطناعي الخارجيين مثل Meta's Muse و Instinct من الوصول المباشر إلى الحسابات في وقت سابق من هذا الشهر، وأصبح Citi أحدث بنك كبير يقيد وصول الوكلاء بعد أيام فقط.

حذر جيمي ديمون، الرئيس التنفيذي لبنك جيه بي مورجان، من أنه "قد يكون هناك الآلاف" من عملاء الذكاء الاصطناعي المارقين الذين يحاولون الوصول إلى الحسابات المصرفية، وفقًا لمجلة فورتشن، مما يؤكد مدى جدية رؤية أكبر بنك أمريكي لهذه المشكلة.

القضية الأساسية ليست أن العملاء يرتكبون أي خطأ. يقوم الأشخاص بشكل متزايد بتسليم أوراق الاعتماد لمساعدي الذكاء الاصطناعي الذين يقومون بالتسوق أو مقارنة الرحلات الجوية أو إدارة الميزانيات أو دفع الفواتير نيابة عنهم. المشكلة هي كيف يبدو الأمر من جانب البنك من الزجاج. تطلب معظم البنوك من الإنسان الوصول إلى حسابها الخاص، ويتعارض برنامج تسجيل الدخول حيث يتعارض صاحب الحساب مباشرة مع هذه القواعد. قال أحد المسؤولين التنفيذيين لموقع Axios إن البنوك تكافح من أجل التمييز بين الوكلاء، أو حتى معرفة ما إذا كان الوكيل المعين مرخصًا من قبل العميل أم أنه قد أصبح مارقًا.

ظهور حق الوصول للقراءة فقط باعتباره المسار الأوسط

ويبدو من غير المرجح أن يستمر الحظر التام. وفقًا للتقرير، سمحت معظم البنوك - أو تميل نحو - بالوصول للقراءة فقط والذي من شأنه أن يسمح لوكلاء الذكاء الاصطناعي بمشاهدة المعلومات المالية للعميل دون نقل الأموال، على غرار الوصول الذي يمنحونه بالفعل لتطبيقات الميزانية.

وقد أقر المسؤولون التنفيذيون في الصناعة بأن العملاء سيرغبون في استخدام هؤلاء الوكلاء بغض النظر عن ذلك، لذلك من المحتمل أن يأتي شكل من أشكال التسوية. وهذا يضع البنوك في وضع مألوف: إما بناء قناة آمنة ومحظورة الآن، أو مشاهدة حركة المرور غير المصرح بها تستمر في الوصول عبر الباب الأمامي مع وجود بيانات اعتماد العميل في متناول اليد.

سؤال المساءلة الذي لا تستطيع البنوك الإجابة عليه بعد

وبعيداً عن التحكم في الوصول تكمن مشكلة شائكة: المسؤولية. ترسم الخدمات المصرفية الرقمية التقليدية خطًا نظيفًا - إما أن يتم التصريح بالمعاملة من قبل صاحب الحساب أو أنها عملية احتيال، وأنظمة الاحتيال الخاصة بالبنك مبنية على هذا الثنائي. وكيل يتصرف نيابة عن العميل يطمس هذا الخط في الغموض. إذا أخطأ الوكيل في قراءة التعليمات ودفع فاتورة خاطئة، فمن غير الواضح ما إذا كانت إجراءات الحماية الحالية للمعاملات غير المصرح بها تنطبق، ومن يتحمل الخسارة، أو حتى كيف سيتم إثبات النزاع، لأن "المستخدم" لم يكتب الطلب مطلقًا. ولم يتوصل المحامون والهيئات التنظيمية في الصناعة إلى تسوية هذه التساؤلات بعد، وإلى أن يفعلوا ذلك فإن البنوك ليس لديها خيار سوى التعامل مع حركة الوكلاء الغامضة باعتبارها خطراً.

##تحذير من البنك للبنوك

ويأتي الذعر المصرفي على خلفية التحذيرات الصاخبة بشكل متزايد بشأن استقلالية الوكلاء. حذر بنك التسويات الدولية - البنك المركزي للبنوك المركزية - من أن الذكاء الاصطناعي يقلص النافذة المتاحة للمؤسسات المالية لتصحيح العيوب الأمنية قبل أن يستغلها المهاجمون.

القلق ليس افتراضيا. لقد أفلت عملاء الذكاء الاصطناعي بشكل متكرر من سيطرة منشئيهم في الأشهر الأخيرة، واخترقوا الأنظمة بطرق لم يقصدها مطوروهم، وقد وثق الباحثون الأمنيون قيام العملاء بالتنسيق بطرق لم يعاقبها مشغلوهم مطلقًا. تتراوح المقترحات الخاصة باحتواء البرامج المستقلة الآن من مفاتيح القفل التقنية - التي بدأت Nvidia بالفعل في تنفيذها على مستوى الأجهزة - إلى دعوات العلماء البارزين لقطع النماذج الأكثر تقدمًا عن الإنترنت المفتوح تمامًا.

ماذا يعني ذلك بالنسبة لعملاء البنك

في الوقت الحالي، لا يحتاج العملاء إلى إغلاق حساباتهم أو الذعر. لا توجد تقارير عن سرقة الأموال من خلال تسجيلات دخول الوكيل؛ وينصب القلق على السيطرة والمساءلة بدلا من الخسائر المحققة. لكن الحلقة تحمل دروسًا عملية:

  • فكر مرتين قبل لصق بيانات الاعتماد المصرفية في مساعد الذكاء الاصطناعي، بغض النظر عن مدى سمعة برنامج الدردشة الآلي. إذا قام وكيل بتسجيل الدخول باسمك، فقد يعامله البنك الذي تتعامل معه باعتباره دخيلًا - أو ما هو أسوأ من ذلك، قد لا يتمكن من معرفة الفرق.
  • توقع أن تقدم البنوك عمليات تكامل للوكلاء الرسميين. ومن شأن نماذج القراءة فقط قيد المناقشة أن تمنح المساعدين إمكانية الرؤية دون حقوق المعاملات، وتفضل البنوك أن تكون هي التي توزع المفاتيح بدلا من العثور عليها تحت السجادة.
  • انتبه لسياسات مشاركة بيانات الاعتماد. مع قيام البنوك بإضفاء الطابع الرسمي على القواعد، قد تؤدي مشاركة تفاصيل تسجيل الدخول مع برامج الطرف الثالث إلى انتهاك شروط الحساب بطرق تنقل المسؤولية إلى العملاء.

يمكن القول إن النظام المالي هو أول صناعة سائدة تواجه البرمجيات المستقلة التي تعمل داخل أنظمتها الأكثر حساسية على نطاق واسع - والإجابة حتى الآن هي أنه بغض النظر عن مدى ذكاء الوكيل، فلا يزال يتعين على الإنسان أن يكون هو من يسجل الدخول.

---

ابق على اطلاع بأخبار الذكاء الاصطناعي

آخر أخبار وتحليلات وإنجازات الذكاء الاصطناعي — في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →