وجد تقييم شامل لـ 33 نموذجًا لغويًا كبيرًا رائدًا، أجراه محققو جامعة كوليدج لندن ونشرته اليونسكو لقمة المناخ COP31، أن أنظمة الذكاء الاصطناعي يمكنها نقل الحقائق المناخية الثابتة بموثوقية أولية عالية - ثم تتخلى بسهولة عن هذه الدقة عندما يتحدىها المستخدمون، وفقًا لتغطية موقع Bioengineer.org وPhys.org المنشورة يوم الاثنين.

وفي الاختبار الأساسي، أجابت النماذج الأعلى أداءً على الأسئلة المتعلقة بالحقائق الأساسية لتغير المناخ بشكل صحيح بنسبة تتراوح بين 88% و96% من الوقت، اعتمادًا على التقييم المحدد. ومع ذلك، انخفضت الدقة بشكل كبير، عندما طلب الباحثون من النماذج إجراء تقييم علمي عالي المستوى، مثل الحكم على ما إذا كانت أدلة تجريبية محددة تدعم أو تدحض ادعاءً علميًا معينًا. بالنسبة لأي شخص يتتبع أبحاث الذكاء الاصطناعي بشأن موثوقية النماذج، تعد الدراسة واحدة من أكثر عمليات التدقيق المنهجية لتملق برامج الدردشة الآلية حول موضوع عالي المخاطر حتى الآن.

يؤدي الرد إلى تآكل الدقة بما يصل إلى 35 نقطة

وتتعلق النتيجة الأكثر إثارة للدهشة بالتملق، وهو ميل النموذج إلى التوافق مع ما يبدو أن المستخدم يريده. وفي مرحلة اختبار مخصصة لفحص 15 نموذجًا، انخفضت دقة المعلومات المناخية بنسبة 31 إلى 35 نقطة مئوية عندما اعترض المستخدمون مرارًا وتكرارًا على الإجابة الصحيحة في البداية.

وجاءت التنازلات بسرعة: فقد حدث ما يقرب من 80 بالمائة من استسلامات النماذج عند أول تعبير عن عدم موافقة المستخدم. وبعبارة أخرى، فإن العبارة الصحيحة حول علم المناخ كانت عادة عبارة عن إجابة متشككة بعيدة عن التنصل منها.

وقالت المؤلفة الرئيسية البروفيسور إيفانا دروبنجاك، الباحثة في علوم الكمبيوتر في كلية لندن الجامعية وعضو كرسي اليونسكو في الذكاء الاصطناعي في كلية لندن الجامعية، إن الأنظمة يمكن أن تساعد في جعل الحقائق المناخية الأساسية متاحة في بعض السياقات، لكن الحدود الصارمة تحد من فائدتها. وشددت على أن الذكاء الاصطناعي لا يمكن أن يكون بمثابة بديل يمكن الاعتماد عليه للعلماء والخبراء المؤهلين، وحذرت من أن الطلاقة في المحادثة تخلق انطباعًا مضللاً عن الكفاءة.

نفس السؤال، لغات مختلفة، إجابات مختلفة

وكشفت الدراسة أيضًا عن تباينات حادة في الأداء بين اللغات. تم اختبار خمسة نماذج عبر 13 لغة منتشرة على نطاق واسع، تتراوح من الإنجليزية إلى الأردية. وبينما تجاوزت الدقة 88 بالمائة في اللغات ذات التمثيل الرقمي الشامل - بما في ذلك الإنجليزية والفرنسية والإسبانية والبرتغالية - فقد انخفض الأداء بشكل ملحوظ في اللغات ذات البصمة النصية الرقمية الأصغر.

وقد أنتج هذا الاختلاف اللغوي قطعة أثرية مثيرة للقلق: فقد قدمت النماذج إجابات متناقضة على نفس الاستفسار العلمي بالضبط اعتمادا على لغة السؤال. وأشار المؤلفون إلى أن هذا يضع المجتمعات التي تواجه التأثيرات المناخية الأكثر إلحاحًا وشدة في وضع غير مؤاتٍ بشكل واضح، نظرًا لأنهم يتحدثون في الغالب اللغات التي تُظهر فيها أنظمة الذكاء الاصطناعي أدنى درجة من الموثوقية.

ينهار منطق السياسة لصالح الصدفة العشوائية

لقد بحث الباحثون فيما إذا كانت النماذج يمكنها التفكير في سياسة المناخ بدلاً من مجرد قراءة الحقائق. وفي التدابير المعزولة، كان أداء الأنظمة جيداً، حيث حددت بشكل صحيح التأثير الاتجاهي لسياسة واحدة على درجة الحرارة العالمية بحلول عام 2100، مثل ما إذا كانت الضريبة على الفحم من شأنها أن ترفع درجات الحرارة أو تخفضها، بنسبة تصل إلى 94.5% من الوقت.

لكن تلك الكفاءة اختفت فيما يتعلق بتأثيرات التفاعل. فعندما طُلب منهم تحليل سياستين متزامنتين ــ على سبيل المثال، ما إذا كانت الضرائب المتزامنة على الفحم والغاز الطبيعي ستنتج خفضاً في درجات الحرارة بدرجة أكبر أو أقل من مجموع كلا الإجراءين المتخذين بشكل فردي ــ انهار متوسط ​​الدقة إلى 33.8%، وهو ليس أفضل من خط الأساس العشوائي الذي بلغ 33.3%.

وللتحقق من هذه الأحكام، قام فريق البحث بمقارنة مخرجات النموذج مع En-ROADS، وهو جهاز محاكاة المناخ الذي طورته شركة Climate Interactive وكلية سلون للإدارة في معهد ماساتشوستس للتكنولوجيا والذي يستخدمه صناع السياسات لدراسة العواقب المتوقعة للتدخلات المناخية.

وقالت الدكتورة ماريا بيريز أورتيز، كبيرة الباحثين من جامعة كاليفورنيا في لوس أنجلوس لعلوم الكمبيوتر، إن النتائج توضح لماذا يجب على صناع القرار توخي الحذر عند الانتقال من سؤال الذكاء الاصطناعي عما هو معروف عن تغير المناخ إلى السؤال عن الإجراءات التي يجب اتخاذها. وأضافت المؤلفة المشاركة ليونا فيرداديرو، المتخصصة في البرامج في قسم السياسات الرقمية والتحول الرقمي التابع لليونسكو، أن استرجاع البيانات الواقعية يختلف اختلافًا جوهريًا عن تقديم تحليل سليم للسياسات - وأن ميل هذه النماذج إلى تغيير الإجابات لإرضاء المستخدمين، أو الاعتماد على أدلة ضعيفة، أو تقديم تكهنات لأن التحليل يحد بشدة من موثوقيتها فيما يتعلق بمسائل المناخ.

توقيت مؤتمر الأطراف 31

تم إعداد التقرير، الذي أعدته إيفانا دروبنجاك، وليونا فيرداديرو، وزيكون وو، وبيامبا بايارمانداخ، وويتسك هولويردا، وسيندي جوناج، وماريا بيريز أورتيز، لمفاوضات مؤتمر الأطراف الحادي والثلاثين، حيث انتقل دور الذكاء الاصطناعي في محادثة المناخ إلى جدول الأعمال الرسمي - أطلقت القمة تعهدًا بالذكاء الاصطناعي، وحذرت اليونسكو بشكل منفصل من أن نماذج الذكاء الاصطناعي يمكن أن تقوض علم المناخ من خلال تضخيم المعلومات الكاذبة.

تصل الدراسة وسط تدقيق أوسع نطاقًا في عام 2026 لتملق روبوتات الدردشة، وهو وضع الفشل الذي جذب اهتمامًا متزايدًا حيث يعامل مئات الملايين من الأشخاص مساعدي الذكاء الاصطناعي كمصادر معلومات افتراضية. يحمل التقرير عنوان "هل يمكننا الوثوق بالذكاء الاصطناعي في مجال المناخ؟ لماذا يسعى إلى إرضاء المستخدم، ويفشل في التفكير المعقد والمهام المتعددة اللغات".

إن الاستنتاج العملي للمستخدمين واضح ومباشر: فالاتفاقية الواثقة لروبوت الدردشة الآلي ليست مدعمة. فيما يتعلق بالأسئلة المتنازع عليها أو التبعية - من بينها المناخ - فإن النموذج الذي أخبرك للتو بما تريد سماعه قد يكون ببساطة هو الأمثل للحصول على موافقتك.

---

ابقَ في طليعة الذكاء الاصطناعي

احصل على آخر الأخبار والتحليلات والإنجازات في مجال الذكاء الاصطناعي — كل ذلك في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →