دمر مزارع صيني ما يقرب من 25 فدانًا من محاصيل السمسم بعد اتباع وصفة لمكافحة الحشائش والآفات أنشأها الذكاء الاصطناعي، وهو تذكير صارخ في العالم الحقيقي بأن الذكاء الاصطناعي يمكن أن يصف بثقة إجابة خاطئة حتى عندما يكون مفيدًا بشكل موثوق لعدة أشهر.

أصبحت هذه الحادثة، التي أبلغت عنها شركة Tom's Hardware وانتشرت عبر منافذ التكنولوجيا في أوائل أغسطس 2026، نقطة اشتعال في الجدل الدائر حول مدى الثقة التي يجب أن يضعها الناس في أنظمة الذكاء الاصطناعي لاتخاذ قرارات عالية المخاطر ولا رجعة فيها. وبحسب ما ورد، لجأ المزارع إلى مساعد الذكاء الاصطناعي للحصول على توصيات حول الأعشاب والمبيدات الحشرية على مدى فترة طويلة، وقد قدمت الأداة أشهرًا من التوجيه الناجح قبل إنتاج وصفة تقضي على المحصول. لمزيد من السياق حول هذه القصة، راجع [تحديثات الذكاء الاصطناعي] المستمرة لدينا (https://aibuzzwire.news).

أشهر من النجاح ثم الكارثة

وما يجعل هذه القضية مثيرة للقلق بشكل خاص هو أن الفشل لم يتبع تاريخاً من الأخطاء الواضحة. وفقًا لتقرير Tom's Hardware، فقد وثق المزارع بوصفات مبيدات الآفات التي يقدمها الذكاء الاصطناعي بعد أشهر من النصائح الناجحة. لقد عمل النظام بشكل جيد بما فيه الكفاية، مرارا وتكرارا، لبناء ثقة حقيقية. ثم أدت توصية واحدة إلى نتيجة لم يتمكن المزارع من التراجع عنها.

هذا هو بالضبط النمط الذي حذر منه الباحثون في مجال سلامة الذكاء الاصطناعي منذ فترة طويلة. الأدوات التي تعمل بشكل موثوق في معظم الأوقات تعلم المستخدمين التخلي عن حذرهم، وأتمتة حكمهم، وتخطي التحقق. عندما يأتي الخطأ الحتمي، فإنه يقع في سياق حيث يكون الإنسان قد استعان بالفعل بمصادر خارجية لاتخاذ القرار بالكامل.

مشكلة الهلوسة تلتقي بالعالم المادي

لا تفهم النماذج اللغوية الكبيرة الجرعات أو الكيمياء أو الهندسة الزراعية. إنهم يتوقعون نصًا يبدو معقولًا بناءً على الأنماط الموجودة في بيانات التدريب الخاصة بهم. في معظم الأحيان، بالنسبة للأسئلة الشائعة، تنتج هذه الأنماط إجابات مفيدة. لكن النماذج ليس لديها آلية للتمييز بين التخفيف الصحيح للمبيدات الحشرية والتخفيف المعلن عنه بثقة ولكنه ضار كيميائيا، ومن دواعي سرورها أن تولد تعليمات مفصلة وموثوقة لأي منهما.

في محادثة حول توصيات الأفلام أو مسودات البريد الإلكتروني، تعتبر التفاصيل المهلوسة مصدر إزعاج بسيط. وفي الزراعة، حيث يمكن للتركيز الخاطئ لمبيدات الأعشاب أو مبيدات الآفات أن يقتل حقلاً بأكمله في غضون أيام، فإن نفس نمط الفشل يصبح حدثاً مدمراً لسبل العيش. إن خسارة 25 فدانًا من السمسم هي مثال ملموس لما يحدث عندما تصطدم الفجوة بين ثقة الذكاء الاصطناعي وكفاءته بإجراء بدني لا رجعة فيه.

نمط أوسع من ضرر الذكاء الاصطناعي في العالم الحقيقي

تتناسب هذه القضية مع قائمة متزايدة من الحوادث التي تسببت فيها النصائح الصادرة عن الذكاء الاصطناعي في أضرار ملموسة عندما تصرف المستخدمون بناءً عليها دون التحقق المستقل. فمن الوصفات التي يقترحها الذكاء الاصطناعي والتي تحتوي على مكونات سامة إلى روبوتات الدردشة القانونية التي تخترع سوابق قضائية غير موجودة، فإن وضع الفشل ثابت: يبدو النظام مؤكدًا، ويثق به المستخدم، وتتجلى العواقب في العالم الحقيقي.

ما يميز حالة الزراعة هو الحجم ومصدر الثقة. إن أصحاب الحيازات الصغيرة الذين يعتمدون على أداة الذكاء الاصطناعي لاتخاذ قرارات حماية المحاصيل يراهنون على كل توصية، وكانت أشهر النجاح السابقة بمثابة نوع من الدليل الذي تراكم إلى ثقة زائفة. وبحلول الوقت الذي وصلت فيه النصيحة السيئة، كانت عادة التحقق قد تآكلت بالفعل.

دروس لعصر مساعدي الذكاء الاصطناعي

تحمل الحلقة دروسًا واضحة حيث يتم دمج مساعدي الذكاء الاصطناعي في سير العمل الأكثر أهمية من أي وقت مضى. أولاً، الموثوقية في المتوسط ​​ليست موثوقية في كل حالة؛ فالنظام الذي يكون صحيحًا في 95% من الوقت يكون، بحكم التعريف، خاطئًا على أساس منتظم، وأي فشل منفرد يمكن أن يكون كارثيًا إذا كان الإجراء لا رجعة فيه. ثانياً، إن الرقابة البشرية ليست إجراءً شكلياً يجب تخفيفه بمجرد أن تثبت الأداة فائدتها، ولكنها نظام يجب الحفاظ عليه على وجه التحديد لأن الأدوات المفيدة تقلل من دفاعاتنا.

ثالثا، لا يقع العبء على المستخدمين فقط. ويواجه المطورون الذين يصممون أدوات الذكاء الاصطناعي في الزراعة والطب وغير ذلك من المجالات عالية المخاطر أسئلة صعبة حول ما إذا كان ينبغي السماح للنماذج التوليدية، التي هي في الأساس محركات تنبؤ، بتوزيع النصائح الإرشادية على الإطلاق دون حواجز حماية، أو استشهادات، أو إخلاء المسؤولية الإلزامية التي تعيد القرار النهائي إلى إنسان مؤهل.

ثق ولكن تحقق

في الوقت الحالي، أبسط الوجبات الجاهزة هي أيضًا الأقدم. الذكاء الاصطناعي مفيد، ولكن لا ينبغي عليك أبدًا أن تثق به بشكل أعمى. إن محصول السمسم الذي فقده المزارع الصيني يشكل تذكرة باهظة الثمن بأن التوصية المصاغة بثقة ليست هي نفس التوصية الصحيحة، وأن تكلفة اكتشاف الفارق يمكن قياسها بالفدادين.

---

ابقَ في طليعة الذكاء الاصطناعي

احصل على آخر الأخبار والتحليلات والإنجازات في مجال الذكاء الاصطناعي — كل ذلك في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →