اتهم عالم رياضيات آخر شركة OpenAI علنًا بالسلوك غير الأخلاقي و"غير الصادق" بشأن البيانات التي تكمن وراء اختراقاتها الشهيرة في الرياضيات، قائلًا إن الشركة فشلت في إثبات أن تفاعلاته الخاصة مع ChatGPT لم تساهم في النتائج التي تم الإعلان عنها وسط ضجة كبيرة الشهر الماضي.

في سلسلة من المنشورات على Mastodon التي نشرتها The Verge يوم الأربعاء، أثار عالم الرياضيات أندرياس توم مخاوف من أن المحادثات التي أجراها هو وزملاؤه مع ChatGPT قبل إعلان OpenAI ربما تكون قد غذت نجاح النموذج. جاء تدخله بعد أيام فقط من سؤال أستاذ الرياضيات في جامعة نيويورك تريستان باكماستر علنًا عما إذا كانت نماذج OpenAI قد استفادت من استخدامه الخاص لأداة Codex الخاصة بالشركة - مما أدى إلى تحويل لحظة انتصار المختبر إلى نزاع مستمر حول مصدر بيانات التدريب. لمزيد من السياق حول هذه القصة، راجع أحدث تطورات الذكاء الاصطناعي.

من الاختراق إلى رد الفعل العنيف

في أغسطس، أعلنت شركة OpenAI أن نظامها قد أنتج عشر نتائج مهمة في الرياضيات وعلوم الكمبيوتر النظرية، تم فحص كل منها باستخدام براهين Lean التي تم التحقق منها آليًا - وهو إنجاز مهم غطىه هذا الموقع في ذلك الوقت، إلى جانب الحل الذي تطالب به الشركة لمشكلة جائزة الألفية. أثبتت إحدى النتائج العشر وجود ما يسمى بـ المجموعات غير الصوفية، وهو سؤال ظل مفتوحًا منذ فترة طويلة في نظرية المجموعات.

وتقع هذه النتيجة في مركز الجدل الجديد. وفقًا لموقع The Verge، أقرت شركة OpenAI بأن الدليل مبني بشكل كبير على العمل السابق لتوم وزميله عالم الرياضيات غابور كون - وبعد انتقادات من الدوائر الرياضية لفشلها في البداية في الاعتراف بمساهماتهم الأخيرة، قامت الشركة بتعديل كتابتها بهدوء.

بالنسبة لتوم، أثار الاعتراف سؤالاً غير مريح: كيف تمكن النموذج من السيطرة على تقنياته وتقنيات كون بمثل هذه التفاصيل؟

السؤال الذي قال توم أنه لم تتم الإجابة عليه

قال توم إنه أذهل من "قيادة OpenAI التفصيلية لتقنياتنا"، والتي أشار إلى أنها لم تكن الطرق الأكثر وضوحًا أو الواعدة للتوصل إلى حل في ذلك الوقت. لقد كتب رسائل بريد إلكتروني إلى الباحثين في OpenAI سيباستيان بوبيك و مارك سيلك - والأخير أيضًا إحصائي في جامعة هارفارد - يسأل عما إذا كانت تفاعلاته مع ChatGPT "جزءًا من بيانات التدريب أو يمكن الوصول إليها في عملية الاستدلال" وبالتالي يمكن أن تكون قد ساهمت في النتيجة.

تناولت الإجابة التي تلقاها فقط ما إذا كان من الممكن الوصول إلى محادثاته مباشرة، وليس ما إذا كانت قد دخلت إلى مجموعات هائلة من البيانات المستخدمة لتدريب نماذج الشركة وتحسينها. كتب توم: "لم يتم تقديم مثل هذا التأهيل أو التفسير أو الدليل". "أنا أعتبر هذا بمثابة خيانة الأمانة على أقل تقدير."

وفي متابعة نقلتها The Verge، شدد الاتهام: "كانت إجابة سيلك القاطعة، على الأقل، واسعة بشكل غير مبرر ومضللة ماديًا؛ وبالنظر إلى الوراء كانت غير صادقة بشكل واضح".

لا تتعلق حجة توم بما فعلته شركة OpenAI بقدر ما تتعلق بمن يتحمل عبء الإثبات. وقال إن الباحثين ليسوا مجهزين لإجراء هندسة عكسية لخط أنابيب التدريب الخاص بالشركة. وكتب: "فقط OpenAI لديها البيانات ذات الصلة بذلك"، لذا إذا أرادت الشركة إنكار مساهمة بيانات المستخدم في نتائجها، فإن المسؤولية تقع على عاتق OpenAI لإثبات ذلك من خلال الكشف عن مجموعات البيانات ذات الصلة وتوضيح كيفية استخدام تفاعلات العملاء.

الإنكار الدقيق لـ OpenAI

ويعكس هذا النزاع طريقة تعامل الشركة مع اختراقها المزعوم Navier-Stokes، وهو العمل الذي كان بكماستر يتابعه مع الباحث الأنثروبي ليفنت ألبوج بصفته الشخصية، وفقًا لموقع The Verge. في منشور المدونة الذي أعلن عن هذه النتيجة، ذكر OpenAI: "نحن (الباحثون والوكلاء) لم نر أيًا من أعمالهم من خلال أي وسيلة حتى أطلقوها علنًا - على وجه الخصوص، لم يتم الوصول إلى بيانات مستخدم محددة من أجل حل هذه المشكلة."

لكن المنشور نفسه اعترف بوجود قناة غير مباشرة: "رغم أنه من غير المحتمل، لا يمكننا أن نستبعد أن البيانات غير المحددة المستمدة من استخدامهم لمنتجاتنا ساعدت في تحسين نماذجنا".

بالنسبة لتوم، هذا التمييز هو المشكلة برمتها. وكتب: "قد يؤدي إلغاء الهوية إلى إزالة الاسم، ولكنه لا يزيل المحتوى الفكري لفكرة رياضية". لم تستجب OpenAI على الفور لطلب The Verge للتعليق.

وأضاف أنه "سيكون من غير الممكن الدفاع عنه أخلاقيًا" إذا ساعدت الأبحاث غير العامة التي يقدمها المستخدمون في تحسين النماذج التي استخدمتها الشركة بعد ذلك لسباق هؤلاء المستخدمين أنفسهم للنشر - دون موافقة أو إفصاح مناسب أو اعتماد.

البرد بسبب الرياضيات

إن الظروف التي أحاطت بالدفع للحصول على جائزة الألفية لم تفعل شيئاً يذكر لتهدئة الأعصاب. قالت شركة OpenAI إنها تابعت المشكلة بعد سماع شائعات عبر الإنترنت تفيد بأن باحثين آخرين قد أحرزوا تقدمًا كبيرًا، مما أدى فعليًا إلى سباق الأكاديميين للوصول إلى النتيجة التي أمضوا سنوات في الاقتراب منها.

قال العديد من الباحثين لموقع The Verge إنهم يشعرون بالقلق من أن مثل هذا السلوك سيدفع الرياضيات إلى حالة أكثر سرية، إذا اعتقد علماء الرياضيات أنه حتى الشائعات عن اختراق وشيك يمكن أن تشعل سباقًا ضد عملاق تكنولوجي يتمتع بموارد جيدة ويتوق إلى المجد. وقد استحوذت تغطية The Verge ذات الصلة - "الاختراق الرياضي الخبيث لـ OpenAI على بث القشعريرة في الأوساط الأكاديمية" - على الحالة المزاجية في هذا المجال.

تقع هذه الحلقة في لحظة حساسة بالنسبة لشركات الذكاء الاصطناعي والمجتمعات البحثية التي تتعرض لها بشكل متزايد. ومهما كانت مزايا أي نتيجة فردية، فإن عدم التماثل الذي يصفه توم هو هيكلي: فالمختبرات يمكنها استيعاب تفاعلات المستخدم على نطاق واسع، في حين أن الأشخاص الذين يولدون تلك البيانات ليس لديهم أي وسيلة لتدقيق ما تم أخذه. وإلى أن تفتح الشركات خطوط التدريب الخاصة بها للتدقيق أو تفرض جدران حماية صلبة يمكن التحقق منها بين محادثات العملاء والتدريب النموذجي، فإن كل عبارة "لم نستخدم بياناتك" ستحمل علامة نجمية ضمنية - وكل اختراق سيأتي مع علماء الرياضيات، والباحثين بشكل متزايد في مجالات أخرى، الذين يطلبون الدليل.

---

ابق على اطلاع بأخبار الذكاء الاصطناعي

آخر أخبار وتحليلات وإنجازات الذكاء الاصطناعي — في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →