قام مختبر أبحاث مكون من شخصين بتدريب نموذج تحويل النص إلى صورة مقابل 21000 دولار أمريكي تقريبًا - وأصدره بموجب ترخيص متساهل تمامًا. نشرت Linum، التي أسسها الرئيسان التنفيذيان المشاركان Sahil Chopra وManu Chopra، النتائج في 4 نوفمبر في منشور ملاحظات ميدانية فنية، توضح بالتفصيل نموذج Pixel-JiT (P-JiT) ذو 2 مليار معلمة الذي تم تدريبه على 660 مليون عينة كدليل على المفهوم على الطريق إلى نماذج فيديو أكبر. يتوفر كل من رمز النموذج والأوزان ضمن Apache 2.0، وهو ترخيص يسمح بالاستخدام التجاري دون قيود. إنها نقطة بيانات مذهلة في الجدل الدائر حول التكلفة الفعلية لأبحاث الذكاء الاصطناعي عالية الجودة، وهو موضوع نتابعه في [تغطية أبحاث الذكاء الاصطناعي] (https://aibuzzwire.news).

لماذا تخطي VAE؟

تقوم معظم خطوط أنابيب توليد الصور الحديثة بضغط الصور باستخدام جهاز تشفير تلقائي متغير (VAE) منفصل: يقوم VAE بضغط الصورة في مساحة كامنة مدمجة، ويتم إنشاء نموذج نشر داخل تلك المساحة المضغوطة. ويقول فريق لينوم إن تقسيم العمل هذا قد وصل إلى الحد الأقصى. في كتابتهم، لاحظوا أن VAEs "يبدو أن لديها سقف تجريبي على مقدار الضغط الذي يمكنها تحقيقه"، وأن دفع الضغط بشكل أكبر يتطلب جراحة كبيرة للبنية التقليدية، وأن تحسين إعادة بناء VAE يمكن أن يؤدي في الواقع إلى تفاقم أجيال نموذج الانتشار النهائي.

إجابتهم هي إزالة VAE تمامًا. P-JiT هو نموذج لمساحة البكسل — يعمل نموذج الانتشار مباشرة على وحدات البكسل ويتعلم غرضًا كامنًا مصممًا لحالة الاستخدام الخاصة به، حيث يقوم بالضغط والتوليد في نفس الوقت. الرهان هو أن نموذجًا واحدًا تم تدريبه بشكل شامل يمكنه الاستفادة من نفس الحوسبة أكثر من عملية التسليم بين شبكتين متخصصتين.

المردود الفني

يشير اسم الهندسة المعمارية إلى رمزها الهرمي الشكل. حيث تستخدم معظم النماذج الحالية - يستشهد Linum بـ FLUX-2 كمثال نموذجي - تخفيضًا في الرمز المميز بنسبة 16×16، تحقق P-JiT تخفيضًا في الرمز المميز بنسبة 32×32، وهو ما يمثل صورة مقاس 512×512 في ميزانية الرمز المميز المطلوبة مسبقًا لصورة مقاس 256×256. يُترجم ذلك إلى 4× انخفاض في نافذة سياق الانتباه، والانتباه هو على وجه التحديد عنق الزجاجة O(n²) الذي يجعل كلاً من التدريب والاستدلال مكلفًا للفيديو التوليدي.

النتائج، حسب قياسات الفريق الخاصة: P-JiT يتقارب في عينات أقل بـ 11 مرة من Linum v2، وهو نموذج المختبر السابق المبني على وصفة نشر Wan VAE plus DiT الأكثر معيارية. أنتج السباق الذي تبلغ تكلفته 21 ألف دولار - 660 مليون عينة تدريبية - نموذجًا وصفه الفريق بأنه فعال بشكل مدهش نظرًا لحجمه.

ما يشتريه 21 ألف دولار

يتضمن الإصدار 249 عينة من الصور مع مطالباتها، والتي تشمل الأشخاص (57)، والحيوانات (42)، والمباني (20)، والمنتجات (43)، والمناظر الطبيعية (19)، والعروض المنمقة (68). الفريق صريح بشأن تحديد الموقع: هذا "إصدار تجريبي" و"نقطة انطلاق" نحو هدفهم الحقيقي، وهو نموذج فيديو. توضح العينات أن البنية تتدرب بشكل ثابت وتنتج صورًا متماسكة بجزء صغير من ميزانيات التدريب التقليدية، ولا تتطابق مع نماذج الصور الرائدة من حيث الجودة.

تتميز الكتابة أيضًا بكيفية توثيق الفريق لأنماط الفشل جنبًا إلى جنب مع النتائج. وقد ذكروا قيود نموذجهم مباشرةً في منشور الملاحظات الميدانية، بدلًا من دفنها، وهي ممارسة شائعة بشكل متزايد بين المختبرات الصغيرة التي تعتمد سمعتها على المصداقية، وليس على ميزانيات التسويق. هذا المنشور هو الإدخال الرابع في سلسلة "Road to Linum v3" الخاصة بالفريق، بناءً على نسخة سابقة حيث تم وصف بنية P-JiT لأول مرة - وهو سجل تقني قيد التشغيل يتيح للباحثين الخارجيين متابعة كل قرار تصميم، بما في ذلك القرارات التي لم تنجح.

للحصول على سياق رقم التكلفة: غطى مبلغ Linum البالغ 21 ألف دولار عملية الحوسبة لـ 660 مليون عينة تدريبية لنموذج المعلمة 2B. وهذا لا يمكن مقارنته بشكل مباشر بميزانيات المختبرات الحدودية، التي تشمل الحصول على البيانات، والتوظيف، والتجريب على مدى العديد من عمليات التشغيل المجهضة. ما تحدده هذه الدراسة هو التكلفة الهامشية لعملية تدريب واحدة ناجحة وموثقة بشكل علني، حيث يستطيع الآن عدد من الباحثين الأفراد والمختبرات الجامعية التخطيط لها بشكل واقعي.

طموح Linum المعلن هو أدوات إبداعية تعمل على إضفاء الطابع الديمقراطي على الوصول إلى الرسوم المتحركة. انتقاد الفريق للفيديو الإنتاجي اليوم هو أنه بطيء جدًا ومكلف، ويفتقر إلى ضوابط دقيقة - وهو مزيج يقولون إنه يجعله "عديم الفائدة فعليًا لسرد القصص"، لأن العمل الإبداعي تكراري بطبيعته: أنت تصنع، تعدل، تتحسن. يعد التدريب الأرخص والاستدلال الأسرع، في إطارهما، شرطًا مسبقًا لإنشاء فيديو يناسب بالفعل سير عمل التحرير.

مختبرات صغيرة، إشارات كبيرة

إن الاقتصاد المعروض هنا لا يقتصر على شركة ناشئة واحدة. إن الدورات التدريبية التي كانت تحدد حدود هذا المجال ذات يوم - والتي كانت تقاس بملايين الدولارات - أصبحت الآن تقابلها، في مجالات ضيقة، فرق مكونة من شخصين تنفق أقل من الراتب السنوي النموذجي للمهندس الكبير. تمنح إصدارات الأوزان المفتوحة على هذا النطاق الباحثين المستقلين القدرة على التدقيق والضبط الدقيق والبناء على بنيات الإنتاج دون دعم مؤسسي.

التحذيرات عادلة: نموذج تحويل النص إلى صورة 2B بعيد كل البعد عن حدود جودة الصورة، ومطالبات التقارب الخاصة بـ Linum يتم الإبلاغ عنها ذاتيًا بدلاً من قياسها بشكل مستقل. لكن الإصدار قابل للتكرار بالكامل - التعليمات البرمجية والأوزان وفقًا لـ Apache 2.0 - مما يعني أن أي شخص متشكك يمكنه قياس المطالبات مباشرةً. وهذا، أكثر من أي معيار منفرد، هو ما يجعل إصدارات المختبرات الصغيرة مثل هذا الإصدار تستحق المشاهدة: فالدليل قابل للتنزيل.

البقاء في صدارة الذكاء الاصطناعي

إن الأبحاث التي كانت تتطلب في السابق مختبرًا للشركات أصبحت الآن ملائمة لبطاقة الائتمان. تتبع كل إنجاز في أخبار أبحاث الذكاء الاصطناعي.

اقرأ المزيد من أخبار الذكاء الاصطناعي →