ऐसे समय में जब सीमांत प्रयोगशालाएं डेटा केंद्रों को भरने वाले ट्रिलियन-पैरामीटर मॉडल बनाने के लिए दौड़ रही हैं, एक डेवलपर पूरी तरह से दूसरी दिशा में चला गया है: एक कामकाजी प्रश्न-उत्तर देने वाला भाषा मॉडल जो 1980 के दशक की फ्लॉपी डिस्क पर फिट बैठता है और 486DX के अंदर भेजे जाने वाले पर्याप्त पुराने सीपीयू पर चलता है।

टिनी 2.1 नामक परियोजना को हैकाडे द्वारा देखा गया था और इस सप्ताह फ्यूचरिज्म और टॉम्स हार्डवेयर द्वारा चुना गया था। इसके GitHub प्रोजेक्ट पेज के अनुसार, पूरे मॉडल का वजन लगभग 380 KB 8-बिट है - एक MS-DOS-स्वरूपित फ़्लॉपी डिस्क पर आराम से फिट होने के लिए पर्याप्त छोटा - और चलाने के लिए केवल 540 KB मेमोरी की आवश्यकता होती है। टॉम के हार्डवेयर की रिपोर्ट है कि यह साधारण पीसी स्पीकर के माध्यम से भी अपने उत्तर देता है। यदि आप एआई द्वारा उम्मीदों को तोड़ने की कहानियों का आनंद लेते हैं, तो हमारा नवीनतम एआई विकास एज अनुमान से लेकर ट्रिलियन-पैरामीटर फ्रंटियर सिस्टम तक सब कुछ कवर करता है।

367,000 पैरामीटर्स वाला एक प्रश्न-उत्तर देने वाला ट्रांसफार्मर

टिनी 2.1 लगभग 367,000 मापदंडों वाला एक छोटा ट्रांसफार्मर आर्किटेक्चर है - "हल्के" मॉडल के आकार का एक अंश जो आम तौर पर कम अरबों में मापता है। यह टर्बो सी 2.0 में लिखा गया था और MS-DOS पर चलता है, ऑपरेटिंग सिस्टम जो 1980 और 1990 के दशक की शुरुआत में व्यक्तिगत कंप्यूटिंग पर हावी था, इंटेल 486DX और शुरुआती पेंटियम पीढ़ियों जैसी पुरानी मशीनों को लक्षित करता था।

इसका प्रशिक्षण डेटा तदनुसार छोटा है: केवल 3,500 तथ्य। वह बाधा इसका उपयोग करने के अनुभव को परिभाषित करती है। प्रोजेक्ट पेज पर साझा किए गए स्क्रीनशॉट में, मॉडल सही उत्तर देता है कि व्हेल मछली के बजाय स्तनधारी हैं और टेलीफोन का आविष्कार करने का श्रेय अलेक्जेंडर ग्राहम बेल को देता है। हालाँकि, 17 गुना 23 की गणना करने के लिए कहा गया, इसका उत्तर "96" है। और जब उससे पूछा गया कि फ्रांस का राजा कौन है, तो उसने आत्मविश्वास से जवाब दिया "यह एंटार्स न्यूटन था" - 100 प्रतिशत के आत्मविश्वास स्तर के साथ।

क्लाउड जैसे प्रदर्शन की अपेक्षा न करें

जैसा कि फ़्यूचरिज़्म स्पष्ट रूप से नोट करता है, मॉडल "हर समय लगभग उत्तर बनाता है," क्योंकि यह दुनिया के बारे में बहुत कुछ नहीं जानता है। इसमें कोई पुनर्प्राप्ति परत नहीं है, कोई उपकरण उपयोग नहीं है, कोई वेब खोज नहीं है - बस एक कॉम्पैक्ट तंत्रिका नेटवर्क और जो भी पैटर्न यह अपने 3,500-तथ्य प्रशिक्षण सेट से अवशोषित करता है।

जो चीज़ परियोजना को उल्लेखनीय बनाती है वह यह है कि मॉडल जो कर सकता है उससे कम यह कि उसका अस्तित्व प्रदर्शित करता है। आधुनिक एलएलएम अनुमान गीगाबाइट मेमोरी, जीपीयू त्वरण और किलोवाट बिजली से जुड़ा है। टिनी 2.1 इसके बजाय इस अवधारणा को साबित करता है कि एक ट्रांसफार्मर हार्डवेयर पर संरचित, प्रश्न-उत्तर इंटरैक्शन उत्पन्न कर सकता है, जिसमें बोलने के लिए कोई फ़्लोटिंग-पॉइंट इकाई नहीं है, फ़्लॉपी से परे कोई हार्ड ड्राइव की आवश्यकता नहीं है, और मदरबोर्ड स्पीकर के रूप में एक ऑडियो आउटपुट पथ आदिम है।

AI से निर्मित AI

इसमें एक मेटा ट्विस्ट भी है. प्रोजेक्ट पेज के अनुसार, डेवलपर ने प्रत्येक पंक्ति को हाथ से नहीं लिखा: उन्होंने मॉडल के कोड को लिखने में मदद के लिए एंथ्रोपिक के फैबल 5.2 और प्रशिक्षण प्रक्रिया का समर्थन करने के लिए ओपस 5.5 का उपयोग किया। दूसरे शब्दों में, फ्लॉपी डिस्क पर फिट होने लायक एक छोटा मॉडल स्वयं फ्रंटियर-स्केल एआई सिस्टम की सहायता से लिखा और प्रशिक्षित किया गया था - जो कि बहुत बड़े माता-पिता का एक छोटा वंशज है।

वह वर्कफ़्लो एआई इंजीनियरिंग में एक व्यापक प्रवृत्ति को दर्शाता है, जहां बड़े मॉडल तेजी से छोटे हार्डवेयर पर चलने वाले सिस्टम को उत्पन्न, डिबग और अनुकूलित करते हैं। यही पैटर्न आधुनिक एज-एआई टूलचेन में दिखाई देता है, जहां क्लाउड-स्केल मॉडल फोन, माइक्रोकंट्रोलर और एम्बेडेड डिवाइस के लिए नेटवर्क को संपीड़ित और परिमाणित करने में मदद करते हैं।

छोटे मॉडल क्यों मायने रखते हैं

टिनी 2.1 से किसी भी व्यावसायिक चैटबॉट को खतरा नहीं होगा। लेकिन इस तरह की परियोजनाएं एक उपयोगी अनुस्मारक के रूप में काम करती हैं कि मॉडल संपीड़न कितनी दूर आ गया है - और आवश्यकता के बजाय कितना ब्लोट पसंद है। रेट्रो-कंप्यूटिंग के शौकीनों ने यह प्रदर्शित करने में वर्षों बिताए हैं कि दशकों पुराना हार्डवेयर आश्चर्यजनक काम करने में सक्षम है, ब्राउज़र-सक्षम एमिगास से लेकर नेटवर्क वाली 8-बिट मशीनों तक। उस वंश में शामिल होने वाला एक भाषा मॉडल पहला और चंचल है।

टिनी 2.1 को आकार देने वाली इंजीनियरिंग बाधाएँ भी दक्षता में एक क्रैश कोर्स हैं। एक 8-बिट वेट फॉर्मेट, कार्य के लिए आकार की शब्दावली और वास्तुकला, और हार्डवेयर सीमाओं के आसपास डिज़ाइन किया गया आउटपुट पथ एक सिस्टम में जुड़ जाता है जहां प्रत्येक किलोबाइट का हिसाब होता है। इसकी तुलना मुख्यधारा की तैनाती से करें, जहां परिमाणीकरण, छंटाई और आसवन बड़े पैमाने पर निर्मित मॉडलों पर लागू पूर्वव्यापी सुधार हैं - और जहां एक एकल चैट सत्र संपूर्ण टिनी 2.1 रनटाइम आवश्यकताओं की तुलना में अधिक मेमोरी का उपभोग कर सकता है, जिसमें वजन भी शामिल है।

यह एआई की शक्ति की भूख के आसपास वास्तविक पर्यावरणीय जांच के समय में भी है, शोधकर्ताओं और नियामकों ने बड़े पैमाने पर प्रशिक्षण और अनुमान की ऊर्जा लागत पर ध्यान केंद्रित किया है, और संयुक्त राज्य भर में डेटा सेंटर साइटिंग झगड़े चल रहे हैं। एक मॉडल जो 540 केबी मेमोरी और 1980 के दशक की बिजली आपूर्ति पर चलता है, उस समस्या का समाधान नहीं है - लेकिन यह स्पेक्ट्रम के दूसरे छोर का एक ज्वलंत उदाहरण है: वाट में मापा गया पदचिह्न के साथ अनुमान, मेगावाट में नहीं। फ़्लॉपी डिस्क से लेकर गीगावाट कैंपस तक फ़ील्ड कितनी दूर तक फैली हुई है, इस पर नज़र रखने वाले पाठक हमारे [ब्रेकिंग एआई न्यूज़] (https://aibuzzwire.news) में दोनों छोर पा सकते हैं।

अभी के लिए, टिनी 2.1 का निर्माता वास्तव में एक दुर्लभ उपलब्धि का दावा कर सकता है: एक तंत्रिका नेटवर्क जिसे आप उसी माध्यम से स्थापित कर सकते हैं जिसका उपयोग आप वर्ड प्रोसेसर दस्तावेज़ को सहेजने के लिए करते हैं, एक मशीन पर जो वेब से पहले की है। यह लगातार मतिभ्रम करता है, पूर्ण विश्वास के साथ फ्रांसीसी राजघराने की पहचान को गलत बताता है, और दो अंकों की संख्याओं को विश्वसनीय रूप से गुणा नहीं कर सकता है। यह भी पूरी तरह फ्लॉपी डिस्क पर चलता है।

एआई से आगे रहें

फ़्लॉपी-डिस्क मॉडल से लेकर फ्रंटियर लैब तक, हम सब कुछ ट्रैक करते हैं। अधिक AI समाचार पढ़ें →