संशोधकांच्या एका टीमने फोटोनिक इंटिग्रेटेड सर्किट्सना थेट फिजिकल चिपवर प्रशिक्षित करण्यासाठी एक सामान्य पद्धत दाखवली आहे, ही एक पायरी आहे जी ऑप्टिकल प्रोसेसरला स्थिर, पूर्व-डिझाइन केलेल्या प्रवेगकांपासून हार्डवेअरमध्ये बदलू शकते जे ते तयार केल्यानंतर शिकते. नेचर कम्प्युटेशनल सायन्समध्ये प्रकाशित केलेल्या कामाचा सारांश "फोटोनिक सर्किट्स प्रशिक्षित एआय हार्डवेअर बनतात."
इन्स्पायर नावाची पद्धत — ऑन-चिपसाठी लहान, सिटू फिजिकल ग्रेडियंट डिसेंटमध्ये — कृत्रिम बुद्धिमत्तेसाठी फोटोनिक संगणनामधील एक मध्यवर्ती अडथळे दूर करते: जरी फोटोनिक प्रोसेसर वेग आणि उर्जा कार्यक्षमतेमध्ये मोठ्या नफ्याचे आश्वासन देत असले तरी, त्यांचे प्रशिक्षण मोठ्या प्रमाणात डिजिटल सिम्युलेशनपर्यंत मर्यादित राहिले आहे ज्यांना महागड्या भौतिक मॉडेलिंगची आवश्यकता आहे. For more context on this story, see our ongoing AI trends.
फोटोनिक एआय चिप्स प्रशिक्षित करणे कठीण का आहे
आज बहुतेक न्यूरल नेटवर्क डिजिटल हार्डवेअरवर प्रशिक्षित आहेत, जेथे ग्रेडियंटची अचूक गणना केली जाऊ शकते. फोटोनिक सर्किट्स भिन्न आहेत: प्रकाश हस्तक्षेप, स्कॅटर आणि जोडप्या अशा प्रकारे ज्यांचे मॉडेल अचूकपणे तयार करणे कठीण आहे आणि लहान उत्पादन भिन्नता म्हणजे प्रयोगशाळेतील चिप क्वचितच त्याच्या डिजिटल ट्विनसारखे वागते. नेटवर्कला ऑफलाइन प्रशिक्षित करणे आणि नंतर पॅरामीटर्स चिपवर हस्तांतरित करणे म्हणजे अचूकता कमी करणारी विसंगती स्वीकारणे.
मागील संशोधनाने समस्या दूर केली आहे. अभ्यासांनी फोटोनिक न्यूरल नेटवर्क्समध्ये सिटू बॅकप्रोपगेशन आणि ग्रेडियंट मापन दर्शविले आहे आणि 2024 मध्ये संशोधकांनी डिजिटल मॉडेल इम्युलेशनवर अवलंबून राहण्यासाठी ऑप्टिकल न्यूरल नेटवर्कसाठी पूर्णपणे फॉरवर्ड मोड प्रशिक्षण सुरू केले. नवीन काम एका डिझाईनसाठी तयार न करता संपूर्ण सर्किट आर्किटेक्चरमध्ये सामान्य असलेल्या पद्धतीचा दावा करून ही ओळ वाढवते.
इन्स्पायर कसे कार्य करते
पेपरनुसार, INSPIRE द्विदिशात्मक फोटोनिक मोडच्या संपूर्ण जटिल फील्डचे मोजमाप करण्यासाठी ऑन-चिप सिंथेटिक टाइम-रिव्हर्सल होलोग्राफी वापरते. ते मोजमाप सर्किटला स्वतःच ग्रेडियंटची गणना करण्यास आणि चिपच्या संपूर्ण डिजिटल मॉडेलची आवश्यकता न करता स्वतःचे पॅरामीटर्स अद्यतनित करण्यास अनुमती देते.
व्यावहारिक परिणाम लक्षणीय आहे. ग्रेडियंट गणना भौतिक प्रणालीमध्ये होत असल्याने, विविध सर्किट टोपोलॉजीजला फॅब्रिकेशन नंतर प्रशिक्षण दिले जाऊ शकते आणि हार्डवेअर मॅट्रिक्स डिझाइन, मल्टीवेव्हलेंथ गणना आणि विश्वासू डिजिटल प्रतिकृतीशिवाय जलद मेटा-लर्निंग हाताळू शकते. पारंपारिक कार्यप्रवाहांमध्ये, त्यातील प्रत्येक पायरी सिम्युलेशन अचूकतेवर अवलंबून असते ज्याची वास्तविक-जगातील चिप्स हमी देऊ शकत नाहीत.
फ्रेमवर्कचे वर्णन टोपोलॉजी-अज्ञेयवादी असे केले जाते, याचा अर्थ ते एकाच बेस्पोक लेआउटऐवजी विविध ऑप्टिकल सर्किट डिझाइनसह कार्य करते. कारण ग्रेडियंट भौतिकरित्या मोजले जातात, नेटवर्कला फॅब्रिकेशन नंतर प्रशिक्षित केले जाऊ शकते, अतिशय मॅन्युफॅक्चरिंग अपूर्णता शोषून घेतले जाऊ शकते जे अन्यथा आवाज म्हणून गणले जाईल.
परिणाम
नोंदवलेले आकडे विशिष्ट आहेत. प्रयोगांमध्ये, पद्धतीने 0.26% च्या सापेक्ष त्रुटीसह प्रशिक्षित मॅट्रिक्स प्राप्त केले. संघाने सर्किटमधील मूळ ट्यून करण्यायोग्य घटकांच्या संख्येपेक्षा मोठ्या मॅट्रिक्ससाठी स्कॅटरिंग मीडियाद्वारे सिटू प्रशिक्षणात देखील प्रात्यक्षिक केले - नाममात्र आवश्यक असलेल्या समस्येपेक्षा कमी भौतिक नियंत्रणांसह प्रभावीपणे शिकणे.
कदाचित सर्वात आश्चर्यकारक, संशोधकांनी दर्शविले की मेटा-फोटोनिक सर्किट्स सिटू मेटा-लर्निंगमध्ये कार्य करू शकतात, ते 251-पट मॉडेल कॉम्प्रेशन आणि 136-पट कार्य-विशिष्ट प्रशिक्षण प्रवेग सह सिंगल-शॉट फोटोनिक लर्निंग म्हणून काय वर्णन करतात हे लक्षात घेऊन. कंपेनियन ब्रीफ जोडते की हार्डवेअर सर्किटच्या पूर्ण डिजिटल मॉडेलशिवाय मॅट्रिक्स डिझाइन, मल्टीवेव्हलेंथ कंप्युटेशन आणि वेगवान मेटा-लर्निंग मिळवते.
हे महत्त्वाचे का आहे
AI ची उर्जा भूक ही उद्योगातील सर्वात महत्त्वाची अडचण आहे आणि ऑप्टिकल संगणन हे मॅट्रिक्स गुणाकार चालवण्याचा एक मार्ग म्हणून प्रस्तावित आहे - न्यूरल नेटवर्क्सचे मुख्य ऑपरेशन - इलेक्ट्रॉनिक प्रोसेसरपेक्षा खूपच कमी पॉवरवर. स्टार्टअप्स आणि शैक्षणिक गटांमधील ऑप्टिकल चिप्सने आधीच प्रभावी अनुमान थ्रूपुट प्रदर्शित केले आहे. प्रशिक्षण, तथापि, डिजिटल राहिले आहे: चिप नेटवर्क चालवते, परंतु शिकणे GPU वर त्याचे अनुकरण करते.
व्यावहारिक प्रशिक्षण पद्धतीमुळे ते अंतर कमी होईल, फोटोनिक प्रणालींना हार्डवेअरवरच नवीन कार्यांशी जुळवून घेता येईल. हे फोटोनिक प्रवेगक तैनात करण्याची किंमत देखील कमी करू शकते, कारण चिप्सना यापुढे वापरण्यापूर्वी पूर्णपणे वैशिष्ट्यीकृत आणि नुकसानभरपाईची आवश्यकता नाही. लेखक "अनुकूल आणि कार्यक्षम बुद्धिमान फोटोनिक प्रणालींकडे एक व्यावहारिक मार्ग" ऑफर म्हणून कामाची रचना करतात.
चेतावणी
परिणाम नियंत्रित प्रयोगशाळेच्या प्रात्यक्षिकांमधून येतात आणि पेपरचा सारांश उत्पादन तयारीचा दावा करत नाही. प्रात्यक्षिक मॅट्रिक्स आकारांपासून फ्रंटियर न्यूरल नेटवर्क्सच्या स्केलपर्यंत ऑन-चिप प्रशिक्षण स्केलिंग करणे हे एक खुले अभियांत्रिकी आव्हान आहे, जसे की मोजमाप यंत्र — सिंथेटिक टाइम-रिव्हर्सल होलोग्राफी — कॉम्पॅक्ट, वस्तुमान-उत्पादक पॅकेजेसमध्ये एकत्रित करणे. रिअल-वर्ल्ड डिप्लॉयमेंटला तापमानातील बदल आणि घटक वृद्धत्वामध्ये विश्वासार्हता सिद्ध करणे देखील आवश्यक आहे, अशा परिस्थितीत जेथे फोटोनिक सिस्टम वाहून जातात.
तरीही, प्रकाशनाने फील्डवर भर देण्यामध्ये लक्षणीय बदल घडवून आणला आहे: उत्तम फोटोनिक सर्किट्स डिझाइन करण्यापासून ते फोटोनिक सर्किट्सना स्वतःची रचना करू देण्यापर्यंत, किमान त्यांचे स्वतःचे पॅरामीटर्स ट्यून करण्याच्या अरुंद अर्थाने. फॉलो-अप कार्याने परिणाम मोठ्या प्रमाणावर पुनरुत्पादित केल्यास, ऑप्टिकल AI हार्डवेअरसाठी ऊर्जा केस भौतिकदृष्ट्या मजबूत होते.
तियानकुआंग झाऊ, युन झाओ, शांगलोंग ली, गुओचेंग शाओ, रुकी हुआंग आणि लू फँग यांचा "फोटोनिक न्यूरोमॉर्फिक लर्निंग वाया जनरलाइज्ड इन सिटू फिजिकल ग्रेडियंट डिसेंट" हा अंतर्निहित अभ्यास नेचर कॉम्प्युटेशनल सायन्समध्ये प्रकाशित झाला आहे.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
