MIT शोधकर्ताओं ने एक आवर्त सारणी बनाई है जो दिखाती है कि 20 से अधिक शास्त्रीय मशीन-लर्निंग एल्गोरिदम कैसे जुड़े हुए हैं। नया ढांचा इस बात पर प्रकाश डालता है कि कैसे वैज्ञानिक मौजूदा एआई मॉडल को बेहतर बनाने या नए लोगों के साथ आने के लिए विभिन्न तरीकों से रणनीतियों को फ्यूज कर सकते हैं।
उदाहरण के लिए, शोधकर्ताओं ने एक नया छवि-क्लासिफिकेशन एल्गोरिथ्म बनाने के लिए दो अलग-अलग एल्गोरिदम के तत्वों को संयोजित करने के लिए अपने ढांचे का उपयोग किया, जो वर्तमान अत्याधुनिक दृष्टिकोणों की तुलना में 8 प्रतिशत बेहतर प्रदर्शन करता है।
आवर्त सारणी एक प्रमुख विचार से उपजी है: ये सभी एल्गोरिदम डेटा बिंदुओं के बीच एक विशिष्ट प्रकार का संबंध सीखते हैं। जबकि प्रत्येक एल्गोरिथ्म यह पूरा कर सकता है कि थोड़ा अलग तरीके से, प्रत्येक दृष्टिकोण के पीछे मुख्य गणित समान है।
इन अंतर्दृष्टि पर निर्माण, शोधकर्ताओं ने एक एकीकृत समीकरण की पहचान की जो कई शास्त्रीय एआई एल्गोरिदम को रेखांकित करता है। उन्होंने उस समीकरण का उपयोग लोकप्रिय तरीकों को फिर से तैयार करने और उन्हें एक तालिका में व्यवस्थित करने के लिए किया, प्रत्येक को अनुमानित संबंधों के आधार पर वर्गीकृत किया गया।
रासायनिक तत्वों की आवर्त सारणी की तरह, जिसमें शुरू में रिक्त वर्ग शामिल थे जो बाद में वैज्ञानिकों द्वारा भरे गए थे, मशीन लर्निंग की आवर्त सारणी में खाली स्थान भी होते हैं। ये स्थान यह अनुमान लगाते हैं कि एल्गोरिदम कहां मौजूद होना चाहिए, लेकिन जो अभी तक खोजा नहीं गया है।
तालिका ने इस नए ढांचे पर एक पेपर के एक पेपर के प्रमुख लेखक और एक पेपर के प्रमुख लेखक शैडेन अल्शमरी कहते हैं, शोधकर्ताओं को पूर्व दृष्टिकोणों से विचारों को फिर से खोजने की आवश्यकता के बिना नए एल्गोरिदम डिजाइन करने के लिए एक टूलकिट देता है।
“यह सिर्फ एक रूपक नहीं है,” अलशम्मरी कहते हैं। “हम मशीन लर्निंग को संरचना के साथ एक प्रणाली के रूप में देखना शुरू कर रहे हैं जो एक ऐसा स्थान है जिसे हम केवल अपने तरीके से अनुमान लगाने के बजाय पता लगा सकते हैं।”
वह Google AI धारणा के एक शोधकर्ता जॉन हर्शे द्वारा कागज पर शामिल हैं; एक्सल फेल्डमैन, एक एमआईटी स्नातक छात्र; विलियम फ्रीमैन, थॉमस और गेरड पर्किन्स इलेक्ट्रिकल इंजीनियरिंग और कंप्यूटर साइंस के प्रोफेसर और कंप्यूटर साइंस एंड आर्टिफिशियल इंटेलिजेंस लेबोरेटरी (CSAIL) के सदस्य; और वरिष्ठ लेखक मार्क हैमिल्टन, MIT स्नातक छात्र और Microsoft में वरिष्ठ इंजीनियरिंग प्रबंधक। अनुसंधान को सीखने के अभ्यावेदन पर अंतर्राष्ट्रीय सम्मेलन में प्रस्तुत किया जाएगा।
एक आकस्मिक समीकरण
शोधकर्ताओं ने मशीन लर्निंग की एक आवर्त सारणी बनाने के लिए सेट नहीं किया।
फ्रीमैन लैब में शामिल होने के बाद, अल्शमरी ने क्लस्टरिंग का अध्ययन करना शुरू किया, एक मशीन-लर्निंग तकनीक जो पास के समूहों में समान छवियों को व्यवस्थित करने के लिए सीखकर छवियों को वर्गीकृत करती है।
उसने महसूस किया कि वह जिस क्लस्टरिंग एल्गोरिथ्म का अध्ययन कर रही थी, वह एक अन्य शास्त्रीय मशीन-लर्निंग एल्गोरिथ्म के समान थी, जिसे कंट्रास्टिव लर्निंग कहा जाता था, और गणित में गहराई से खुदाई करना शुरू कर दिया। अलशम्मरी ने पाया कि इन दो असमान एल्गोरिदम को एक ही अंतर्निहित समीकरण का उपयोग करके फिर से तैयार किया जा सकता है।
हैमिल्टन कहते हैं, “हम लगभग दुर्घटना से इस एकीकृत समीकरण के लिए मिल गए। एक बार शादेन को पता चला कि यह दो तरीकों को जोड़ता है, हमने इस ढांचे में लाने के लिए नए तरीकों का सपना देखना शुरू कर दिया है। लगभग हर एक जिसे हमने जोड़ा है, उसे जोड़ा जा सकता है,” हैमिल्टन कहते हैं।
उनके द्वारा बनाई गई फ्रेमवर्क, कंट्रास्टिव लर्निंग (I-Con), यह दर्शाता है कि इस एकीकृत समीकरण के लेंस के माध्यम से विभिन्न प्रकार के एल्गोरिदम को कैसे देखा जा सकता है। इसमें वर्गीकरण एल्गोरिदम से सब कुछ शामिल है जो स्पैम को डीप लर्निंग एल्गोरिदम के लिए पावर एलएलएम का पता लगा सकता है।
समीकरण बताता है कि इस तरह के एल्गोरिदम वास्तविक डेटा बिंदुओं के बीच संबंध कैसे पाते हैं और फिर उन कनेक्शनों को आंतरिक रूप से अनुमानित करते हैं।
प्रत्येक एल्गोरिथ्म का उद्देश्य उन कनेक्शनों के बीच विचलन की मात्रा को कम करना है जो इसे अनुमानित और अपने प्रशिक्षण डेटा में वास्तविक कनेक्शन के लिए सीखता है।
उन्होंने एल्गोरिदम को वर्गीकृत करने के लिए I-Con को एक आवर्त सारणी में व्यवस्थित करने का फैसला किया, जो कि वास्तविक डेटासेट में कैसे जुड़े हुए हैं और प्राथमिक तरीके एल्गोरिदम उन कनेक्शनों को अनुमानित कर सकते हैं।
“काम धीरे -धीरे चला, लेकिन एक बार जब हमने इस समीकरण की सामान्य संरचना की पहचान कर ली थी, तो हमारे ढांचे में अधिक तरीकों को जोड़ना आसान था,” अल्शम्मारी कहते हैं।
खोज के लिए एक उपकरण
जैसा कि उन्होंने तालिका की व्यवस्था की, शोधकर्ताओं ने अंतराल को देखना शुरू कर दिया जहां एल्गोरिदम मौजूद हो सकता है, लेकिन जिसका अभी तक आविष्कार नहीं किया गया था।
शोधकर्ताओं ने एक मशीन-लर्निंग तकनीक से विचारों को उधार लेकर एक अंतराल में भरे हुए, जिसे कंट्रास्टिव लर्निंग कहा जाता है और उन्हें छवि क्लस्टरिंग पर लागू किया जाता है। इसके परिणामस्वरूप एक नया एल्गोरिथ्म हुआ जो कि एक अन्य अत्याधुनिक दृष्टिकोण की तुलना में 8 प्रतिशत बेहतर नहीं हो सकता है।
उन्होंने यह भी दिखाने के लिए I-Con का उपयोग किया कि कैसे कंट्रास्टिव लर्निंग के लिए विकसित एक डेटा डेबिसिंग तकनीक का उपयोग क्लस्टरिंग एल्गोरिदम की सटीकता को बढ़ावा देने के लिए किया जा सकता है।
इसके अलावा, लचीली आवधिक तालिका शोधकर्ताओं को अतिरिक्त प्रकार के डेटापॉइंट कनेक्शन का प्रतिनिधित्व करने के लिए नई पंक्तियों और कॉलम जोड़ने की अनुमति देती है।
अंततः, एक गाइड के रूप में I-Con होने से मशीन सीखने के वैज्ञानिकों को बॉक्स के बाहर सोचने में मदद मिल सकती है, उन्हें उन तरीकों से विचारों को संयोजित करने के लिए प्रोत्साहित किया गया जो वे जरूरी नहीं कि अन्यथा सोचते हैं, हैमिल्टन कहते हैं।
उन्होंने कहा, “हमने दिखाया है कि सूचना के विज्ञान में निहित सिर्फ एक बहुत ही सुरुचिपूर्ण समीकरण, आपको मशीन लर्निंग में 100 साल के शोध में समृद्ध एल्गोरिदम देता है। यह खोज के लिए कई नए रास्ते खोलता है,” वे कहते हैं।
“शायद इन दिनों एक मशीन-लर्निंग शोधकर्ता होने का सबसे चुनौतीपूर्ण पहलू है जो प्रत्येक वर्ष दिखाई देने वाले कागजात की प्रतीत होता है। इस संदर्भ में, इस संदर्भ में, मौजूदा एल्गोरिदम को एकजुट करने और कनेक्ट करने वाले कागजात बहुत महत्व रखते हैं, फिर भी वे बेहद दुर्लभ हैं। I-Con इस तरह के एक एकजुट दृष्टिकोण का एक उत्कृष्ट उदाहरण प्रदान करता है और दूसरों के लिए एक समान दृष्टिकोण लागू करने के लिए प्रेरित करेगा। यरूशलेम, जो इस शोध में शामिल नहीं थे।
इस शोध को वायु सेना के आर्टिफिशियल इंटेलिजेंस एक्सेलेरेटर, नेशनल साइंस फाउंडेशन एआई इंस्टीट्यूट फॉर आर्टिफिशियल इंटेलिजेंस एंड फंडामेंटल इंटरैक्शन और क्वांटा कंप्यूटर द्वारा वित्त पोषित किया गया था।
।
