LLM ने ज्ञान ग्राफ के लिए मजबूत प्रदर्शन और इंटरेक्टिव रणनीतियों को प्राप्त करने के लिए ज्ञान ग्राफ प्रश्न उत्तर (KGQA) में मजबूत प्रदर्शन दिखाया है। कई मौजूदा दृष्टिकोण जानकारी प्राप्त करने के लिए SPARQL- आधारित टूल पर भरोसा करते हैं, जिससे मॉडल सटीक उत्तर उत्पन्न करने की अनुमति देते हैं। कुछ तरीके उपकरण-आधारित तर्क पथों का निर्माण करके LLMS की तर्क क्षमताओं को बढ़ाते हैं, जबकि अन्य निर्णय लेने वाले ढांचे को नियुक्त करते हैं जो ज्ञान ग्राफ़ के साथ बातचीत करने के लिए पर्यावरणीय प्रतिक्रिया का उपयोग करते हैं। हालांकि इन रणनीतियों ने KGQA सटीकता में सुधार किया है, वे अक्सर उपकरण के उपयोग और वास्तविक तर्क के बीच अंतर को धुंधला कर देते हैं। यह भ्रम व्याख्या को कम करता है, पठनीयता को कम करता है, और मतिभ्रम उपकरण इनवोकेशन के जोखिम को बढ़ाता है, जहां मॉडल पैरामीट्रिक ज्ञान पर अधिक निर्भरता के कारण गलत या अप्रासंगिक प्रतिक्रियाएं उत्पन्न करते हैं।
इन सीमाओं को संबोधित करने के लिए, शोधकर्ताओं ने मेमोरी-एगमेंटेड तकनीकों का पता लगाया है जो जटिल तर्क का समर्थन करने के लिए बाहरी ज्ञान भंडारण प्रदान करते हैं। पूर्व कार्य ने दीर्घकालिक संदर्भ प्रतिधारण के लिए मेमोरी मॉड्यूल को एकीकृत किया है, जिससे अधिक विश्वसनीय निर्णय लेने में सक्षम है। प्रारंभिक KGQA विधियों ने उत्तरों का अनुमान लगाने के लिए कुंजी-मूल्य मेमोरी और ग्राफ तंत्रिका नेटवर्क का उपयोग किया, जबकि हाल ही में एलएलएम-आधारित दृष्टिकोण बढ़े हुए तर्क के लिए बड़े पैमाने पर मॉडल का लाभ उठाते हैं। कुछ रणनीतियों ने समझ को बेहतर बनाने के लिए पर्यवेक्षण को ठीक-ठाक-ट्यूनिंग का उपयोग किया, जबकि अन्य मतिभ्रम को कम करने के लिए भेदभावपूर्ण तकनीकों का उपयोग करते हैं। हालांकि, मौजूदा KGQA विधियाँ अभी भी टूल आह्वान से तर्क को अलग करने के लिए संघर्ष करती हैं, जिससे तार्किक निष्कर्ष पर ध्यान देने की कमी होती है।
हार्बिन इंस्टीट्यूट ऑफ टेक्नोलॉजी के शोधकर्ताओं ने मेमोरी-एगमेंटेड क्वेरी पुनर्निर्माण (एमईएमक्यू) का प्रस्ताव किया, एक ढांचा जो एलएलएम-आधारित केजीक्यूए में टूल इनवोकेशन से तर्क को अलग करता है। MEMQ स्वतंत्र तर्क को सक्षम करते हुए, विघटित क्वेरी स्टेटमेंट के एलएलएम-जनित विवरणों का उपयोग करके एक संरचित क्वेरी मेमोरी स्थापित करता है। यह दृष्टिकोण स्पष्ट तर्क चरणों को उत्पन्न करके और सिमेंटिक समानता के आधार पर प्रासंगिक स्मृति को पुनः प्राप्त करके पठनीयता को बढ़ाता है। MEMQ व्याख्याता में सुधार करता है और अनावश्यक उपकरण रिलायंस को समाप्त करके मतिभ्रम उपकरण के उपयोग को कम करता है। प्रायोगिक परिणाम बताते हैं कि MEMQ WEBQSP और CWQ बेंचमार्क पर अत्याधुनिक प्रदर्शन को प्राप्त करता है, जो LLM- आधारित KGQA तर्क को बढ़ाने में इसकी प्रभावशीलता का प्रदर्शन करता है।
MEMQ को तीन प्रमुख कार्यों के माध्यम से LLM- आधारित KGQA में टूल आह्वान से तर्क को अलग करने के लिए डिज़ाइन किया गया है: मेमोरी निर्माण, ज्ञान तर्क और क्वेरी पुनर्निर्माण। मेमोरी निर्माण में कुशल पुनर्प्राप्ति के लिए इसी प्राकृतिक भाषा विवरण के साथ क्वेरी स्टेटमेंट का भंडारण शामिल है। ज्ञान तर्क प्रक्रिया संरचित बहु-चरणीय तर्क योजनाएं उत्पन्न करती है, जो प्रश्नों का उत्तर देने में तार्किक प्रगति सुनिश्चित करती है। क्वेरी पुनर्निर्माण तब सिमेंटिक समानता के आधार पर प्रासंगिक क्वेरी स्टेटमेंट को पुनः प्राप्त करता है और उन्हें एक अंतिम क्वेरी में इकट्ठा करता है। MEMQ स्पष्टीकरण-स्टेटमेंट जोड़े के साथ ललित-ट्यूनिंग एलएलएम द्वारा तर्क को बढ़ाता है और एक अनुकूली मेमोरी रिकॉल रणनीति का उपयोग करता है, जो कि अत्याधुनिक परिणामों के साथ WebQSP और CWQ बेंचमार्क पर पूर्व तरीकों से बेहतर प्रदर्शन करता है।
प्रयोगों ने वेबक्यूएसपी और सीडब्ल्यूक्यू डेटासेट का उपयोग करके ज्ञान ग्राफ प्रश्न-उत्तर में एमईएमक्यू के प्रदर्शन का आकलन किया। HITS@1 और F1 स्कोर ROG और TOG जैसी टूल-आधारित बेसलाइन के खिलाफ तुलना के साथ, मूल्यांकन मेट्रिक्स के रूप में काम करते हैं। MEMQ, Llama2-7B पर निर्मित, पिछले तरीकों से बेहतर प्रदर्शन करता है, जो एक मेमोरी-अगस्त दृष्टिकोण के माध्यम से बेहतर तर्क दिखाता है। विश्लेषणात्मक प्रयोग बेहतर संरचनात्मक और किनारे सटीकता को उजागर करते हैं। एब्लेशन स्टडीज टूल के उपयोग और तर्क स्थिरता में एमईएमक्यू की प्रभावशीलता की पुष्टि करता है। अतिरिक्त विश्लेषण तर्क त्रुटियों, मतिभ्रम, डेटा दक्षता और मॉडल सार्वभौमिकता का पता लगाते हैं, आर्किटेक्चर में इसकी अनुकूलनशीलता का प्रदर्शन करते हैं। MEMQ बहु-चरणीय प्रश्नों में त्रुटियों को कम करते हुए संरचित तर्क को बढ़ाता है।
अंत में, अध्ययन MEMQ का परिचय देता है, एक मेमोरी-अगस्त ढांचा जो KGQA में मतिभ्रम को कम करने के लिए उपकरण आह्वान से एलएलएम तर्क को अलग करता है। MEMQ क्वेरी पुनर्निर्माण में सुधार करता है और क्वेरी मेमोरी मॉड्यूल को शामिल करके तर्क स्पष्टता को बढ़ाता है। दृष्टिकोण उपकरण उपयोग में त्रुटियों को कम करते हुए प्राकृतिक भाषा तर्क को सक्षम करता है। WebQSP और CWQ बेंचमार्क पर प्रयोगों से पता चलता है कि MEMQ मौजूदा तरीकों से बेहतर प्रदर्शन करता है, अत्याधुनिक परिणाम प्राप्त करता है। उपकरण उपयोग और तर्क के बीच भ्रम को संबोधित करके, MEMQ KGQA के लिए अधिक प्रभावी दृष्टिकोण की पेशकश करते हुए, LLM- जनित प्रतिक्रियाओं की पठनीयता और सटीकता को बढ़ाता है।
चेक आउट कागज़। इस शोध के लिए सभी श्रेय इस परियोजना के शोधकर्ताओं को जाते हैं। इसके अलावा, हमें फॉलो करने के लिए स्वतंत्र महसूस करें ट्विटर और हमारे साथ जुड़ने के लिए मत भूलना 80K+ एमएल सब्रेडिट।
आईआईटी मद्रास में मार्कटेकपोस्ट में एक परामर्श इंटर्न और दोहरे डिग्री के छात्र सना हसन, वास्तविक दुनिया की चुनौतियों का समाधान करने के लिए प्रौद्योगिकी और एआई को लागू करने के बारे में भावुक हैं। व्यावहारिक समस्याओं को हल करने में गहरी रुचि के साथ, वह एआई और वास्तविक जीवन के समाधानों के चौराहे के लिए एक नया दृष्टिकोण लाता है।
