एलएलएमएस में विश्वसनीय निर्देश-पालन सुनिश्चित करना एक महत्वपूर्ण चुनौती बनी हुई है। यह ग्राहक-सामना करने वाले अनुप्रयोगों में विशेष रूप से महत्वपूर्ण है, जहां गलतियाँ महंगी हो सकती हैं। पारंपरिक शीघ्र इंजीनियरिंग तकनीक लगातार परिणाम देने में विफल होती है। लचीलेपन को बनाए रखते हुए व्यावसायिक नियमों के पालन में सुधार के लिए एक अधिक संरचित और प्रबंधित दृष्टिकोण आवश्यक है।
यह लेख कार्यान्वयन सीमाओं और व्यापार-बंदों को स्वीकार करते हुए, दानेदार परमाणु दिशानिर्देश, गतिशील मूल्यांकन और निर्देशों के फ़िल्टरिंग, और चौकस तर्क क्वेरी (ARQs) सहित प्रमुख नवाचारों की पड़ताल करता है।
चुनौती: ग्राहक सेवा में असंगत एआई प्रदर्शन
एलएलएम पहले से ही मूर्त व्यावसायिक मूल्य प्रदान कर रहे हैं जब ग्राहक सेवा परिदृश्यों में मानव प्रतिनिधियों के सहायक के रूप में उपयोग किया जाता है। हालांकि, स्वायत्त ग्राहक-सामना करने वाले एजेंटों के रूप में उनकी विश्वसनीयता एक चुनौती बनी हुई है।
संवादी एलएलएम अनुप्रयोगों को विकसित करने के लिए पारंपरिक दृष्टिकोण अक्सर वास्तविक दुनिया के उपयोग के मामलों में विफल होते हैं। दो सबसे आम दृष्टिकोण हैं:
- Iterative शीघ्र इंजीनियरिंग, जो असंगत, अप्रत्याशित व्यवहार की ओर जाता है।
- प्रवाह-आधारित प्रक्रमनजो एलएलएम-संचालित इंटरैक्शन के वास्तविक जादू का बलिदान करता है: गतिशील, मुक्त-प्रवाह, मानव-जैसे इंटरैक्शन।
उच्च-दांव ग्राहक-सामना करने वाले अनुप्रयोगों में, जैसे कि बैंकिंग, यहां तक कि मामूली त्रुटियों के गंभीर परिणाम भी हो सकते हैं। उदाहरण के लिए, एक गलत तरीके से निष्पादित एपीआई कॉल (जैसे पैसे स्थानांतरित करना) से मुकदमों और प्रतिष्ठित क्षति हो सकती है। इसके विपरीत, यांत्रिक बातचीत जिसमें स्वाभाविकता और तालमेल की कमी होती है, ग्राहक ट्रस्ट और सगाई को चोट पहुंचाता है, नियंत्रण दरों को सीमित करता है (मानव हस्तक्षेप के बिना हल किए गए मामले)।
LLMS के लिए वास्तविक दुनिया के मामलों में गतिशील, स्वायत्त एजेंटों के रूप में अपनी पूरी क्षमता तक पहुंचने के लिए, हमें उन्हें प्राकृतिक, मुक्त-प्रवाह वाली बातचीत के लचीलेपन को बनाए रखते हुए, लगातार और पैमाने पर व्यवसाय-विशिष्ट निर्देशों का पालन करना चाहिए।
एलएलएम के साथ एक विश्वसनीय, स्वायत्त ग्राहक सेवा एजेंट कैसे बनाएं
LLMS और वर्तमान दृष्टिकोणों में इन अंतरालों को संबोधित करने के लिए, और वास्तविक दुनिया के मामलों में अच्छी तरह से काम करने वाली विश्वसनीयता और नियंत्रण का एक स्तर प्राप्त करें, हमें उन दृष्टिकोणों पर सवाल उठाना चाहिए जो विफल रहे।
जब मैंने पार्लेंट (ग्राहक-सामना करने वाले एआई एजेंटों के लिए एक ओपन-सोर्स फ्रेमवर्क) पर काम करना शुरू किया, तो मेरे पास पहले प्रश्नों में से एक था, “यदि एआई एजेंट को किसी विशेष ग्राहक परिदृश्य को मिस करने के लिए पाया जाता है, तो इसे ठीक करने के लिए इष्टतम प्रक्रिया क्या होगी?” पहले से ही लंबाई वाले प्रॉम्प्ट में अतिरिक्त मांगों को जोड़ना, जैसे “यहां आपको परिदृश्य एक्स के लिए कैसे जाना चाहिए …” जल्दी से प्रबंधन करने के लिए जटिल हो जाएगा, और परिणाम किसी भी तरह से लगातार नहीं थे। इसके अलावा, उन निर्देशों को जोड़ने से बिना शर्त एक संरेखण जोखिम होता है क्योंकि LLMS स्वाभाविक रूप से उनके इनपुट द्वारा पक्षपाती हैं। इसलिए यह महत्वपूर्ण था कि परिदृश्य X के निर्देश अन्य परिदृश्यों में लीक नहीं हुए, जिन्हें संभावित रूप से एक अलग दृष्टिकोण की आवश्यकता थी।
इस प्रकार हमें एहसास हुआ कि केवल उनके इच्छित संदर्भ में आवेदन करने के लिए आवश्यक निर्देश। यह समझ में आया, क्योंकि वास्तविक जीवन में, जब हम एक ग्राहक-सेवा इंटरैक्शन में वास्तविक समय में असंतोषजनक व्यवहार को पकड़ते हैं, तो हम आमतौर पर जानते हैं कि इसे कैसे सही किया जाए: हम दोनों को निर्दिष्ट करने में सक्षम हैं कि क्या सुधार करने की आवश्यकता है और साथ ही उस संदर्भ में जिसमें हमारी प्रतिक्रिया लागू होनी चाहिए। उदाहरण के लिए, “प्रीमियम-प्लान लाभों पर चर्चा करते समय संक्षिप्त और इस बिंदु पर रहें,” लेकिन “अन्य समाधानों से तुलना करते समय लंबाई में हमारी पेशकश को समझाने के लिए तैयार रहें।”
निर्देशों के इस संदर्भ के अलावा, एक उच्च सक्षम एजेंट को प्रशिक्षित करने में, जो कई उपयोग के मामलों को संभाल सकता है, हमें स्पष्ट रूप से समय के साथ कई निर्देशों को ट्विस्ट करने की आवश्यकता होगी क्योंकि हमने अपने एजेंट के व्यवहार को व्यावसायिक आवश्यकताओं और वरीयताओं के लिए आकार दिया था। हमें एक व्यवस्थित दृष्टिकोण की आवश्यकता थी।
पहले सिद्धांतों से पीछे हटते हुए और पुनर्विचार करते हुए, आधुनिक एआई-आधारित इंटरैक्शन से हमारी आदर्श अपेक्षाएं और उन्हें कैसे विकसित किया जाए, यह वही है जो हम समझते हैं कि इस तरह की बातचीत ग्राहकों को कैसा महसूस होनी चाहिए:
- सहानुभूति और सुसंगत: एआई का उपयोग करते समय ग्राहकों को अच्छे हाथों में महसूस करना चाहिए।
- द्रव, इंस्टेंट मैसेजिंग (IM) की तरह: ग्राहकों को विषयों को आगे और पीछे स्विच करने की अनुमति देना, कई संदेशों का उपयोग करके खुद को व्यक्त करें, और एक समय में कई विषयों के बारे में पूछें।
- व्यक्तिगत: आपको महसूस करना चाहिए कि एआई एजेंट जानता है कि यह बात कर रहा है आप और अपने संदर्भ को समझता है।
डेवलपर के नजरिए से, हमें यह भी एहसास हुआ कि:
- सही संवादात्मक UX को क्राफ्ट करना एक विकासवादी प्रक्रिया है। हमें मौजूदा व्यवहार को तोड़ने के बारे में चिंता किए बिना, अलग -अलग संदर्भों में, अलग -अलग संदर्भों में एजेंट व्यवहार को संशोधित करने में सक्षम होना चाहिए।
- निर्देशों का लगातार सम्मान किया जाना चाहिए। यह एलएलएम के साथ करना मुश्किल है, जो स्वाभाविक रूप से अप्रत्याशित जीव हैं। एक अभिनव समाधान की आवश्यकता थी।
- एजेंट के फैसले पारदर्शी होने चाहिए। प्राकृतिक भाषा और व्यवहार से संबंधित संभावित मुद्दों का स्पेक्ट्रम बहुत व्यापक है। एक एजेंट ने किसी दिए गए परिदृश्य में हमारे निर्देशों की व्याख्या कैसे की, इस बात के स्पष्ट संकेतों के बिना निर्देश-समर्पण में मुद्दों को हल करना, समय सीमा के साथ उत्पादन वातावरण में अत्यधिक अव्यावहारिक होगा।
पार्लेंट के डिजाइन लक्ष्यों को लागू करना
हमारी मुख्य चुनौती यह थी कि एआई एजेंट के व्यवहार को कैसे नियंत्रित और समायोजित किया जाए, जबकि यह सुनिश्चित करते हुए कि निर्देश व्यर्थ में नहीं बोले जाते हैं – कि एआई एजेंट उन्हें सटीक और लगातार लागू करता है। इसके कारण एक रणनीतिक डिजाइन निर्णय लिया गया: दानेदार, परमाणु दिशानिर्देश।
1। दानेदार परमाणु दिशानिर्देश
कॉम्प्लेक्स प्रॉम्प्ट अक्सर एलएलएम को अभिभूत करते हैं, जो अपूर्ण या असंगत आउटपुट के लिए अग्रणी हैं, जो उनके द्वारा निर्दिष्ट निर्देशों के संबंध में हैं। हमने स्व-निहित, परमाणु दिशानिर्देशों के लिए व्यापक संकेतों को छोड़कर पार्लेंट में इसे हल किया। प्रत्येक दिशानिर्देश में शामिल हैं:
- स्थिति: एक प्राकृतिक भाषा की क्वेरी जो यह निर्धारित करती है कि निर्देश कब लागू होना चाहिए (उदाहरण के लिए, “ग्राहक रिफंड के बारे में पूछताछ करता है …”)
- कार्रवाई: एलएलएम को विशिष्ट निर्देश का पालन करना चाहिए (उदाहरण के लिए, “आदेश विवरण की पुष्टि करें और धनवापसी प्रक्रिया का अवलोकन प्रदान करें।”)
प्रबंधनीय इकाइयों में निर्देशों को विभाजित करके और व्यवस्थित रूप से एक समय में प्रत्येक पर अपना ध्यान केंद्रित करते हुए, हम एलएलएम को उच्च सटीकता के साथ मूल्यांकन और लागू करने के लिए प्राप्त कर सकते हैं।
2। फ़िल्टरिंग और पर्यवेक्षण तंत्र
LLMs उनके संकेतों की सामग्री से अत्यधिक प्रभावित होते हैं, भले ही प्रॉम्प्ट के कुछ हिस्से सीधे बातचीत के लिए प्रासंगिक न हों।
एक बार में सभी दिशानिर्देशों को प्रस्तुत करने के बजाय, हमने पार्लेंट को गतिशील रूप से मैच किया और बातचीत के प्रत्येक चरण में केवल प्रासंगिक निर्देशों को लागू किया। इस वास्तविक समय के मिलान के लिए इसका लाभ उठाया जा सकता है:
- एलएलएम के लिए संज्ञानात्मक अधिभार कम: हम शीघ्र लीक से बचते हैं और सही निर्देशों पर मॉडल का ध्यान बढ़ाते हैं, जिससे उच्च स्थिरता हो जाती है।
- पर्यवेक्षण: हमने प्रत्येक दिशानिर्देश के प्रभाव को उजागर करने और इसके आवेदन को लागू करने के लिए एक तंत्र जोड़ा, जिससे बोर्ड भर में अनुरूपता बढ़ती है।
- स्पष्टता: सिस्टम द्वारा उत्पन्न प्रत्येक मूल्यांकन और निर्णय में एक तर्क शामिल है कि कैसे दिशानिर्देशों की व्याख्या की गई और बातचीत में प्रत्येक बिंदु पर उन्हें छोड़ने या सक्रिय करने के पीछे तर्क दिया गया।
- निरंतर सुधार: दिशानिर्देश प्रभावशीलता और एजेंट व्याख्या की निगरानी करके, डेवलपर्स समय के साथ अपने एआई के व्यवहार को आसानी से परिष्कृत कर सकते हैं। क्योंकि दिशानिर्देश परमाणु और पर्यवेक्षण किए जाते हैं, आप आसानी से नाजुक संकेतों को तोड़ने के बिना संरचित परिवर्तन कर सकते हैं।
3। चौकस तर्क क्वेरी (ARQs)
जबकि “चेन ऑफ़ थॉट” (COT) संकेत तर्क में सुधार करता है, यह समय के साथ लगातार, संदर्भ-संवेदनशील प्रतिक्रियाओं को बनाए रखने की अपनी क्षमता में सीमित रहता है। पार्लेंट परिचय देता है चौकस तर्क प्रश्न (ARQ)-एक तकनीक हमने यह सुनिश्चित करने के लिए तैयार की है कि मल्टी-स्टेप रीजनिंग प्रभावी, सटीक और अनुमानित है, यहां तक कि हजारों रन पर भी। आप arqs बनाम COT पर हमारे शोध पत्र को parlant.io और arxiv.org पर पा सकते हैं।
ARQs प्रतिक्रिया जनरेशन प्रक्रिया में प्रमुख बिंदुओं पर एलएलएम के ध्यान को उच्च प्राथमिकता वाले निर्देशों पर वापस निर्देशित करके काम करते हैं, एलएलएम को उन निर्देशों में भाग लेने के लिए प्राप्त करते हैं और उन्हें लागू करने से पहले उनके बारे में उनके बारे में तर्क देते हैं। हमने पाया कि प्रतिक्रिया के हिस्से के चारों ओर तर्क को “स्थानीयकरण” करना जहां एक विशिष्ट निर्देश को लागू करने की आवश्यकता होती है, जो कि सीओटी जैसी प्रारंभिक, निरर्थक तर्क प्रक्रिया की तुलना में काफी अधिक सटीकता और स्थिरता प्रदान करता है।
सीमाओं को स्वीकार करना
जबकि ये नवाचार निर्देश-निम्नलिखित में सुधार करते हैं, विचार करने के लिए चुनौतियां हैं:
- कम्प्यूटेशनल ओवरहेड: फ़िल्टरिंग और तर्क तंत्र को लागू करने से प्रसंस्करण समय बढ़ता है। हालांकि, हार्डवेयर और एलएलएम के दिन में सुधार के साथ, हमने इसे संभवतः विवादास्पद, अभी तक रणनीतिक डिजाइन विकल्प के रूप में देखा।
- वैकल्पिक दृष्टिकोण: कुछ कम-जोखिम वाले अनुप्रयोगों में, जैसे कि सहायक एआई सह-पायलट, प्रॉम्प्ट-ट्यूनिंग या वर्कफ़्लो-आधारित दृष्टिकोण जैसे सरल तरीके अक्सर पर्याप्त होते हैं।
क्यों निरंतरता एंटरप्राइज-ग्रेड संवादी एआई के लिए महत्वपूर्ण है
वित्त, स्वास्थ्य सेवा और कानूनी सेवाओं जैसे विनियमित उद्योगों में, यहां तक कि 99% सटीकता महत्वपूर्ण जोखिम पैदा करती है। लाखों मासिक वार्तालापों को संभालने वाला एक बैंक हजारों संभावित महत्वपूर्ण त्रुटियों को वहन नहीं कर सकता है। सटीकता से परे, एआई सिस्टम को ऐसे विवश होना चाहिए कि त्रुटियां, यहां तक कि जब वे होते हैं, तब भी सख्त, स्वीकार्य सीमा के भीतर रहते हैं।
ऐसे अनुप्रयोगों में अधिक सटीकता की मांग के जवाब में, एआई समाधान विक्रेता अक्सर तर्क देते हैं कि मनुष्य भी गलतियाँ करते हैं। जबकि यह सच है, अंतर यह है कि, मानव कर्मचारियों के साथ, उन्हें सही करना आमतौर पर सीधा होता है। आप उनसे पूछ सकते हैं कि उन्होंने एक स्थिति को क्यों संभाला, जिस तरह से उन्होंने किया। आप प्रत्यक्ष प्रतिक्रिया प्रदान कर सकते हैं और उनके परिणामों की निगरानी कर सकते हैं। लेकिन “सर्वश्रेष्ठ-प्रयास” प्रॉम्प्ट-इंजीनियरिंग पर भरोसा करते हुए, एक एआई एजेंट ने भी पहले स्थान पर कुछ निर्णय लेने के लिए अंधा होने के दौरान, एक दृष्टिकोण है, जो बस बुनियादी डेमो से परे नहीं है।
यही कारण है कि एक संरचित प्रतिक्रिया तंत्र इतना महत्वपूर्ण है। यह आपको यह इंगित करने की अनुमति देता है कि मौजूदा कार्यक्षमता को बरकरार रखते हुए क्या बदलाव किए जाने की आवश्यकता है, और उन्हें कैसे बनाया जाए। यह एहसास है कि हमें जल्दी से पार्लेंट के साथ सही रास्ते पर रखा।
स्वायत्त एआई एजेंटों के साथ लाखों ग्राहक इंटरैक्शन को संभालना
उद्यमों के लिए एआई को पैमाने पर तैनात करने के लिए, स्थिरता और पारदर्शिता गैर-परक्राम्य हैं। अनधिकृत सलाह प्रदान करने वाला एक वित्तीय चैटबॉट, एक हेल्थकेयर सहायक गुमराह रोगियों, या एक ई-कॉमर्स एजेंट को गलत तरीके से पेश करने वाले उत्पादों के सभी गंभीर परिणाम हो सकते हैं।
Parlant को सक्षम करके AI संरेखण को फिर से परिभाषित करें:
- बढ़ाया परिचालन दक्षता: उच्च गुणवत्ता वाले एआई इंटरैक्शन को सुनिश्चित करते हुए मानव हस्तक्षेप को कम करना।
- सुसंगत ब्रांड संरेखण: व्यावसायिक मूल्यों के साथ सामंजस्य बनाए रखना।
- विनियामक अनुपालन: उद्योग मानकों और कानूनी आवश्यकताओं का पालन करना।
यह कार्यप्रणाली इस बात में एक बदलाव का प्रतिनिधित्व करती है कि एआई संरेखण को पहले स्थान पर कैसे संपर्क किया जाता है। लंबे, जटिल संकेतों के बजाय बुद्धिमान फ़िल्टरिंग के साथ मॉड्यूलर दिशानिर्देशों का उपयोग करना; स्पष्ट पर्यवेक्षण और सत्यापन तंत्र को जोड़ना सुनिश्चित करने के लिए चीजों को योजनाबद्ध रूप से जाना – ये नवाचार एलएलएम के साथ विश्वसनीयता प्राप्त करने के लिए एक नया मानक चिह्नित करते हैं। चूंकि एआई-चालित स्वचालन को गोद लेने में विस्तार करना जारी है, इसलिए यह सुनिश्चित करना कि लगातार निर्देश-पालन एक स्वीकृत आवश्यकता बन जाएगी, न कि एक अभिनव विलासिता।
यदि आपकी कंपनी मजबूत एआई-संचालित ग्राहक सेवा या किसी अन्य ग्राहक-सामना करने वाले एप्लिकेशन को तैनात करने के लिए देख रही है, तो आपको पार्लेंट, नियंत्रित, स्पष्ट और उद्यम-तैयार एआई इंटरैक्शन के लिए एक एजेंट ढांचा देखना चाहिए।
यम मारकोविट्ज़ पार्लेंट के टेक लीड और एमसी में सीईओ हैं। मिशन-क्रिटिकल सॉफ्टवेयर और सिस्टम आर्किटेक्चर में व्यापक अनुभव के साथ एक अनुभवी सॉफ्टवेयर बिल्डर, यम की पृष्ठभूमि में नियंत्रणीय, पूर्वानुमान और संरेखित एआई सिस्टम को विकसित करने के लिए उनके विशिष्ट दृष्टिकोण को सूचित किया गया है।
