नॉलेज सोर्स: Retrieval और Router एजेंट

Knowledge Retrieval और Knowledge Router आपकी लोरबुक से तथ्य निकालकर चैट में तभी जोड़ते हैं जब सीन को उनकी ज़रूरत हो। आपको हर छोटी-बड़ी बात हर प्रॉम्प्ट में डालने की ज़रूरत नहीं पड़ती। दोनों एजेंट सिर्फ़ Roleplay चैट में काम करते हैं, और कोई भी डिफ़ॉल्ट रूप से चालू नहीं होता।

इन्हें क्यों इस्तेमाल करें

लोरबुक दुनिया या कैरेक्टर से जुड़े नोट का एक सेट है। हर नोट एक एंट्री है। हर टर्न पर हर एंट्री भेजने से टोकन बर्बाद होते हैं (टोकन यानी टेक्स्ट के छोटे टुकड़े, जिन्हें मॉडल पढ़ता है और जिनके लिए आप पैसे देते हैं), और AI उलझ भी सकता है।

ये एजेंट retrieval-augmented generation (RAG) इस्तेमाल करते हैं: Marinara वे एंट्री ढूँढता है जो मौजूदा सीन पर बैठती हैं, और उस टर्न के प्रॉम्प्ट में सिर्फ़ उन्हीं को जोड़ता है।

Retrieval या Router चुनें

• Knowledge Retrieval आपकी चुनी हुई लोरबुक की हर चालू एंट्री और अपलोड की हुई फ़ाइलें पढ़ता है, और AI से कहता है कि हाल के संदेशों पर बैठने वाले तथ्यों का सारांश बनाए। इसकी लागत ज़्यादा आती है, क्योंकि AI सोर्स का सारा टेक्स्ट पढ़ता है।
• Knowledge Router आपकी एंट्री का एक छोटा कैटलॉग बनाता है। हर पंक्ति में एक ID, एक नाम, कुछ कीवर्ड और एक छोटा सारांश होता है। AI कैटलॉग से एंट्री चुनता है, और Marinara उन्हें पूरा जोड़ देता है। AI कभी हर एंट्री नहीं पढ़ता, इसलिए बड़ी लोरबुक के साथ भी Router सस्ता रहता है।

एक ही चैट में दोनों जोड़े जा सकते हैं, पर दोनों एक ही काम दोहराते हैं और लागत बढ़ती है। दोनों सेट होने पर एजेंट एडिटर चेतावनी देता है। एक ही चुनें।

चैट में Knowledge एजेंट जोड़ें

शुरू करने से पहले: एजेंट को Agent Organizer (एजेंट ऑर्गनाइज़र) से इंस्टॉल करें। देखें एजेंट: आपकी चैट में मदद करने वाले AI।

1. किसी Roleplay चैट में Chat Settings (चैट सेटिंग्स) खोलें।
2. Agents (एजेंट) सेक्शन ढूँढें और Enable Agents चालू करें।
3. Add Agent पर क्लिक करें।
4. Writer Agents ग्रुप खोलें और Knowledge Retrieval या Knowledge Router चुनें।
5. सेटअप विंडो में अपने सोर्स चुनें (नीचे देखें)।

इसके बाद एजेंट का सेटिंग्स कार्ड Agents में दिखता है, और वह हर नए टर्न पर चलता है। Knowledge Retrieval के काम करते समय प्रोग्रेस इंडिकेटर में Retrieving knowledge... दिख सकता है।

Note: ये एजेंट सिर्फ़ नए टर्न पर चलते हैं। जवाब दोबारा जेनरेट करने पर ये दोबारा नहीं चलते।

सोर्स चुनें

दोनों एजेंट के सोर्स कंट्रोल एक जैसे हैं।

• Use chat-active lorebooks डिफ़ॉल्ट रूप से चालू रहता है। एजेंट एडिटर में इसी टॉगल का नाम Use this chat's active lorebooks है। जब यह चालू हो और आपने कोई फ़िक्स्ड लोरबुक न चुनी हो, तो एजेंट वे लोरबुक पढ़ता है जो मौजूदा चैट में चालू हैं।
• Fixed source override (सेटअप विंडो में Fixed Source Lorebooks) एजेंट को आपकी चुनी हुई लोरबुक से बाँध देता है। फ़िक्स्ड चुनाव हमेशा चैट की चालू लोरबुक पर भारी पड़ता है, हर उस चैट में जो इस एजेंट को इस्तेमाल करती है।

जब किसी एजेंट को हमेशा एक ही रेफ़रेंस लोरबुक पढ़नी हो, तो फ़िक्स्ड सोर्स इस्तेमाल करें। चैट जो भी इस्तेमाल करे, उसी के हिसाब से चलने के लिए टॉगल चालू रहने दें और कोई फ़िक्स्ड लोरबुक न चुनें।

फ़ाइलें अपलोड करें (सिर्फ़ Knowledge Retrieval)

Knowledge Retrieval की सेटिंग्स में Upload file पर क्लिक करें। अपलोड की हुई फ़ाइलें हर उस चैट में उपलब्ध रहती हैं जो Knowledge Retrieval इस्तेमाल करती है।

समर्थित प्रकार हैं .txt, .md, .csv, .json, .xml, .html, .htm, .log, .yaml, .yml, .tsv और .pdf। फ़ाइल पिकर बाकी प्रकार रोक देता है। हर फ़ाइल का नाम और साइज़ दिखता है, और साथ में एक डिलीट बटन।

• PDF को छोड़कर हर फ़ाइल सादे टेक्स्ट की तरह पढ़ी जाती है। जो फ़ाइल टेक्स्ट नहीं है, जैसे नाम बदलकर .txt की गई कोई इमेज, वह अपलोड तो हो जाती है पर उससे न पढ़ी जाने लायक सामग्री जुड़ती है।
• स्कैन की हुई या सिर्फ़ इमेज वाली PDF में टेक्स्ट लेयर नहीं होती। एजेंट सामग्री की जगह एक प्लेसहोल्डर डाल देता है। ऐसी PDF इस्तेमाल करें जिसका टेक्स्ट सिलेक्ट किया जा सके।

एंट्री के अच्छे विवरण लिखें

यह सबसे ज़्यादा Knowledge Router के लिए मायने रखता है, जो एंट्री को उनके Description से चुनता है।

1. लोरबुक एडिटर में एंट्री खोलें।
2. Description में एक छोटा, सटीक सारांश भरें कि एंट्री किस बारे में है।

Router विवरण को सिर्फ़ एंट्री चुनने के लिए इस्तेमाल करता है। यह कहानी की सामग्री के तौर पर मुख्य AI को नहीं भेजा जाता। विवरण न हो, तो Router एंट्री की सामग्री के शुरुआती हिस्से से काम चलाता है, जो कम सटीक है।

Router के लिए सोर्स लोरबुक चुनने पर Fixed source override के बगल में एक कवरेज बैज दिखता है, जैसे 75% described (9/12)। 75% और उससे ऊपर बिंदु हरा रहता है, 25% से 74% तक एम्बर, और 25% से नीचे लाल। खाली लोरबुक के लिए इसमें No entries yet लिखा आता है। कोशिश करें कि यह हरा रहे।

वैकल्पिक: अर्थ के आधार पर शॉर्टलिस्ट

Knowledge Router उम्मीदवार एंट्री सिर्फ़ कीवर्ड से नहीं, अर्थ के आधार पर भी ढूँढ सकता है। इसमें एक एम्बेडर इस्तेमाल होता है, यानी एक छोटा मॉडल जो टेक्स्ट को संख्याओं में बदलता है, ताकि Marinara अर्थ की तुलना कर सके। इसके बिना भी Router काम करता है।

1. लोरबुक एडिटर खोलें और Semantic search (embeddings) ढूँढें।
2. ऐसा अकाउंट चुनें जिसमें एम्बेडिंग मॉडल हो। अगर आपने Connections → Defaults (कनेक्शन → डिफ़ॉल्ट) में कोई Embeddings (एम्बेडिंग) डिफ़ॉल्ट सेट किया है, तो वह आपके लिए चुना रहता है, जब तक आपने पहले कोई दूसरा सोर्स न चुना हो।
3. वही एम्बेडिंग सोर्स इस्तेमाल करें जो आपका चैट अकाउंट इस्तेमाल करता है। अलग साइज़ के वेक्टर छोड़ दिए जाते हैं।
4. वेक्टराइज़ बटन पर क्लिक करें। यह दिखाता है कि कितनी एंट्री के वेक्टर अभी बाकी हैं। Re-vectorize all हर एंट्री के वेक्टर दोबारा बनाता है।

अगर लोरबुक में वेक्टर नहीं हैं, या कोई एम्बेडर उपलब्ध नहीं है, तो Router अपनी उम्मीदवार लिस्ट सिर्फ़ कीवर्ड से बनाता है। कुछ नहीं टूटता। देखें लोरबुक के लिए सिमैंटिक सर्च।

मिलती-जुलती गाइड

• लोरबुक के लिए सिमैंटिक सर्च
• लोरबुक का परिचय
• एजेंट: आपकी चैट में मदद करने वाले AI