लोरबुक का टोकन बजट और रिकर्शन
बजट तय करते हैं कि लोरबुक का कितना टेक्स्ट AI तक पहुँचे, ताकि लोरबुक चैट की जगह न घेर लें। इस गाइड में हर लोरबुक के Token Budget (टोकन बजट) और Entry Limit (एंट्री लिमिट), चैट के Lorebook Token Budget (लोरबुक टोकन बजट), Marinara के एंट्री छाँटने के तरीके और Recursive स्कैनिंग की बात है।
टोकन टेक्स्ट के छोटे टुकड़े हैं, जिन्हें मॉडल गिनते हैं। किसी मॉडल की कॉन्टेक्स्ट विंडो यानी वह एक बार में कितना टेक्स्ट पढ़ सकता है, और इसे टोकन में गिना जाता है। लोरबुक का टेक्स्ट यही विंडो बाकी प्रॉम्प्ट के साथ बाँटता है।
दो टोकन बजट
Marinara हर प्रॉम्प्ट बनाते समय दो बजट लगाता है। अगर किसी एंट्री से इनमें से कोई भी बजट अपनी सीमा पार कर जाए, तो वह एंट्री छोड़ दी जाती है।
- हर लोरबुक का अपना Token Budget होता है: वह लोरबुक एक जवाब में ज़्यादा से ज़्यादा इतने टोकन जोड़ सकती है।
- हर चैट का एक Lorebook Token Budget होता है: सभी चालू लोरबुक मिलकर ज़्यादा से ज़्यादा इतने टोकन जोड़ सकती हैं।
लोरबुक का Token Budget और Entry Limit सेट करना
- Lorebooks (लोरबुक) पैनल से कोई लोरबुक खोलें।
- Overview टैब पर क्लिक करें।
- Token Budget और Entry Limit सेट करें।
| सेटिंग | डिफ़ॉल्ट | यह क्या करती है |
| Token Budget | 2048 | यह लोरबुक एक जवाब में ज़्यादा से ज़्यादा इतने टोकन जोड़ती है। 0 का मतलब है असीमित। |
| Entry Limit | 100 | यह लोरबुक एक जवाब में ज़्यादा से ज़्यादा इतनी एंट्री जोड़ती है। रेंज 1 से 1000 तक है। |
Entry Limit टोकन नहीं, एंट्री गिनती है। दोनों में से किसी भी सीमा पर पहुँचते ही लोरबुक और एंट्री जोड़ना बंद कर देती है।
उदाहरण के लिए, Token Budget 2048 हो, तो 3000 टोकन वाली कोई अकेली एंट्री कभी नहीं जुड़ सकती। अगर कोई लोरबुक बहुत ज़्यादा जगह ले रही हो, तो बजट घटाएँ। अगर ज़रूरी एंट्री बार-बार छूट रही हों, तो इसे बढ़ाएँ।
चैट का Lorebook Token Budget सेट करना
- कोई चैट खोलें।
- Chat Settings (चैट सेटिंग्स) खोलें।
- Lorebooks सेक्शन ढूँढें और Lorebook Token Budget सेट करें।
डिफ़ॉल्ट 8192 है, और 0 का मतलब है असीमित। यह इस चैट में चालू हर लोरबुक का कुल जोड़ है, और हर लोरबुक के अपने Token Budget के ऊपर से लगता है।
एंट्री कैसे छाँटी जाती हैं
जब बजट की गुंजाइश से ज़्यादा एंट्री मैच हो जाएँ, तो Marinara एंट्री इस क्रम में जोड़ता है।
- Constant एंट्री
- वे एंट्री जो सबसे नए संदेशों से मैच हुईं
- बाकी एंट्री, अपने जुड़ने के क्रम में (एंट्री की Order फ़ील्ड)
Marinara हर वह एंट्री जोड़ता है जो अभी भी समा जाती है। कोई एंट्री न समाए, तो वह उसे छोड़ देता है और बाकी एंट्री की जाँच करता रहता है, इसलिए किसी बड़ी एंट्री के छूटने के बाद भी कोई छोटी एंट्री जुड़ सकती है।
Active Context में छूटी हुई एंट्री देखना
- Chat Settings खोलें।
- Active Context (एक्टिव कॉन्टेक्स्ट) फैलाएँ। इसमें सबसे हाल का लोरबुक स्कैन दिखता है।
अगर मैच हुई एंट्री छूटी हों, तो सबसे ऊपर एक सूचना में लिखा होता है "N matching lore entries were skipped by token budget." यह हर उस बजट का नाम बताती है जिसकी वजह से एंट्री छूटीं, और यह भी कि उसे कहाँ बदलें। इसे खोलकर हर छूटी हुई एंट्री देखें: उसकी लोरबुक, उसके मैच हुए कीवर्ड, उसका अनुमानित आकार और बजट का कितना हिस्सा इस्तेमाल हो चुका था। वजह इनमें से कोई एक होती है।
| वजह | मतलब |
| lorebook budget | एंट्री उस लोरबुक के Token Budget में नहीं समाई। |
| chat budget | एंट्री चैट के Lorebook Token Budget में नहीं समाई। |
| lorebook and chat budgets | दोनों सीमाएँ पहले ही भर चुकी थीं। |
| current-location context cap | एंट्री मौजूदा मैप लोकेशन से जुड़ी है, जिसकी 2,048 टोकन की अपनी तय सीमा है। |
जिस एंट्री का टेक्स्ट खाली हो, या जिसके टेक्स्ट को मैक्रो पूरी तरह खाली कर दें, वह लिस्ट में नहीं आती। उसकी मैक्रो फिर भी चलती हैं, इसलिए उसमें मौजूद {{setvar}} वेरिएबल फिर भी सेट करता है। दोनों बजट 0 पर हों, तो सिर्फ़ लोकेशन वाली सीमा ही छूटी हुई एंट्री लिस्ट कर सकती है।
अगर बड़ी लोरबुक बार-बार छूटती रहें, तो Active Context में Knowledge Retrieval या Knowledge Router एजेंट का सुझाव दिखता है। देखें नॉलेज सोर्स। बड़ी लोरबुक के लिए ये अक्सर ऊँची सीमा से बेहतर बैठते हैं।
रिकर्सिव स्कैनिंग
आम तौर पर Marinara कीवर्ड के लिए सिर्फ़ आपके हाल के संदेश स्कैन करता है। Recursive चालू हो, तो वह नई चालू हुई एंट्री का टेक्स्ट भी स्कैन करता है, इसलिए एक एंट्री अपने से जुड़ी दूसरी एंट्री भी खींच ला सकती है।
- लोरबुक खोलें और Overview पर क्लिक करें।
- Recursive चालू करें। यह डिफ़ॉल्ट रूप से बंद रहता है।
- चेन कितनी दूर तक जाए, यह बदलना हो तो Max Depth सेट करें।
Max Depth स्कैन के अतिरिक्त दौरों की संख्या है। डिफ़ॉल्ट 3 है और रेंज 1 से 10 है। ज़्यादा वैल्यू से आपस में जुड़ी ज़्यादा लोर मिलती है और प्रोसेसिंग भी ज़्यादा लगती है।
हर एंट्री का अपना Recursion टॉगल भी होता है, जो डिफ़ॉल्ट रूप से बंद रहता है। इससे तय होता है कि उस एंट्री का कॉन्टेंट और एंट्री ट्रिगर कर सकता है या नहीं। इसे बंद ही रखें, जब तक उस एंट्री को चेन न बनानी हो। देखें लोरबुक की एंट्री: कीवर्ड, पोज़िशन और टाइमिंग।
रिकर्शन बजट को नहीं लाँघता। रिकर्सिव दौर में मिली एंट्री भी Token Budget, Entry Limit और चैट के Lorebook Token Budget में गिनी जाती हैं।
मिलती-जुलती गाइड
- लोरबुक की एंट्री: कीवर्ड, पोज़िशन और टाइमिंग
- लोरबुक का परिचय
- नॉलेज सोर्स: Retrieval और Router एजेंट