बिल्ट-इन मॉडल का सेटअप

Built-in model (बिल्ट-इन मॉडल) एक छोटा AI मॉडल है, जिसे Marinara डाउनलोड करके आपके अपने कंप्यूटर पर चलाता है। इसके लिए न API कुंजी चाहिए और न कोई ऑनलाइन अकाउंट, और कुछ भी आपके कंप्यूटर से बाहर नहीं जाता।

छोटा होने की वजह से यह बैकग्राउंड के हेल्पर कामों के लिए ठीक है: ट्रैकर एजेंट (वे हेल्पर जो कहानी की बारीकियों का हिसाब रखते हैं), Game Mode के सीन इफ़ेक्ट, लोरबुक एम्बेडिंग और निर्णय वाली जाँच। अच्छे रोलप्ले या Professor Mari के एडिट के लिए यह बहुत कमज़ोर है। उनके लिए कोई मज़बूत अकाउंट इस्तेमाल करें। देखें किसी AI प्रोवाइडर से कनेक्ट करना।

अगर Built-in model कार्ड नहीं दिखता, तो आपके पास "Lite" इंस्टॉल है, यानी एक हल्का बिल्ड जिसमें लोकल रनटाइम नहीं होता।

बिल्ट-इन मॉडल डाउनलोड करें

शुरू करने से पहले पक्का कर लें कि मॉडल के लिए डिस्क पर खाली जगह और मेमोरी (RAM) है। साइज़ नीचे की तालिका में दिए गए हैं।

1. टॉप बार में Connections (कनेक्शन) पर क्लिक करें।
2. Jobs (काम) बॉक्स के नीचे Built-in model कार्ड ढूँढें। उस पर Not downloaded लिखा होता है।
3. कार्ड पर क्लिक करें, या उसके Download (डाउनलोड) बटन पर क्लिक करें। Built-in model नाम की एक विंडो खुलती है।
4. Which model? (कौन सा मॉडल?) के नीचे एक मॉडल चुनें। Gemma 4 E2B — Q8 (Best Quality) पर Recommended का टैग लगा होता है। अगर आपके कंप्यूटर में मेमोरी कम है, तो Q4_K_M चुनें। इसे 5.4 GB की जगह करीब 3.4 GB RAM चाहिए।
5. सबसे नीचे Download बटन पर क्लिक करें। उस पर मॉडल का साइज़ दिखता है, जैसे Download 5.0 GB।
6. इंतज़ार करें। विंडो तीन स्टेप दिखाती है: Install runtime, Download model और Start and test। रनटाइम वह प्रोग्राम है जो मॉडल को चलाता है। अगर वह मौजूद न हो, तो Marinara पहले उसे इंस्टॉल करता है।
7. जब विंडो में मॉडल का नाम हरे बिंदु के साथ दिखे, तो Test (टेस्ट करें) पर क्लिक करें। Local test message नाम के बॉक्स में Succeeded लिखा आता है, और यह दिखता है कि जवाब आने में कितना समय लगा।
8. Done (हो गया) पर क्लिक करें।

अब कार्ड पर Ready लिखा होता है, साथ में मॉडल का साइज़ और वे काम जो यह करता है।

अगर यह काम नहीं किया:

• Sidecar runtime install is disabled (एक एरर संदेश)। रनटाइम इंस्टॉल करना खास अधिकार वाला काम है। देखें रनटाइम इंस्टॉल करने की इजाज़त दें।
• Local runtime failed to start. देखें समस्या-समाधान।
• Download failed. विंडो एरर दिखाती है। अपना इंटरनेट कनेक्शन और डिस्क की खाली जगह जाँचें, फिर डाउनलोड बटन पर दोबारा क्लिक करें।

यह विंडो Connections पैनल में Add (जोड़ें) से भी खोल सकते हैं। Add account (अकाउंट जोड़ें) विंडो में यह Built-in model के नीचे मिलती है।

तैयार प्रीसेट

विंडो Google के छोटे मॉडल Gemma 4 E2B के दो तैयार प्रीसेट देती है। Apple Silicon कंप्यूटर को GGUF फ़ाइलों की जगह MLX वर्ज़न मिलते हैं। GGUF और MLX लोकल मॉडल के दो फ़ाइल फ़ॉर्मैट हैं। नीचे के साइज़ वही हैं जो विंडो दिखाती है (GB में, जहाँ 1 GB का मतलब 1024 × 1024 × 1024 बाइट है)।

Apple Silicon पर इनकी जगह दो MLX प्रीसेट दिखते हैं:

Marinara डिस्क पर एक समय में एक ही बिल्ट-इन मॉडल रखता है। दूसरा मॉडल चुनने पर वह पहले वाले की जगह ले लेता है। बाद में बदलने के लिए कार्ड खोलें और Built-in model विंडो में Change model (मॉडल बदलें) पर क्लिक करें। कार्ड के पेज पर Model (मॉडल) के बगल वाले बटन प्रीसेट के बीच बदलते हैं, और पहले डाउनलोड साइज़ की पुष्टि करने को कहते हैं।

अपना मॉडल इस्तेमाल करें

Your own model (आपका अपना मॉडल) के नीचे आप Hugging Face (मॉडल साझा करने वाली एक सार्वजनिक साइट) से कोई GGUF मॉडल, या Marinara चलाने वाले कंप्यूटर पर रखी कोई फ़ाइल इस्तेमाल कर सकते हैं।

1. Your own model पर क्लिक करें, फिर एक टैब चुनें: Hugging Face या File on the server (सर्वर पर रखी फ़ाइल)।
2. Hugging Face टैब पर रिपॉज़िटरी का नाम owner/repo के रूप में टाइप करें, फिर Find files (फ़ाइलें ढूँढें) पर क्लिक करें। लिस्ट से एक फ़ाइल चुनें।
3. File on the server टैब पर .gguf फ़ाइल का पूरा पाथ टाइप करें। Marinara फ़ाइल को उसकी जगह पर ही इस्तेमाल करता है और उसकी कॉपी नहीं बनाता।
4. सबसे नीचे वाले बटन पर क्लिक करें: Download, या सर्वर पर रखी फ़ाइल के लिए Use this file (यह फ़ाइल इस्तेमाल करें)।

Apple Silicon पर Find files की जगह Validate repo (रिपॉज़िटरी जाँचें) लिखा होता है, और रिपॉज़िटरी MLX-नेटिव होनी चाहिए। सर्वर पर रखी GGUF फ़ाइल वहाँ भी चलती है, और MLX की जगह llama.cpp इस्तेमाल करती है।

हेल्पर कामों के लिए बिल्ट-इन मॉडल इस्तेमाल करें

डाउनलोड हो जाने के बाद Built-in model कार्ड खोलें। उसके पेज पर उसकी स्थिति, मेमोरी का इस्तेमाल और Used by (इस्तेमाल करने वाले) दिखते हैं, और ये कंट्रोल होते हैं:

दोनों स्विच बंद हों, तो मॉडल अपने आप शुरू नहीं होता। यह तब शुरू होता है जब आप इनमें से कोई एक चालू करें, या जब कोई चैट या काम इसे इस्तेमाल करे। एजेंट चालू करने के लिए Memory Recall और चैट सारांश देखें।

Game Mode के सेटअप में Scene effects model (सीन इफ़ेक्ट का मॉडल) बिल्ट-इन मॉडल इस्तेमाल कर सकता है। देखें Game Mode: शुरुआत।

लोरबुक एम्बेडिंग

एम्बेडिंग वे संख्याएँ हैं जिनसे लोरबुक मतलब के हिसाब से खोज पाती है। इनके लिए बिल्ट-इन मॉडल इस्तेमाल करना हो, तो लोरबुक के वेक्टराइज़ेशन मॉडल के तौर पर Built-in model (on this device) चुनें। पहले Use for tracker agents (roleplay) या Use for game scene analysis चालू करें, वरना रिक्वेस्ट फ़ेल हो जाती है। इस रास्ते को GGUF रनटाइम चाहिए, इसलिए यह Apple Silicon के MLX पर काम नहीं करता। देखें लोरबुक के लिए सिमैंटिक सर्च।

निर्णय मॉडल

बिल्ट-इन मॉडल को अपना निर्णय मॉडल भी चुन सकते हैं। देखें निर्णय मॉडल।

चैट मॉडल

बिल्ट-इन मॉडल से चैट करने के लिए:

1. कोई चैट खोलें और चैट इनपुट में मॉडल वाले बटन (लिंक आइकन) पर क्लिक करें।
2. Model for this chat (इस चैट का मॉडल) में Built-in model (on this device) चुनें। यह लिस्ट में सबसे नीचे होता है, और मॉडल डाउनलोड होने के बाद ही दिखता है।
3. कोई संदेश भेजें। एक चेतावनी बताती है कि मॉडल छोटा है, इसलिए जवाब धीमे, छोटे या कम क्वालिटी के हो सकते हैं।

रनटाइम सेटिंग्स

इन्हें खोलने के लिए कार्ड के पेज पर Runtime settings (रनटाइम सेटिंग्स) पर क्लिक करें, या Built-in model विंडो में Settings (सेटिंग्स) पर क्लिक करें। ये चार ग्रुप में बँटी हैं। ड्रॉपडाउन और स्विच तुरंत सेव हो जाते हैं। नंबर वाली फ़ील्ड तब सेव होती हैं जब आप Apply settings (सेटिंग्स लागू करें) पर क्लिक करें। Physical batch size और Custom GPU layers, दोनों का अपना अलग Apply (लागू करें) है।

Speed (स्पीड)

Memory (मेमोरी)

Replies (जवाब)

Expert (एक्सपर्ट)

कुछ सेटिंग्स सिस्टम के हिसाब से अलग होती हैं:

• Windows और Linux (x64) पर Runtime target में Auto detect, NVIDIA GPU, AMD GPU, Intel GPU, Vulkan GPU, CPU only और System llama-server के विकल्प मिलते हैं। दूसरे सिस्टम पर कम विकल्प मिलते हैं।
• Apple Silicon पर MLX आपके लिए एक्सेलरेटर खुद चुनता है। वहाँ Runtime target, GPU offload, KV cache type, Native tool calls, Pooling type और Physical batch size नहीं दिखते।
• Max response tokens Game Mode के सीन विश्लेषण को सीमित नहीं करता, उसकी अपनी सीमा है।
• Expert में Diagnostics (डायग्नोस्टिक्स) रनटाइम का बिल्ड, पहचाना गया ग्राफ़िक्स कार्ड और आखिरी लॉन्च कमांड दिखाता है।

रनटाइम इंस्टॉल करने की इजाज़त दें

रनटाइम इंस्टॉल या दोबारा इंस्टॉल करना खास अधिकार वाला काम है। Windows के वन-क्लिक इंस्टॉल आपके लिए इसकी इजाज़त अपने आप दे देते हैं। macOS, Linux और Docker पर इनमें से कोई एक काम करें, फिर दोबारा कोशिश करें:

• Settings → Advanced → Admin Access (सेटिंग्स → एडवांस्ड → एडमिन एक्सेस) में एडमिन सीक्रेट डालें। एडमिन सीक्रेट जोखिम वाले कामों के लिए एक दूसरा पासवर्ड है। इसे आप सर्वर के अपने कंप्यूटर पर Admin Access में बनाते हैं, या सर्वर की .env फ़ाइल में ADMIN_SECRET के रूप में सेट करते हैं। देखें Admin Access।
• सर्वर की .env फ़ाइल में SIDECAR_RUNTIME_INSTALL_ENABLED=true जोड़ें, फिर Marinara को दोबारा शुरू करें। .env फ़ाइल Marinara फ़ोल्डर में रखी एक टेक्स्ट फ़ाइल है। देखें .env फ़ाइल एडिट करें।

Marinara llama.cpp, MLX और uv के सिर्फ़ वही वर्ज़न डाउनलोड करता है जो आपकी रिलीज़ के लिए मंज़ूर हैं, और कुछ भी चलाने से पहले हर फ़ाइल का साइज़ और SHA-256 चेकसम जाँचता है।

लोकल स्पीच मॉडल

Local speech model (लोकल स्पीच मॉडल) Conversation की कॉल के लिए आपकी आवाज़ को आपके अपने कंप्यूटर पर ही टेक्स्ट में बदलता है। यह एक Whisper मॉडल है, यानी स्पीच-टू-टेक्स्ट मॉडल। इसके लिए Calls एजेंट पैकेज चाहिए, जिसे आप Agents → Agent Organizer (एजेंट → एजेंट ऑर्गनाइज़र) में इंस्टॉल करते हैं।

1. Connections पैनल खोलें और On this device (इसी डिवाइस पर) के नीचे Speech to text (स्पीच टू टेक्स्ट) पर क्लिक करें।
2. Local speech model के नीचे ड्रॉपडाउन से एक मॉडल चुनें।
3. Download Whisper (Whisper डाउनलोड करें) पर क्लिक करें।
4. Ready दिखने का इंतज़ार करें। Calls इस्तेमाल करने से पहले Marinara को पूरी तरह बंद करके दोबारा शुरू करें।

फ़ोन और पुराने कंप्यूटर के लिए Tiny सबसे अच्छा पहला विकल्प है। Base गड़बड़ आवाज़ को ज़्यादा सही पहचानता है, पर शुरू होने में धीमा है। डाउनलोड किया हुआ मॉडल हटाने के लिए Delete Local Whisper (ट्रैश बटन) पर क्लिक करें। Calls अनइंस्टॉल करने पर भी यह हट जाता है।

आपका ऑडियो आपके कंप्यूटर पर ही रहता है। आपके चैट मॉडल तक सिर्फ़ टेक्स्ट जाता है। कॉल में इसे इस्तेमाल करने के लिए कॉल का ऑडियो इनपुट Local Whisper पर सेट करें। देखें Conversation में ऑडियो और वीडियो कॉल। अगर आप इसकी जगह Speech to text सर्वर चालू करते हैं, तो कॉल आपकी आवाज़ वहाँ भेजती हैं। देखें अपना स्पीच-टू-टेक्स्ट सर्वर इस्तेमाल करना।

समस्या-समाधान

और मदद के लिए देखें Marinara Engine की समस्याएँ सुलझाना।

मिलती-जुलती गाइड

• किसी AI प्रोवाइडर से कनेक्ट करना
• निर्णय मॉडल
• लोकल या सेल्फ़ होस्टेड मॉडल से कनेक्ट करना
• Memory Recall और चैट सारांश
• Conversation में ऑडियो और वीडियो कॉल
• Game Mode: शुरुआत
• लोरबुक के लिए सिमैंटिक सर्च