होस्ट की गई चैट (वैकल्पिक)¶
होस्टेड चैट एक स्व-होस्टेड, BYOK चैट और MCP ऐप्स क्लाइंट है जो LSM के मानव इंटरफ़ेस में एकीकृत है। यह तार्किक सत्र मोड नहीं है: बातचीत की स्वतंत्र पहचान होती है और वैकल्पिक रूप से मौजूदा एलएसएम तार्किक सत्र संलग्न किया जा सकता है। चैटजीपीटी और अन्य बाहरी ग्राहक समान एलएसएम सत्र और टूल के साथ काम करना जारी रखते हैं।
उपलब्धता¶
स्थायी स्टेट स्टोरेज के साथ MCP मोड में Hosted Chat डिफ़ॉल्ट रूप से सक्षम है। इसे अक्षम करने के लिए सेट करें:
नियंत्रक को पुनरारंभ करें और वेब यूआई/टीयूआई चयनकर्ता के ठीक नीचे होस्टेड चैट खोलें। फीचर में मोबाइल टॉप-बार एंट्री भी है। चैट होस्ट मौजूदा LSM OAuth पहचान और दायरे का उपयोग करता है। वही नियंत्रक मॉडल के टूल लूप द्वारा उपयोग किए गए एमसीपी सर्वर को संचालित करता है; श्रमिक निष्पादन आरंभ नहीं कर सकते.
मॉडल प्रोफाइल¶
नाम, HTTPS OpenAI-संगत API बेस URL, मॉडल आईडी और वैकल्पिक API कुंजी के साथ प्रोफ़ाइल बनाने/संपादित करने के लिए मॉडल प्रोफ़ाइल चुनें। एकाधिक प्रोफ़ाइल एक साथ मौजूद हो सकती हैं और वार्तालाप मॉडल बदल सकते हैं।
प्रोफ़ाइल, वार्तालाप, संपूर्ण संदेश इतिहास और टूल-कॉल परिणाम कॉन्फ़िगर किए गए एलएसएम राज्य बैकएंड के माध्यम से सर्वर पर सहेजे जाते हैं। उनका दायरा प्रमाणित प्रिंसिपल से जुड़ा हुआ है। एपीआई कुंजी एईएस-जीसीएम के साथ एन्क्रिप्ट की गई है और प्रोफ़ाइल-सूची या प्रोफ़ाइल-विस्तार समापन बिंदु से कभी वापस नहीं की जाती है। इसे ब्राउज़र स्टोरेज में संग्रहीत नहीं किया जाता है, मॉडल को प्रॉम्प्ट के रूप में नहीं भेजा जाता है, या ऑडिट लॉग में शामिल नहीं किया जाता है। चैट होस्ट इसे केवल चुने हुए मॉडल एपीआई को भेजता है।
पहली फ़ाइल-समर्थित तैनाती मोड 0600 के साथ राज्य निर्देशिका में hosted-chat-encryption-key बनाती है। **राज्य डेटा के साथ इस फ़ाइल का बैकअप लें। इसके बिना, सहेजी गई एपीआई कुंजी को डिक्रिप्ट नहीं किया जा सकता है। ** यदि नियंत्रक रेडिस, एकाधिक प्रतिकृतियां, या किसी अन्य गैर-फ़ाइल स्थिति बैकएंड का उपयोग करता है, तो एक स्थिर, साझा 32-बाइट यूआरएल-सुरक्षित-बेस 64 कुंजी कॉन्फ़िगर करें:
एन्क्रिप्टेड प्रोफाइल को माइग्रेट किए बिना इस सेटिंग को न घुमाएं। जब टिकाऊ वार्तालाप की आवश्यकता हो तो इन-मेमोरी स्थिति संग्रहण का उपयोग न करें।
डिफ़ॉल्ट रूप से, केवल DNS होस्टनाम वाले HTTPS मॉडल एंडपॉइंट स्वीकार किए जाते हैं; सर्वर-साइड अनुरोध जालसाजी जोखिम को कम करने के लिए स्थानीय/निजी एंडपॉइंट और HTTP को अस्वीकार कर दिया गया है। जानबूझकर एक विश्वसनीय निजी मॉडल गेटवे की मेजबानी करने वाले प्रशासक इसमें शामिल हो सकते हैं:
किसी अविश्वसनीय बहु-उपयोगकर्ता नियंत्रक पर इसे तब तक सक्षम न करें जब तक कि उपयोगकर्ता आंतरिक सेवाओं से संपर्क करने के लिए अधिकृत न हों।
वार्तालाप और एमसीपी ऐप्स¶
सहेजे गए मॉडल प्रोफ़ाइल का उपयोग करके वार्तालाप बनाएं। प्रत्येक सबमिट किया गया टर्न सर्वर-स्वामित्व वाला पृष्ठभूमि कार्य बन जाता है; ब्राउज़र बंद करने से कार्य रद्द नहीं होता. पूर्ण किए गए टेक्स्ट और टूल कॉल को मॉडल/टूल चरणों के बीच टिकाऊ रूप से चेकपॉइंट किया जाता है। स्पष्ट रूप से हस्तक्षेप करना बंद करें। नियंत्रक के पुनरारंभ होने पर, बाधित रन को इस प्रकार चिह्नित किया जाता है और इसे एक नए मोड़ में जारी रखा जा सकता है, लेकिन अज्ञात-परिणाम टूल कॉल कभी भी स्वचालित रूप से दोबारा नहीं चलाए जाते हैं।
वार्तालाप का संपूर्ण संदेश इतिहास संग्रहण में रखा जाता है। संदर्भ आकार को नियंत्रित करने के लिए मॉडल को एक बार में केवल एक बाउंडेड हालिया विंडो भेजी जाती है। टूल कॉल एलएसएम के प्रमाणित एमसीपी एंडपॉइंट के माध्यम से भेजे जाते हैं, सभी सामान्य टूल अनुमतियों और ऑडिट/प्रीफ्लाइट व्यवहार को संरक्षित करते हुए।
संग्रहित करने से बातचीत सामान्य सूची से हट जाती है और Audit में पहले से उपलब्ध zstd के साथ .json.zst में सहेजी जाती है। संग्रह सामान्य खोज अनुक्रमणिका में शामिल नहीं होता। Archived conversations में शीर्षक से खोजें, केवल-पठन मोड में देखें, पुनर्स्थापित करें या स्थायी रूप से हटाएँ। डेटा हानि रोकने के लिए पुरानी प्रति हटाने से पहले नई प्रति लिखी जाती है।
लंबी बातचीत और संदर्भ संक्षेपण¶
मूल संदेश और टूल परिणाम पूरे सर्वर पर सुरक्षित रहते हैं। मॉडल प्रोफ़ाइल में संदर्भ विंडो निर्धारित होती है: डिफ़ॉल्ट 32,768 टोकन, सीमा 8,192 से 1,000,000। UTF-8 पर आधारित सावधान अनुमान में टूल परिभाषाएँ भी शामिल हैं। लगभग 80% उपयोग पर वही मॉडल पुराने पूरे हुए टर्न का सार बनाता है, जिसमें लक्ष्य, बाधाएँ, निर्णय, फ़ाइलें, परिणाम और शेष कार्य रहते हैं। सार अलग सुरक्षित होता है; मॉडल को सार और हाल के मूल संदेश दिए जाते हैं।
टूल चलने के बाद बजट फिर जाँचा जाता है। Compact से निष्क्रिय बातचीत में मैनुअल संक्षेपण किया जा सकता है। विफल होने पर पुराना सार और इतिहास नहीं बदलते। टोकन संख्या अनुमानित है; अत्यधिक बड़े वर्तमान टर्न को बिना चुपचाप काटे अस्वीकार किया जाता है।
एक एम्बेडेड दृश्य के अंदर एलएसएम के मौजूदा workspace_open MCP ऐप्स संसाधन को प्रस्तुत करने के लिए लाइव वर्कस्पेस खोलें। होस्ट ऐप जीवनचक्र, क्रेडेंशियल नवीनीकरण, टूल कॉल और मानव-से-एजेंट कार्यों के लिए @modelcontextprotocol/ext-apps ब्रिज का उपयोग करता है। कोई दूसरा फ़ाइल प्रबंधक, टर्मिनल, ऑडिट या जॉब यूआई लागू नहीं किया गया है।
वैकल्पिक संलग्न session_id होस्टेड चैट को मौजूदा लॉजिकल सत्र का उपयोग करने और प्रदर्शित करने की सुविधा देता है; यह सत्र को पुनर्वर्गीकृत नहीं करता है या होस्टेड चैट को इसका स्वामित्व नहीं देता है। चैट वार्तालाप पहचानकर्ता और तार्किक सत्र पहचानकर्ता अलग-अलग हैं।
सीमाएँ¶
- मॉडल अनुरोध टूल कॉलिंग के साथ OpenAI-संगत चैट पूर्णताओं का उपयोग करते हैं; अन्य प्रदाता प्रोटोकॉल के लिए एक एडॉप्टर की आवश्यकता होती है।
- प्रति-मोड़ सुरक्षा उपाय मॉडल पुनरावृत्तियों और टूल कॉल को सीमित करते हैं। टिकाऊ इतिहास का उपयोग करके लंबे कार्यों को एक नए मोड़ में जारी रखा जा सकता है।
- चैट वार्तालाप विलोपन स्पष्ट है. कोई स्वचालित इतिहास निष्कासन नहीं किया जाता है।
- नियंत्रक को अपने स्वयं के एमसीपी क्लाइंट द्वारा नेटवर्क-पहुंच योग्य होना चाहिए और ब्राउज़र को एलएसएम लाइव वर्कस्पेस एपीआई के लिए अधिकृत होना चाहिए।