跳轉至

託管聊天(可選)

Hosted Chat 是一個自架、BYOK 聊天和整合到 LSM 人機介面中的 MCP Apps 用戶端。它不是邏輯會話模式:對話具有獨立的身份,並且可以選擇附加現有的 LSM 邏輯會話。 ChatGPT 和其他外部用戶端繼續使用相同的 LSM 會話和工具。

可用性

Hosted Chat 在 MCP 模式且使用持久化狀態儲存時預設啟用。若要停用,請設定:

LOCAL_SHELL_MCP_HOSTED_CHAT_ENABLED=false

修改設定後重新啟動控制器。在 Web UI / TUI 選擇器下方立即開啟 託管聊天。該功能還有一個移動頂欄條目。聊天主機使用現有的 LSM OAuth 身分和範圍。同一控制器操作模型工具循環使用的 MCP 伺服器;工人無法發起執行。

型號簡介

選擇 模型設定檔 建立/編輯具有名稱、HTTPS OpenAI 相容 API 基本 URL、模型 ID 和可選 API 金鑰的設定檔。多個設定檔可以共存,對話可以切換模型。

設定檔、對話、完整的訊息歷史記錄和工具呼叫結果透過配置的 LSM 狀態後端保存在伺服器上。它們的範圍與經過身份驗證的主體相關。 API 金鑰使用 AES-GCM 加密,並且永遠不會從設定檔清單或設定檔詳細資訊端點傳回。它不會儲存在瀏覽器儲存中、作為提示傳送到模型或包含在審核日誌中。聊天主機僅將其傳遞給所選模型 API。

第一個檔案支援的部署在模式 0600 的狀態目錄中建立hosted-chat-encryption-key。 **將此檔案與狀態資料一起備份。如果沒有它,已儲存的 API 金鑰將無法解密。 ** 如果控制器使用 Redis、多個副本或其他非檔案狀態後端,請設定一個穩定的、共享的 32 位元組 URL-safe-base64 金鑰:

LOCAL_SHELL_MCP_HOSTED_CHAT_ENCRYPTION_KEY=<base64url-encoded 32 random bytes>

在不遷移加密設定檔的情況下,請勿輪換此設定。當需要持久會話時,不要使用記憶體狀態儲存。

預設情況下,僅接受具有 DNS 主機名稱的 HTTPS 模型端點;拒絕本機/專用端點和 HTTP,以降低伺服器端請求偽造風險。有意託管可信任私有模型閘道的管理員可以選擇加入:

LOCAL_SHELL_MCP_HOSTED_CHAT_ALLOW_PRIVATE_ENDPOINTS=true

除非使用者被授權聯絡內部服務,否則請勿在不受信任的多用戶控制器上啟用此功能。

對話和 MCP 應用程式

使用已儲存的模型設定檔建立對話。每個提交的回合都成為伺服器擁有的後台任務;關閉瀏覽器不會取消任務。已完成的文字和工具呼叫在模型/工具步驟之間持久地設定檢查點。顯式停止以中斷。當控制器重新啟動時,中斷的運行會被標記為這樣,並且可以在新的回合中繼續,但未知結果的工具呼叫永遠不會自動重播。

對話的整個訊息歷史記錄都保留在儲存中。僅一次將有界的最近視窗傳送到模型以控制上下文大小。工具呼叫透過 LSM 的經過驗證的 MCP 端點傳送,保留所有普通工具權限和審核/預檢行為。

歸檔會將對話移出一般清單,並重用 Audit 的 zstd 編解碼器壓縮為 .json.zst。歸檔不進入一般搜尋索引,可在 Archived conversations 中依標題尋找、唯讀檢視、還原或永久刪除。寫入完成後才移除舊副本,以避免資料遺失。

長對話與上下文壓縮

所有原始訊息和工具紀錄均保留於伺服器。模型設定可指定上下文視窗,預設為 32,768 Token(範圍 8,192 至 1,000,000)。控制器以 UTF-8 位元組保守估計 Token,包括工具定義;接近視窗的 80% 時使用同一模型摘要較早的完整回合。摘要保留目標、限制、決策、檔案修改、工具結果及待辦,並獨立持久保存;模型只收到摘要和近期原始訊息。

工具呼叫後也會重新評估。Compact 可手動觸發,但執行中的回合不能壓縮。摘要可供檢視,失敗不會更動原始紀錄。Token 數為估算值;過大的目前回合會明確拒絕,而不會默默截斷。

開啟 Live Workspace 以在嵌入式視圖中渲染 LSM 的現有 workspace_open MCP Apps 資源。主機使用@modelcontextprotocol/ext-apps橋進行應用程式生命週期、憑證更新、工具呼叫和人員到代理操作。沒有實作第二個文件管理器、終端機、稽核或作業 UI。

可選附加的session_id允許託管聊天使用和顯示現有的邏輯會話;它不會重新分類會話或授予託管聊天所有權。聊天對話標識符和邏輯會話標識符是分開的。

邊界

  • 模型請求使用與 OpenAI 相容的聊天完成以及工具呼叫;其他提供者協定需要適配器。
  • 每回合保護模型迭代和工具呼叫的上限。較長的任務可以使用持久歷史在新的回合中繼續。
  • 聊天對話刪除是明確的。不執行自動歷史記錄驅逐。
  • 控制器必須能夠透過自己的 MCP 用戶端進行網路訪問,並且瀏覽器必須獲得 LSM Live Workspace API 的授權。