호스팅된 채팅(선택 사항)¶
Hosted Chat은 LSM의 휴먼 인터페이스에 통합된 자체 호스팅 BYOK 채팅 및 MCP Apps 클라이언트입니다. 이는 논리 세션 모드가 아닙니다. 대화는 독립적인 ID를 가지며 선택적으로 기존 LSM 논리 세션을 연결할 수 있습니다. ChatGPT 및 기타 외부 클라이언트는 동일한 LSM 세션 및 도구를 사용하여 계속 작업합니다.
사용 가능 여부¶
Hosted Chat은 영구 상태 저장소를 사용하는 MCP 모드에서 기본적으로 활성화됩니다. 비활성화하려면 다음을 설정하세요:
컨트롤러를 다시 시작하고 웹 UI/TUI 선택기 바로 아래에서 호스팅된 채팅을 엽니다. 이 기능에는 모바일 상단 표시줄 항목도 있습니다. 채팅 호스트는 기존 LSM OAuth ID 및 범위를 사용합니다. 동일한 컨트롤러는 모델의 도구 루프에서 사용되는 MCP 서버를 작동합니다. 작업자는 실행을 시작할 수 없습니다.
모델 프로필¶
이름, HTTPS OpenAI 호환 API 기본 URL, 모델 ID 및 선택적 API 키를 사용하여 프로필을 생성/편집하려면 모델 프로필을 선택합니다. 여러 프로필이 공존할 수 있으며 대화를 통해 모델을 전환할 수 있습니다.
프로필, 대화, 전체 메시지 기록 및 도구 호출 결과는 구성된 LSM 상태 백엔드를 통해 서버에 저장됩니다. 해당 범위는 인증된 주체에 연결됩니다. API 키는 AES-GCM으로 암호화되며 프로필 목록 또는 프로필 세부 사항 엔드포인트에서 반환되지 않습니다. 브라우저 저장소에 저장되지 않고 모델에 프롬프트로 전송되거나 감사 로그에 포함되지 않습니다. 채팅 호스트는 선택한 모델 API에만 이를 전달합니다.
첫 번째 파일 지원 배포에서는 모드 0600으로 상태 디렉터리에 hosted-chat-encryption-key을 생성합니다. 상태 데이터와 함께 이 파일을 백업합니다. 이것이 없으면 저장된 API 키를 해독할 수 없습니다. 컨트롤러가 Redis, 여러 복제본 또는 다른 비파일 상태 백엔드를 사용하는 경우 안정적인 공유 32바이트 URL-safe-base64 키를 구성합니다.
암호화된 프로필을 마이그레이션하지 않고 이 설정을 순환하지 마십시오. 지속 가능한 대화가 필요한 경우 메모리 내 상태 저장소를 사용하지 마세요.
기본적으로 DNS 호스트 이름이 있는 HTTPS 모델 엔드포인트만 허용됩니다. 서버 측 요청 위조 위험을 줄이기 위해 로컬/개인 엔드포인트 및 HTTP가 거부됩니다. 신뢰할 수 있는 비공개 모델 게이트웨이를 의도적으로 호스팅하는 관리자는 다음을 선택할 수 있습니다.
사용자가 내부 서비스에 접속할 권한이 없는 한 신뢰할 수 없는 다중 사용자 컨트롤러에서는 이 기능을 활성화하지 마십시오.
대화 및 MCP 앱¶
저장된 모델 프로필을 사용하여 대화를 만드세요. 제출된 각 차례는 서버 소유의 백그라운드 작업이 됩니다. 브라우저를 닫아도 작업이 취소되지는 않습니다. 완료된 텍스트 및 도구 호출은 모델/도구 단계 간에 지속적으로 검사됩니다. 중단하려면 명시적으로 중지하세요. 컨트롤러를 다시 시작하면 중단된 실행이 그렇게 표시되고 새로운 차례에서 계속될 수 있지만 알 수 없는 결과 도구 호출은 자동으로 재생되지 않습니다.
대화의 전체 메시지 기록은 저장소에 보관됩니다. 컨텍스트 크기를 제어하기 위해 제한된 최근 창만 모델에 한 번에 전송됩니다. 도구 호출은 LSM의 인증된 MCP 엔드포인트를 통해 전송되며 모든 일반 도구 권한과 감사/실행 전 동작을 유지합니다.
보관하면 대화가 일반 목록에서 사라지고 Audit에서 사용 중인 zstd 코덱으로 .json.zst 파일에 저장됩니다. 일반 검색 인덱스에서는 제외됩니다. Archived conversations에서 제목으로 찾고, 읽기 전용으로 확인하거나 복원 또는 영구 삭제할 수 있습니다. 새 사본을 먼저 기록해 데이터 손실을 방지합니다.
긴 대화와 컨텍스트 압축¶
전체 메시지와 도구 실행 기록은 서버에 그대로 보존됩니다. 모델 프로필의 컨텍스트 창은 기본 32,768 토큰, 설정 범위는 8,192~1,000,000입니다. UTF-8 기반 보수적인 토큰 추정에는 도구 정의도 포함됩니다. 창의 약 80%에 도달하면 동일한 모델이 이전에 완료된 대화를 요약합니다. 요약은 목표, 제약, 결정, 파일, 도구 결과 및 남은 작업을 포함하며 원본 기록과 별도로 저장됩니다. 모델에는 요약과 최근 원본 메시지만 전달됩니다.
도구 실행 뒤에도 예산을 다시 확인합니다. Compact 버튼으로 수동 압축할 수 있으나 실행 중에는 불가능합니다. 실패해도 이전 요약과 원본 기록은 유지됩니다. 토큰 수는 추정치이며 현재 차례가 너무 크면 조용히 삭제하지 않고 오류를 반환합니다.
Live Workspace를 열어 LSM의 기존 workspace_open MCP Apps 리소스를 내장된 뷰 내에 렌더링합니다. 호스트는 앱 수명 주기, 자격 증명 갱신, 도구 호출 및 인간-에이전트 작업을 위해 @modelcontextprotocol/ext-apps 브리지를 사용합니다. 두 번째 파일 관리자, 터미널, 감사 또는 작업 UI는 구현되지 않습니다.
옵션으로 첨부된 session_id를 사용하면 호스팅된 채팅에서 기존 논리 세션을 사용하고 표시할 수 있습니다. 세션을 재분류하거나 호스팅 채팅 소유권을 부여하지 않습니다. 채팅 대화 식별자와 논리적 세션 식별자는 별개입니다.
경계¶
- 모델 요청은 도구 호출과 함께 OpenAI 호환 채팅 완료를 사용합니다. 다른 공급자 프로토콜에는 어댑터가 필요합니다.
- 턴당 캡 모델 반복 및 도구 호출을 보호합니다. 내구성 있는 기록을 사용하여 새로운 차례에 더 긴 작업을 계속할 수 있습니다.
- 채팅 대화 삭제는 명시적입니다. 자동 기록 제거는 수행되지 않습니다.
- 컨트롤러는 자체 MCP 클라이언트를 통해 네트워크에 연결할 수 있어야 하며 브라우저는 LSM Live Workspace API에 대한 인증을 받아야 합니다.