Cloud Dreaming

01 / Saas 大模型控制台

LLMCMS 是一个多用户 AI 平台，旨在通过检索增强生成（RAG）、可定制的 AI 工作流以及可配置的响应过滤功能，简化本地大语言模型（LLM）的部署。该项目最初是基于 LangChain 构建的实验性项目，现已发展成为一个灵活的平台，支持多用户、隔离的工作空间以及模块化的 AI 功能。

AI 生成的回复在送达用户之前，会先经过一个可配置的过滤流水线。管理员可以根据项目需求定义自定义过滤规则，以管控并净化 AI 的输出内容。

上传文档以构建可检索的知识库。系统会自动处理文件、生成向量表示（embeddings）并检索相关信息，从而提供更准确的 AI 响应。

通过可配置的 API 向外部应用程序开放 AI 能力。可通过权限管理来控制针对不同集成场景可用的服务。

通过集中式分析仪表板监控并掌握 AI 的使用情况。追踪大语言模型（LLM）的使用、交互模式、任务状态及处理耗时，从而全面了解系统的活动与性能表现。

通过基于 Web 的界面，无需修改源代码即可轻松配置 AI 模型、提示词（prompts）及服务提供商。可在本地模型与云端大语言模型（LLM）服务商之间灵活切换，以满足不同的部署需求。

通过语音识别和实时语音对话与 AI 互动，提供更自然、无需动手的用户体验。