一个全栈应用程序，使您能够将任何文档、资源或内容转换为任何 LLM 都可以在聊天期间用作参考的上下文。此应用程序允许您选择要使用的 LLM 或矢量数据库，并支持多用户管理和权限。

AnythingLLM 是一个全栈应用程序，您可以在其中使用商用现成的 LLM 或流行的开源 LLM 和 vectorDB 解决方案来构建一个不折不扣的私有 ChatGPT，您可以在本地运行和远程托管，并能够智能地聊天您提供的任何文档。

主要功能

• 🆕 自定义 AI 代理
• 🖼️ 多模态支持（包括闭源和开源 LLM！
• 👤 多用户实例支持和仅授予 Docker 版本权限
• 🦾 工作区内的代理（浏览 Web、运行代码等）
• 💬 仅适用于您网站 Docker 版本的自定义嵌入式聊天小部件
• 📖 多种文档类型支持（PDF、TXT、DOCX 等）
• 简单的聊天 UI，具有拖放功能和清晰的引用。
• 100% 云部署就绪。
• 适用于所有流行的闭源和开源 LLM 提供商。
• 与任何其他聊天用户界面相比，为管理非常大的文档提供了内置的成本和时间节省措施。
• 用于自定义集成的完整开发人员 API！
• 多。。。安装并找出答案！

支持的 LLM、嵌入器模型、语音模型和向量数据库

大型语言模型 （LLM）：

• 任何开源 llama.cpp 兼容模型
• 开放人工智能
• OpenAI（通用）
• Azure OpenAI
• AWS 基岩版
• 人
• 谷歌双子座专业版
• Hugging Face（聊天模型）
• Ollama （聊天模型）
• LM Studio（所有型号）
• LocalAi（所有型号）
• Together AI （聊天模型）
• Fireworks AI（聊天模型）
• 困惑（聊天模型）
• OpenRouter（聊天模型）
• DeepSeek（聊天模型）
• 米斯特拉尔
• 格罗克
• 凝聚
• 狗头人CPP
• LiteLLM
• 文本生成 Web UI
• 阿皮皮
• xAI
• Novita AI（聊天模型）

嵌入器模型：

• AnythingLLM Native Embedder （默认）
• 开放人工智能
• Azure OpenAI
• LocalAi（全部）
• Ollama （全部）
• LM Studio （全部）
• 凝聚

音频转录模型：

• AnythingLLM Built-in （默认）
• 开放人工智能

TTS（文本到语音转换）支持：

• 本机浏览器内置 （默认）
• PiperTTSLocal - 在浏览器中运行
• OpenAI TTS
• 十一实验室
• 任何与 OpenAI 兼容的 TTS 服务。

STT （语音到文本） 支持：

• 本机浏览器内置 （默认）

矢量数据库：

• LanceDB（默认）
• Astra 数据库
• 松果
• 色度
• 维维亚特
• Qdrant
• 米尔沃斯
• 齐利兹

安装和使用

• yarn setup要填写所需的文件，您需要在每个应用程序部分（从存储库的根目录）中填写。.env

  • 在继续之前先填写这些。确保已填充，否则事情不会正常进行。server/.env.development

• yarn dev:server在本地引导服务器（从存储库的根目录）。

• yarn dev:frontend在本地启动前端（从存储库的根目录）。

• yarn dev:collector然后，运行文档收集器（从存储库的根目录）。