一个全栈应用程序，使您能够将任何文档、资源或内容转换为任何 LLM 都可以在聊天期间用作参考的上下文。此应用程序允许您选择要使用的 LLM 或矢量数据库，并支持多用户管理和权限。
AnythingLLM 是一个全栈应用程序，您可以在其中使用商用现成的 LLM 或流行的开源 LLM 和 vectorDB 解决方案来构建一个不折不扣的私有 ChatGPT，您可以在本地运行和远程托管，并能够智能地聊天您提供的任何文档。
主要功能
- 🆕 自定义 AI 代理
- 🖼️ 多模态支持（包括闭源和开源 LLM！
- 👤 多用户实例支持和仅授予 Docker 版本权限
- 🦾 工作区内的代理（浏览 Web、运行代码等）
- 💬 仅适用于您网站 Docker 版本的自定义嵌入式聊天小部件
- 📖 多种文档类型支持（PDF、TXT、DOCX 等）
- 简单的聊天 UI，具有拖放功能和清晰的引用。
- 100% 云部署就绪。
- 适用于所有流行的闭源和开源 LLM 提供商。
- 与任何其他聊天用户界面相比，为管理非常大的文档提供了内置的成本和时间节省措施。
- 用于自定义集成的完整开发人员 API！
- 多。。。安装并找出答案！
支持的 LLM、嵌入器模型、语音模型和向量数据库
大型语言模型 （LLM）：
- 任何开源 llama.cpp 兼容模型
- 开放人工智能
- OpenAI（通用）
- Azure OpenAI
- AWS 基岩版
- 人
- 谷歌双子座专业版
- Hugging Face（聊天模型）
- Ollama （聊天模型）
- LM Studio（所有型号）
- LocalAi（所有型号）
- Together AI （聊天模型）
- Fireworks AI（聊天模型）
- 困惑（聊天模型）
- OpenRouter（聊天模型）
- DeepSeek（聊天模型）
- 米斯特拉尔
- 格罗克
- 凝聚
- 狗头人CPP
- LiteLLM
- 文本生成 Web UI
- 阿皮皮
- xAI
- Novita AI（聊天模型）
嵌入器模型：
音频转录模型：
TTS（文本到语音转换）支持：
- 本机浏览器内置 （默认）
- PiperTTSLocal - 在浏览器中运行
- OpenAI TTS
- 十一实验室
- 任何与 OpenAI 兼容的 TTS 服务。
STT （语音到文本） 支持：
- 本机浏览器内置 （默认）
矢量数据库：
安装和使用
-
yarn setup要填写所需的文件，您需要在每个应用程序部分（从存储库的根目录）中填写。.env- 在继续之前先填写这些。确保已填充，否则事情不会正常进行。
server/.env.development
- 在继续之前先填写这些。确保已填充，否则事情不会正常进行。
-
yarn dev:server在本地引导服务器（从存储库的根目录）。 -
yarn dev:frontend在本地启动前端（从存储库的根目录）。 -
yarn dev:collector然后，运行文档收集器（从存储库的根目录）。
