FarFalle 是一款开源的AI搜索引擎项目，类似Perplexity AI。 可使用本地或云 LLM 自托管。

主要功能

• 使用多个搜索提供商（Tavily、Searxng、Serper、Bing）进行搜索
• 使用云模型（OpenAI/gpt4-o、OpenAI/gpt3.5-turbo、Groq/Llama3）回答问题
• 使用本地模型（llama3、mistral、gemma、phi3）回答问题
• 通过LiteLLM回答任何自定义LLM的问题
• 与计划并执行搜索的代理一起搜索，以获得更好的结果

🏃🏿‍♂️开始使用

关键依赖

• Docker
• Ollama（如果运行本地模型）
• 下载任何支持的型号：llama3、mistral、gemma、phi3
• 启动ollama服务器ollama-server

获取API密钥

• Tavily（可选）
• Serper（可选）
• OpenAI（可选）
• 必应（可选）
• Groq（可选）

快速入门：

git clone https://github.com/rashadphz/farfalle.git
cd farfalle && cp .env-template .env

使用API密钥修改.env（可选，如果使用Ollama则不需要） 启动应用程序：

docker compose-f docker-compose.dev.yaml up-d

等待应用程序启动，然后访问http://localhost:3000. 有关自定义设置说明，请参阅[/custom-setup-instructions.md]（/custom-setup-instructions.md）