FastChat 这是一个用于训练、部署和评估大型语言模型的平台，你可以用它在本地部署和评估各种大模型。除此之外，它还提供了一个在线评估大模型的平台，用户可以向两个不同的大模型，问同一个问题，然后根据回答选出你认为更好用的大模型。在此过程中，你可以免费使用 Claude、ChatGPT 等对话机器人。

主要特性

• 最先进模型（例如，Vicuna、MT-Bench）的训练和评估代码。
• 具有 Web UI 和兼容 OpenAI 的 RESTful API 的分布式多模型服务系统。

开始使用 🚀

使用pip安装

pip3 install "fschat[model_worker,webui]"

使用源码安装

1. 克隆FastChat代码并进入项目目录

git clone https://github.com/lm-sys/FastChat.git
cd FastChat

Mac:

brew install rust cmake

2. 安装项目包

pip3 install --upgrade pip  # enable PEP 660 support
pip3 install -e ".[model_worker,webui]"