Oumi - 小众AI

Oumi 是一个完全开源的平台，可简化基础模型的整个生命周期 - 从数据准备和训练到评估和部署。无论您是在笔记本电脑上进行开发、在集群上启动大规模实验，还是在生产环境中部署模型，Oumi 都能提供您所需的工具和工作流程。

主要功能

🚀 使用最先进的技术（SFT、LoRA、QLoRA、DPO 等）训练和微调从 10M 到 405B 参数的模型
🤖 使用文本和多模态模型（Llama、DeepSeek、Qwen、Phi 等）
🔄 与 LLM 裁判一起合成和整理训练数据
⚡️ 使用流行的推理引擎（vLLM、SGLang）高效部署模型
📊 跨标准基准全面评估模型
🌎 在任何地方运行 - 从笔记本电脑到集群再到云（AWS、Azure、GCP、Lambda 等）
🔌 与开放模型和商业 API（OpenAI、Anthropic、Vertex AI、Parasail 等）集成

安装和使用

要求

❗注意：由于 PyTorch 不再支持 Intel Mac，因此您无法在那里安装 Oumi。考虑使用我们的笔记本教程，在免费的 Colab GPU 实例上运行 Oumi！

在安装 Oumi 之前，请确保您具备以下条件：

Python 3.9 或更高版本
pip （Python 包安装程序）
Git（如果克隆存储库;步骤 1 和 2 需要）

我们建议使用虚拟环境来安装 Oumi。您可以在开发环境设置指南中找到有关设置 Conda 环境的说明。

安装

您可以使用以下方法之一安装 Oumi：

1. 从 PyPI 安装（推荐）

为了防止依赖项冲突，让我们从创建虚拟环境开始。我们将在下面使用，但欢迎您使用您选择的环境管理器（conda、uvx 等）：venv

Linux / MacOS

python -m venv .env
source .env/bin/activate

Windows：

python -m venv .env
.env/Scripts/activate

完成后，您就可以安装 Oumi 了！

要安装 Oumi 的最新稳定版本，请运行：

pip install oumi

2. 从源码安装

对于最新的开发版本，您可以直接从 GitHub 仓库安装 Oumi：

SSH:

pip install git+ssh://git@github.com/oumi-ai/oumi.git

HTTPS :

pip install git+https://github.com/oumi-ai/oumi.git

3. 克隆和安装

如果您想为 Oumi 做出贡献或需要完整的源代码，您可以克隆仓库并安装它：

SSH :

git clone git@github.com:oumi-ai/oumi.git
cd oumi
pip install -e ".[dev]"

HTTPS :

git clone https://github.com/oumi-ai/oumi.git
cd oumi
pip install -e ".[dev]"

有关设置开发环境以为 Oumi 做出贡献的更多信息，请请参阅我们的 Dev 设置指南。

该标志以 “editable” 模式安装项目。这意味着对源代码所做的更改将立即反映在已安装的包中，而无需重新安装它。当您正在积极开发功能并希望快速测试您的更改时，这特别有用。它会创建指向项目源代码的链接，而不是复制文件，从而允许您修改代码并立即在 Python 环境中查看效果。-e

可选依赖项

Oumi 有几个可选功能需要额外的依赖项：

对于 GPU 支持：

pip install oumi[gpu]  # Only if you have an Nvidia or AMD GPU

对于开发和测试：
```
pip install oumi[dev]
```

对于特定的云提供商：

pip install oumi[aws]     # For Amazon Web Services
pip install oumi[azure]   # For Microsoft Azure
pip install oumi[gcp]     # For Google Cloud Platform
pip install oumi[lambda]  # For Lambda Cloud
pip install oumi[runpod]  # For RunPod

您可以通过组合多个云依赖项来安装它们，例如：

pip install oumi[aws,azure,gcp]

验证安装

安装后，您可以通过运行以下命令来验证 Oumi 是否已正确安装：

oumi --help

这应该会打印 Oumi 的帮助消息。

更多...

小众AI