Jan 是一款创新性的开源软件解决方案,作为 ChatGPT 的有力替代品,它致力于为用户提供一个安全、私密且完全离线的自然语言处理环境。这款强大的工具可以在用户的个人计算机上独立运行,无论是基于 Windows、Mac 还是 Linux 操作系统,均能实现无缝兼容,充分满足不同用户群体的需求。
主要特性
- 离线使用:Jan 允许用户在不连接互联网的情况下,本地化运行当前主流且备受赞誉的一系列开源大语言模型,例如 Mistral、Llama 等。。
- 无代码运行环境:非专业开发人员也能轻松驾驭复杂的大规模语言模型应用,极大地降低了技术门槛。
- 隐私保护与数据安全:离线状态下运行,意味着用户的输入数据不会在网络传输过程中面临潜在风险,所有处理过程均在本地完成,确保了用户信息的高度私密性。
开始使用 🚀
安装
可以按照桌面版本,或者服务器版本:
- 桌面:https://jan.ai/docs/desktop
- 服务器:https://jan.ai/docs/server
GPU加速(可选)
如果你有一块显卡,可以通过启用GPU加速来提升模型性能:
- 打开Jan应用程序。
- 转到“设置”->“高级设置”->“GPU加速”。
- 点击滑块并选择你偏好的GPU。
- 当GPU加速被激活时,会出现一条成功通知,内容是“已成功打开GPU加速”。
请确保你已安装适用于你的GPU的适当驱动程序,以便GPU加速能够正常工作。如果你还没有安装或更新驱动程序,建议访问你的GPU制造商的官方网站下载并安装最新版本的驱动程序。
下载模型
Jan提供了各种针对不同需求的本地AI模型,都可以直接下载到你的设备上:
- 前往Hub。
- 选择你想要安装的模型。要查看模型详细信息,请点击下拉菜单按钮。
- 你还可以在搜索框中粘贴Hugging Face模型的ID或URL。