一个微型语言模型的实现，更是一份入门 LLM 的教程，旨在降低学习和上手 LLM 的门槛 。它提供了从数据预处理到模型训练、微调和推理的全流程代码和教程。最小模型仅 0.02B 参数，可在普通 GPU 上轻松运行。
一个轻量级的 C++ 工具包，包含 100+ 个很棒的 AI 模型，例如对象检测、人脸检测、人脸识别、分割、遮罩等。请参阅 Model Zoo 和 ONNX Hub、MNN Hub、TNN Hub、NCNN Hub。
Genesis 是一个专为通用*机器人/具身 AI/物理 AI* 应用程序设计的物理平台。
该项目是用于构建具有记忆功能的 LLM 应用的 Python 框架，支持创建拥有长期记忆和持久状态的智能体（Agent），并能够集成多种 LLM API 服务。
这是一个高效易用的大型语言模型推理引擎，专为解决推理速度慢、资源利用率低等问题而设计。它基于 PyTorch 和 CUDA，并结合内存优化算法（PagedAttention）、计算图优化和模型并行技术，大幅降低 GPU 内存占用，并充分利用多 GPU 资源提升推理性能。
garak检查是否可以以我们不希望的方式使 LLM 失败。 探测幻觉、数据泄漏、及时注射、错误信息、毒性产生、越狱和许多其他弱点。如果您知道 or / Metasploit Framework，garak 的功能与它们有些相似，但适用于 LLM。
Trend Finder 收集并分析来自关键影响者的帖子，然后在检测到新趋势或产品发布时发送 Slack 通知。
open-interpreter可以让大语言模型在本地运行代码，支持 Python、JavaScript、Shell 等编程语言。相当于大语言模型是一个解释器，它会理解你的意图，将自然语言转化成相应的代码脚本并运行。安装后，用户就可以在终端通过聊天的方式操作计算机，比如创建和编辑图片、视频和文件，控制 Chrome 浏览器进行搜索等。
一个全栈应用程序，使您能够将任何文档、资源或内容转换为任何 LLM 都可以在聊天期间用作参考的上下文。此应用程序允许您选择要使用的 LLM 或矢量数据库，并支持多用户管理和权限。
AutoGen 是一个框架，可以使用多个代理进行对话，解决任务，从而实现 LLM 应用的开发。AutoGen 代理是可定制、可对话的，并且可以无缝地允许人类参与。它们可以在使用 LLM、人类输入和工具的各种模式下运行。
一个能让 AI 像真实用户一样自然操作浏览器的 Python 工具库，通过简单的代码配置就能实现网页自动化任务，如订票、求职申请、数据收集等实际应用场景。
一个用于训练、部署和评估大型语言模型的平台，你可以用它在本地部署和评估各种大模型。除此之外，它还提供了一个在线评估大模型的平台，用户可以向两个不同的大模型，问同一个问题，然后根据回答选出你认为更好用的大模型。在此过程中，你可以免费使用 Claude、ChatGPT 等对话机器人。
一个智能告警管理和 AIOps 平台，运用 AI 技术实现告警关联和分析。它提供了统一的操作界面，便于集中管理各种告警和事件，支持告警去重、过滤、相关性分析和自动化处理等功能，可与多种监控工具、数据库、通信平台和事件管理工具集成。
提供了 20 多种 LLMs 的预训练、微调和部署的工具。它可以通过 Pyhton 库或者命令行的方式使用，对模型进行微调、预训练、评估和部署服务等操作，支持自动从 HF 下载模型、自定义数据集、性能优化、降低内存要求（precision）等功能，以及 LoRA、QLoRA、Adapter 等多种微调方法。
在 C 语言中实现了一个最小的神经网络，用于对 MNIST 数据集中的手写数字进行分类。整个实现是 ~200 行代码，并且只使用标准 C 库。