Unsloth
Unsloth Studio 是一个 Web 界面，用于在本地训练和运行 Qwen、DeepSeek、gpt-oss 和 Gemma 等开放模型。
仍在活跃开发：最近 90 天有 3,740 次提交，最近一次提交在 2026-10-01。
Unsloth Studio 是一个统一的本地 Web 界面，专门用于训练和运行开源 AI 模型。该工具支持文本、音频、嵌入和视觉等多种模态的模型，可在 Windows、Linux 和 macOS 系统上运行。作为一个 Beta 版本的产品，Unsloth Studio 集成了推理和训练两大核心功能模块。在推理方面，它支持搜索、下载和运行多种格式的模型（包括 GGUF、LoRA 适配器、safetensors），提供模型导出、工具调用、代码执行和自动参数调优等功能。在训练方面，Unsloth 通过自定义 Triton 和数学内核优化，能够训练500+种模型，实现2倍的训练速度提升和70%的显存节省，且不损失准确性。该工具与多个知名模型团队（如 Qwen、DeepSeek、Llama、Mistral 等）合作，修复了许多影响模型准确性的关键 bug。凭借58415个 GitHub 星标，Unsloth 已成为 AI 模型训练和推理领域的重要工具。
和同类工具的区别
与 Axolotl（基于配置，无速度优化）或 Hugging Face TRL（标准显存用量）不同，Unsloth 使用自定义 Triton 内核，将微调速度提升至 2x，同时减少70%的显存用量，使在单张消费级 GPU 上微调 7B+ 模型成为可能。
主要能力
- 使用自定义 Triton 内核微调 500+ 种 LLM，速度最高提升至 2x，显存用量最多减少70%
- Unsloth Studio Web 界面支持搜索、下载、运行和训练模型，并提供基于节点的可视化数据配方编辑器
- 强化学习（GRPO）显存用量减少80%——效率最高的 RL 库
- 多模态训练：文本、音频（TTS）、嵌入和视觉模型微调
- 将模型导出为 GGUF、safetensors 等格式
- 具备自修复能力的工具调用与沙箱环境中的代码执行
- 支持 Windows、Linux、macOS，以及 NVIDIA、AMD 和 Intel GPU 加速
适合
- 在消费级 GPU（RTX 30/40/50 系列）上微调开源 LLM 的开发者和研究人员
- 进行 RLHF/GRPO 训练且需要最大化显存利用效率的团队
不太适合
- 生产环境中的 LLM 推理服务——请改用 Ollama、vLLM 或 TGI
- 在海量数据集上从零开始训练——请改用 DeepSpeed 等分布式训练框架
局限
- 训练需要 NVIDIA GPU（AMD/Intel 支持仅限于推理，且处于实验阶段）
- 支持多 GPU 训练，但主要改进仍有待推出
- macOS 训练支持目前仅限于即将推出的 MLX 集成
- 专注于微调——并非完整的推理服务解决方案
Unsloth 的替代品
- Axolotl（1.3 万星）
- LlamaFactory（7.5 万星）
- oumi（9,393星）
- Mistral-finetune（3,093星）
- PEFT（2.2 万星）
- ColossalAI（4.1 万星）
常见问题
- Unsloth 是做什么的？
- Unsloth Studio 是一个统一的本地 Web 界面，专门用于训练和运行开源 AI 模型。该工具支持文本、音频、嵌入和视觉等多种模态的模型，可在 Windows、Linux 和 macOS 系统上运行。作为一个 Beta 版本的产品，Unsloth Studio 集成了推理和训练两大核心功能模块。在推理方面，它支持搜索、下载和运行多种格式的模型（包括 GGUF、LoRA 适配器、safetensors），提供模型导出、工具调用、代码执行和自动参数调优等功能。在训练方面，Unsloth 通过自定义 Triton 和数学内核优化，能够训练500+种模型，实现2倍的训练速度提升和70%的显存节省，且不损失准确性。该工具与多个知名模型团队（如 Qwen、DeepSeek、Llama、Mistral 等）合作，修复了许多影响模型准确性的关键 bug。凭借58415个 GitHub 星标，Unsloth 已成为 AI 模型训练和推理领域的重要工具。
- Unsloth 还在维护吗？
- 仍在活跃开发：最近 90 天有 3,740 次提交，最近一次提交在 2026-10-01。
- Unsloth 有哪些替代品？
- 和 Unsloth 最接近的开源替代品有 Axolotl、LlamaFactory、oumi、Mistral-finetune、PEFT、ColossalAI。
- Unsloth 是开源的吗？
- 是的，Unsloth 是开源项目，代码托管在 GitHub 上。
星数、提交和发版数据来自 GitHub API，每天自动刷新。介绍文字由 AI 从英文翻译，并经过第二个模型的回译校对。 项目地址：github.com/unslothai/unsloth