U
unsloth
Apache-2.0PythonUnsloth is a local UI for training and running Kimi K3, Gemma 4, Qwen3.6, DeepSeek-V4, GLM and other models.
★ 69kFork 6k更新于 2026-08-02
软件介绍
Unsloth Studio 是一个本地化的 Web 用户界面，用于训练和运行 Gemma 4、Qwen3.6、DeepSeek、gpt-oss 等开源模型。它提供推理、训练、强化学习等功能，支持多模态（文本、音频、视觉），并针对 NVIDIA、AMD、macOS 等平台优化，训练速度最高提升 2 倍，显存占用减少 70%。
核心功能
搜索、下载并运行 GGUF、LoRA、safetensors 等格式的模型
导出模型为 GGUF、16-bit safetensors 等格式
支持自愈工具调用和网络搜索
代码执行：LLM 可在沙箱环境中测试代码
API 推理端点：部署本地 LLM 供 Claude Code、Codex 等工具使用
自动设置推理参数并自定义聊天模板
训练 500+ 模型，速度提升 2 倍，显存减少 70%
自定义 Triton 和数学内核
数据配方：从 PDF、CSV、DOCX 自动创建数据集
强化学习：GRPO 等算法，显存减少 80%
支持全微调、RL、预训练、4-bit、16-bit、FP8 训练
实时监控训练，跟踪损失和 GPU 使用
多 GPU 训练支持
适用场景
在本地 GPU 上微调 Llama、Qwen、Gemma 等大语言模型运行和测试开源模型进行推理和对话使用强化学习（如 GRPO）优化模型推理能力从 PDF、CSV 等文档自动创建训练数据集部署本地 LLM API 端点供开发工具调用在 macOS、Linux、Windows 上跨平台训练和运行模型
Docker 部署
docker run -d -e JUPYTER_PASSWORD="mypassword" -p 8888:8888 -p 8000:8000 -p 2222:22 -v $(pwd)/work:/workspace/work --gpus all unsloth/unsloth
FAQ
Unsloth Studio 支持哪些硬件？
支持 Windows、Linux、macOS。NVIDIA GPU（RTX 30/40/50、Blackwell 等）训练可用；macOS 支持训练、MLX 和 GGUF 推理；AMD 目前支持聊天和数据配方，训练需使用 Unsloth Core，Studio 支持即将推出。
如何安装 Unsloth Studio？
macOS/Linux/WSL 运行 `curl -fsSL https://unsloth.ai/install.sh | sh`，Windows PowerShell 运行 `irm https://unsloth.ai/install.ps1 | iex`。安装后使用 `unsloth studio -p 8888` 启动。
Unsloth Studio 可以导出模型吗？
可以。支持将模型导出为 GGUF、16-bit safetensors 等格式。
Unsloth Studio 是否支持多 GPU 训练？
支持多 GPU 训练，目前可用，并计划进行重大升级。