Soup 微调流程：3 步走完训练，MLOps“极简”CLI

通过三步 CLI 与 YAML 配置实现 8B 模型微调，显著降低环境配置与服务器调试门槛。

概要

在微调大型语言模型时，最折磨人的往往不是训练本身，而是环境配置。Soup 把流程压缩成三步，极简化训练体验。

三步走流程

• 安装：pip install "soup-cli[train]"
• 初始化：soup init --template chat
• 启动训练：soup train

关键特性

• YAML 配置文件即可完成训练设定
• 支持多种模板类型：聊天、代码、推理、视觉、RLHF 等
• Layer Streaming 提升显存利用率，降低显存压力
• 4GB 显存即可尝试微调 8B 模型
• 训练后可导出 GGUF，兼容 Ollama，亦可推送到 Hugging Face

使用场景与门槛

• 将原本繁杂的服务器、驱动和参数调试流程，尽量压缩为一个 CLI 工作流
• 适合想要尝试自定义模型的开发者，门槛明显降低

参考链接

• 项目主页：https://github.com/MakazhanAlpamys/Soup

提示：若计划实际使用，请前往项目仓库获取最新指南与依赖版本。

下载链接

GitHub：
https://github.com/MakazhanAlpamys/Soup