SFT 工作台:训练、评测与试用
v0.4.0 新增 SFT 工作台。它把聊天上下文作为输入、你的回复作为训练目标,通过 LoRA 微调基础模型,让输出更贴近你的表达习惯。工作台还提供训练状态、评测、Adapter 导出和试聊。
测试与演示范围
Mac MLX 和 CUDA L20 已使用合成数据测试训练、评测与流式试聊,L20 还测试了中断恢复。公开 Demo 仅展示训练流程,不支持上传训练数据或连接训练环境。详见 SFT 测试记录。
SFT 学习的是表达方式,并不保证准确记住历史事实。需要回答具体事件或近期变化时,仍可结合聊天检索(RAG);使用前应比较基础模型和微调模型的实际表现。
从数据到模型
入口为侧边栏 AI 工作台 → 模型训练。顶部流程图展示各环节状态,并可点击跳转。
- 准备数据:新建项目后,选择指定联系人或全部可用私聊及时间范围;也可以导入 JSONL。生成的是草稿,不会立即训练或修改原始聊天。
- 审核与冻结:查看样本和基础脱敏结果,编辑或排除不希望使用的内容,再冻结为只读版本。冻结时按来源和会话分组,生成训练、验证、测试集。
- 连接训练环境:在「环境管理」配对本机 Apple Silicon / MLX,或 Linux / NVIDIA GPU 上的 LLaMA-Factory Worker。Worker 仅接收所授权项目的任务。
- 预检并训练:选择数据、Worker、基础模型和固定 revision;预检会校验环境、分词与监督标签,并运行两次真实优化器更新。通过后再确认提交训练,可查看状态、loss 和检查点。
- 评测、导出与试聊:用冻结测试集比较基础与微调模型,结合 A/B 盲评判断效果;下载 Adapter 或启动推理服务,接入 WeLink 模型配置后试聊。设为默认与回滚需要显式操作。
短训验证至少需要 训练 / 验证 / 测试 100 / 10 / 10 条,标准训练至少需要 500 / 50 / 50 条,并需要足够的独立会话;最终有效样本数还会受到过滤和分词长度限制。
连接远程 GPU 容器
在工作台打开「环境管理」,选择 远程 Linux / NVIDIA GPU 容器,按页面步骤在训练容器中安装 Worker、填写该容器能够访问的 WeLink 控制端地址、生成一次性配对码并启动 Worker。训练环境需要 Python 3.12、可用的 NVIDIA GPU 和兼容驱动,还需要能访问依赖源和基础模型。
容器中的 127.0.0.1 指向容器自身。远程连接请使用正确配置的 HTTPS 代理,或通过 SSH 等安全隧道将 WeLink 后端映射到训练容器的回环地址。例如,在训练环境运行:
ssh -N -L 18080:127.0.0.1:8088 <WeLink主机SSH地址>其中 8088 需替换成 WeLink 主机上实际可访问的后端端口;隧道保持运行时,在工作台填写 http://127.0.0.1:18080,再按照生成的命令在训练环境配对。HTTPS 代理需直接转发 /api/sft-worker/ 并正确配置可信代理 IP。完整安装、代理和恢复说明见 开发仓库中的 Worker 使用说明。
数据去向:工作台草稿、冻结数据和产物保存在 WeLink 控制端;预检、训练和评测会把所需样本发送到所选 Worker,训练环境也会保存日志、缓存和产物。使用云端 AI 时,相关请求内容同样会发送到所选服务。自动脱敏不能覆盖所有隐私信息,数据集和 Adapter 都可能记住聊天原文。
如果希望临时测试后清除训练数据,应自行为控制端和训练环境配置临时存储,并在测试后删除相应 Pod 或容器。Kubernetes emptyDir 会在容器重启后保留,直到 Pod 被删除才清除;模型缓存也应放入该临时存储。请按实际部署核对备份和日志位置。
临时 GPU 训练检查
- 先用合成数据验证流程。使用真实数据前,确认控制端和训练环境的所有者、访问范围和传输链路。
- 检查 Worker 工作目录、模型与依赖缓存、临时目录和容器日志的实际路径;避免将聊天数据或产物写入 PVC、宿主机挂载、共享缓存或自动备份。Kubernetes 可为需要清理的目录配置 Pod 专属
emptyDir,并核对实际挂载。 - 训练结束后停止任务和推理服务、撤销 Worker 配对,确认需要保留的产物;再删除 Pod。单纯重启容器不会清除
emptyDir。 - 分别核对控制端的数据版本与产物、Worker 缓存、日志采集、备份和快照;清理应由各自环境的管理员按实际位置执行。WeLink 的失败文件清理不覆盖 Worker 缓存或云端备份。
临时存储与删除操作不能保证物理介质安全擦除;请根据环境的存储和日志策略判断是否适合处理真实聊天。
旧版 Skills:ms-swift 数据集与训练
Skill 炼化仍可导出旧版 ms-swift messages JSONL,包含指定联系人分身的数据集;Skills 列表保留已有文件的下载入口。训练和部署面板已从 Skills 页面移除,新任务请使用上方的模型训练工作台。旧版任务、部署和数据与工作台分开保存,不会自动出现在工作台中;清理页面不会删除已有记录或产物。
工作台可导入 JSONL;旧版 ZIP 需要先解压并选择其中一个 JSONL 文件,导入后仍须重新审核和冻结,不能直接导入旧训练任务、检查点或部署记录。旧版训练和部署的兼容接口仍保留,见 API 文档。旧版也支持训练指定联系人的回复;工作台从聊天记录直接准备数据时目前仅训练当前账号的回复。
旧版适用目标
| 目标 | user 角色 | assistant 训练目标 | 用途 |
|---|---|---|---|
| 我的口吻(Self) | 联系人的消息 | 我发出的回复 | 写作、回复草稿、个人数字分身 |
| 联系人分身(Contact) | 我发出的消息 | 指定联系人的回复 | 在 AI 分身中模拟该联系人的表达风格 |
SFT 适合学习句长、断句、语气词、emoji 和常见反应方式,不适合可靠保存“某天发生了什么”之类的事实。事实和近期状态仍应通过 WeLink 的记忆或轻量 RAG 提供。
旧版数据集导出
在自画像或联系人页面打开 Skill 炼化,选择 SFT / LoRA 训练集。至少需要 500 条有效目标回复;可以设置最多导出 500~10000 条训练样本。
构建器会:
- 只读取文本消息并确定 user / assistant 角色。
- 合并同一方连续发送的短消息。
- 以 10 分钟无消息作为会话边界。
- 给每个目标回复附带同一会话内最多 8 个上下文轮次。
- 对完全重复样本去重,并在当前选择的数据时间范围内均匀采样。
- 保证同一会话只进入一个 split,再按时间顺序划分约 80% / 10% / 10%。
Self 数据会在不同联系人之间轮询取样,避免单个高频联系人淹没其他交流场景;较小的联系人样本耗尽后,较大的样本池会继续补足目标数量。
手机号、邮箱、身份证、银行卡号和 wxid 会被替换,URL 和长编码内容会变成占位符。规则脱敏无法识别所有人名、地址、公司和私人事件,训练前必须抽查导出的 JSONL。
旧版本地训练兼容接口
旧版训练与新工作台使用不同的任务队列。需要查询或停止历史任务时,可使用 旧版本地训练 API,或继续使用已导出数据集里的脚本。通过旧版 API 启动任务时,需要先在运行 WeLink 后端的同一个环境安装 ms-swift:
pip install -U ms-swiftmacOS 自带的 /usr/bin/swift 是 Apple Swift 编译器,不是 ModelScope ms-swift。若命令名冲突,将实际 CLI 的绝对路径传给 WeLink 后端:
WELINK_SWIFT_BIN=/path/to/venv/bin/swift ./welink-backend训练任务默认串行,避免多个任务同时抢占同一块 GPU。状态保存在 ai_analysis.db,数据副本、日志和 checkpoint 位于 preferences.json 同级的 sft-training/<job-id>/。删除任务会同时删除该目录,无法恢复。
训练管理接口只允许从本机界面访问。WeLink 不执行数据集 zip 内的脚本,只解包固定白名单文件,并直接以参数数组启动 ms-swift,避免被篡改的训练包注入命令。
默认 Docker 后端镜像不包含 CUDA、PyTorch 或 ms-swift。要在 Docker 内训练,需要自行构建 GPU 训练镜像并挂载 GPU;更简单的方式是在 GPU 机器上原生运行后端。宿主机安装的
swift不能直接被普通容器调用。
使用旧版导出脚本训练
解压后安装与你的 CUDA、PyTorch 环境兼容的 ms-swift,然后执行:
bash train.sh默认使用 Qwen/Qwen3-4B-Instruct-2507、LoRA rank 16、两轮训练。可以覆盖模型和输出目录:
MODEL=Qwen/Qwen3-4B-Instruct-2507 \
OUTPUT_DIR=outputs/welink-personal \
bash train.sh默认值只是安全起点。正式使用前应根据显存、样本量、验证集 loss、回复重复率和人工盲测调整参数,不要仅凭训练 loss 选择模型。
旧版部署与评估兼容接口
旧版部署与评估面板已移除;已有部署记录仍可通过 旧版本地部署 API 查询、停止和评估。兼容接口管理的 swift deploy 具有以下行为:
- 固定监听
127.0.0.1,不会把未鉴权的推理端点暴露到局域网。 - 可选兼容性更好的
transformers,或需要额外安装依赖、吞吐更高的vllm。 - 可配置端口、GPU 编号和服务模型名。
- 等待
/v1/models健康检查通过后才把状态标记为“服务中”。 - 支持增量日志、停止进程和删除部署记录;删除部署不会删除训练任务或 Adapter。
部署后打开对应联系人的 AI 分身,可以选择这个 SFT 模型以及三种路由:
| 模式 | 行为 |
|---|---|
| 纯 SFT | 不检索历史,完全依靠模型学到的表达风格 |
| 自动补事实 | 默认;闲聊不检索,仅在问题包含时间、地点、人物、约定等事实信号时检索 |
| 始终 RAG | 每轮都检索本地历史索引,适合连续追问具体事件 |
SFT 分身的 RAG 只使用本机 FTS 索引,不调用外部 Embedding 或查询改写服务,避免本地对话在未提示的情况下外发。Adapter 与联系人 username 强绑定,后端会拒绝将一个联系人的模型用于另一个联系人。
点击部署记录上的试管按钮,会从训练时保留的 test.jsonl 取最多 5 条样本进行生成,展示字符二元组 F1、回复长度比和逐条对照。这个分数只适合同一数据集、同一基础模型不同 checkpoint 的纵向比较,不代表语义正确或“人格还原度”;发布前仍应人工盲测。
部署状态位于 ai_analysis.db,日志位于 preferences.json 同级的 sft-deployments/<deployment-id>/。WeLink 重启后旧进程状态会标记为已停止,需要用户重新启动,防止数据库误报服务在线。
ms-swift 官方也推荐使用 swift deploy --adapters <checkpoint> 部署 LoRA;Adapter 目录里的 args.json 会提供训练参数。参见 ms-swift 微调后部署文档。
使用旧版导出脚本部署
训练完成后,将 checkpoint 路径传给:
bash deploy.sh outputs/welink-personal/<run>/checkpoint-<step>脚本会在 127.0.0.1:8000 启动 OpenAI 兼容接口。如果不使用内置部署管理,也可以手动在 WeLink 新建自定义 LLM Profile:
- Base URL:
http://127.0.0.1:8000/v1 - Model:
welink-personal - API Key:本地服务不校验时可填写任意非空占位值
Docker 部署的 WeLink 应将 Base URL 改成 http://host.docker.internal:8000/v1。
旧版隐私与安全
- JSONL、LoRA adapter、合并后的模型都可能记住训练原文。
- 不要把包含他人聊天内容的训练产物上传到公开模型仓库。
- 不要把联系人分身用于冒充真人、欺骗或代表真人作决定。
- WeLink 中删除训练任务会清理该任务的数据副本、checkpoint 和日志;模型下载缓存需按 ms-swift/ModelScope 的缓存位置另行清理。