快讯 08:00Google Research发布三项研究,推进AI智能体自主湿实验室基础模块06:53Claude 模型 30 分钟破解 NIST 椭圆曲线种子 26 年来源谜题03:05Anthropic 披露 Claude 编写约 90% Claude Code 代码,合并 PR 翻倍回退率降超四成 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

论文 10-08 · 星期四 · 10-08 00:21 约 1 分钟读完

Unsloth开源决策模型微调教程:Qwen3.5 0.8B准确率跃升至74.3%

摘要

Unsloth发布教程与开源仓库,可将Qwen3.8、Gemma 4等LLM微调为输出选项概率的决策模型。其中Qwen3.5 0.8B在3个决策基准上的合计准确率从20.7%提升至74.3%,且仅需4GB显存即可完成本地训练。

近日,Unsloth 发布了一套面向决策模型训练的教程与开源仓库,旨在帮助开发者将通用大语言模型改造为能够输出选项概率的决策模型。该方案适用于 Qwen3.8、Gemma 4 等多种 LLM,为本地化微调提供了新的实践路径。

根据官方披露的数据,Qwen3.5 0.8B 模型在 3 个决策基准上的合计准确率由 20.7% 提升至 74.3%,性能改善显著。这一结果意味着小参数模型经过针对性微调后,在特定决策任务上能够达到可用的精度水平。

值得关注的是,整个训练过程仅需 4GB 显存,大幅降低了硬件门槛。开发者无需依赖高端 GPU 集群,即可在本地环境中完成模型微调,这对于资源有限的个人开发者或中小团队而言具有实际意义。

目前,相关教程与代码已在 Unsloth 的开源仓库中公开,具体微调流程与实现细节可参考官方发布内容。该方案为决策类任务的模型适配提供了一种轻量化思路,后续在更多模型与场景中的表现值得持续观察。

UnslothQwen3.5模型微调决策模型
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
23
模型产品档案
60
企业落地案例
13
完整版提示词