一位做工业配件分销的负责人最近问了同一个问题三次:我们到底要不要微调一个大模型?他的团队已经试过通用模型,回答产品选型时经常张冠李戴;也试过把产品手册整本喂进去,结果模型学会了说话,却没学会他们公司的报价逻辑和型号规则。这不是模型不行,而是业务本身还没有被结构化地讲清楚。
微调不是第一步
很多团队把微调理解为“把资料倒进去”。但模型学到的不是你的业务,而是你资料里的噪声。产品型号、客户等级、售后条款、区域价格策略,这些在文档里往往是散落的、口径不一的。直接微调,等于让模型去猜你们内部的潜规则。
更常见的误区是把知识图谱当成大企业的奢侈品。实际上,中小企业业务链条短、决策人少,反而是梳理实体关系成本最低的阶段。你不需要一张覆盖全行业的大图,只需要把“客户—产品—型号—价格规则—服务承诺”这几类核心关系画清楚,微调就有了骨架。
知识图谱先解决口径问题
知识图谱的价值不在于炫技,而在于强迫业务方对齐口径。同一个“标准件”,销售叫法、仓库编码、客服话术可能完全不同。把这些实体和别名整理成一张表,再标注它们之间的关系,你会发现很多“模型答错”的问题,其实是人也没说清楚。
这一步的产出物不需要很重。一份实体清单、一份关系清单、一份同义词对照,就足以支撑第一轮微调语料的构建。关键是让业务负责人参与确认,而不是交给技术团队闭门造车。
用图谱生成高质量语料
有了图谱,微调语料的生成会变得可控。你可以围绕每个实体和关系,构造问答对:这个型号适配哪些设备、这个客户等级对应什么账期、这类故障在什么条件下触发保修。语料不再是文档切片,而是带有明确业务意图的训练样本。
常见做法是先做几百条高质量样本,覆盖高频问题和易错场景,再逐步扩展。数量不是第一位的,一致性才是。每条样本都要能追溯到图谱中的某个实体或关系,这样模型出错时你才知道是数据问题还是推理问题。
小步评测,别一次押注
微调最怕的是“感觉变好了”。建议在开始前就定三到五个评测问题,比如报价口径、选型推荐、售后边界。每轮微调后固定用同一组问题测试,记录答案是否可追溯、是否符合业务规则。这比看loss曲线有用得多。
如果条件允许,把评测交给一线业务人员做盲评。他们不关心技术细节,但一眼能看出答案是否“像我们公司说的话”。这种反馈比任何指标都直接。
场景落地:从选型到售后
在工业品分销场景里,图谱驱动的微调可以先落在选型推荐上。模型不再泛泛而谈,而是基于型号关系和适配规则给出候选,并说明依据。客服场景则可以先落在售后边界判断上,减少“什么都敢承诺”的风险。
另一个常见场景是内部知识助手。新员工问“这个客户为什么走这个价”,模型能沿着客户等级、合同类型、区域策略给出解释路径,而不是编一个看起来合理的答案。这对中小企业的人员流动尤其有价值。
本周可以启动的两个动作
第一个动作:拉一次两小时的对齐会,列出你们最常被问到的二十个业务问题,并标出每个问题依赖哪些实体和规则。这份清单就是微调的需求文档,也是知识图谱的第一版草图。
第二个动作:选一个高频、低风险的场景做小样本试点,比如产品选型问答或售后条款解释。用几百条人工确认过的语料跑一轮,固定评测问题,观察答案的可追溯性。跑通再扩展,比一开始就追求大而全更现实。
行业知识图谱驱动的模型微调,本质上不是技术工程,而是业务表达工程。把业务讲清楚,模型才有机会学对。对于资源有限的中小企业,这可能是投入产出比最高的一条路径。