zhatrix/logistics-qwen3-lora

物流通 · Logistics LoRA for Qwen3-14B

物流行业智能助手的 LoRA 适配器（PEFT 格式，v2.4）。配合知识库检索与业务工具使用，覆盖客服问答、单据/地址抽取、路径调度、行业知识四类场景。

• 基座：Qwen/Qwen3-14B（混合推理模型；业务场景建议 enable_thinking=False）
• LoRA：r=8，alpha=160，作用于后 16 层的 q/k/v/o/gate/up/down
• 训练：mlx_lm LoRA 950 步（≈1 epoch，1873 条样本），Val loss 0.080（验证集与训练集按用户问题分组切分、零泄漏）
• 数据：教师问答人工精编 166 条；320 条规则生成的数值套档样本（里程分档/计费区域/酒精度/零担门槛/保价/超重，答案为"逐档比较 → 加粗结论"）；地址样本用真实省市区（含 +86/空格/连字符电话写法）；含工具失败/边界轨迹、运费+时效组合调用、多轮追问、指定寄出日期、异常状态询问、电话脱敏、系统缺失字段等样本
• 评测：55 例正式集 0.982（与 v2.2 持平）；89 例分布外压力集 v2.2 0.790 → 本适配器 0.955（客服 1.0 / 抽取 1.0 / 调度 1.0 / 知识 0.92），修复了里程套错档、75% 酒精说可寄、不传寄出日期、"有没有异常"误建工单、明文泄露手机号、编造司机信息等问题

上一代（Qwen2.5-7B 基座，0.880）：logistics-qwen-lora。

使用

from transformers import AutoModelForCausalLM, AutoTokenizer
from peft import PeftModel

base = "Qwen/Qwen3-14B"
tok = AutoTokenizer.from_pretrained(base)
model = AutoModelForCausalLM.from_pretrained(base, dtype="auto", device_map="auto")
model = PeftModel.from_pretrained(model, "<本仓库ID>")
# 生成时模板传 enable_thinking=False，工具调用为 Qwen hermes JSON 格式

完整应用（检索、10 个业务工具、Gradio/FastAPI）：https://github.com/zhatrix/logicLLM

局限

演示用途；运单/网点数据为模拟数据。关闭思考模式下比大小仍偶有错误（会把比较过程写出来，但如 "1550 ≤ 1500" 这类误判仍可能出现）。