模型部署与推理
Qwen2 发布后的中文模型选型：上下文、许可证与语言质量要一起验收
以 2024 年 6 月 7 日至 9 日的公告与快照为边界，分析 Qwen2 多尺寸、长上下文和差异化许可证，并用中文合同助手建立可追溯部署合同。
时间与证据
本文复盘的是 Qwen 团队在 2024 年 6 月 7 日发布 Qwen2，同期判断截止 6 月 9 日。依据 Hello Qwen2 与 T+2 页面快照，首发覆盖多个 dense 与 MoE 尺寸，强调中文、多语言、代码、数学和长上下文能力。技术报告在 T+2 之后才发布，不能被用来证明 6 月 7 日至 9 日当时已知的细节。
同期公告中的长上下文表述需要带型号与配置理解。128K 能力宣称不等于系列内所有模型在默认配置下都原生启用 128K，也不等于任意硬件都能承载。模型卡、配置、位置编码扩展方式和推理引擎共同决定实际窗口。本文不把后来文档中的默认值倒灌回首发。
Qwen2 各尺寸的许可证并不完全相同。选择模型时必须绑定具体型号审查，不能写“Qwen2 是某一种统一许可证”然后覆盖全部权重。本文证据等级为 sourced：只核验公告与同期快照，没有运行历史权重，也没有复现官方 Benchmark。
当时发生了什么
Qwen2 扩展了从小尺寸到大尺寸、dense 到 MoE 的模型组合，为中文与多语言业务提供更多部署梯度。小模型可能适合端侧、分类或高并发任务，大模型可能承担复杂生成；MoE 则提供另一种容量与激活计算的权衡。型号多不是自动优势，它要求团队建立更严格的任务路由和制品管理。
公告强调了语言覆盖。中文模型评测不能只看英文通用榜单，也不能用几条成语对话代替业务验证。合同条款、地址、金额大写、日期歧义、中英混排和行业缩写都可能改变结果。所谓“中文好”必须被还原成具体任务指标。
长上下文是另一个容易被营销数字主导的领域。窗口上限只说明接受输入的可能范围，不说明位于长文中部的条款一定被召回，也不说明模型能正确比较互相冲突的版本。使用 RoPE 扩展或其他配置时，还需检查目标长度上的质量与延迟，而不是启动服务成功就算通过。
最后是许可证。开放权重带来部署和适配空间，但商业使用、再分发、衍生模型与特定规模的条件要逐项核验。法律边界是系统需求，不是发布前临时阅读 README 的手续。
任务判断
设定真实任务：一家跨境供应链公司要做中文采购合同助手，输入可能是 5 万字合同与附件，系统提取付款、交期、违约、管辖和中英条款冲突，并给出页码或段落引用。数据需在企业控制环境处理，结果由法务最终确认。
候选不应叫“Qwen2”，而应是具体的 型号 + 权重哈希 + tokenizer + 上下文配置 + 推理引擎 + 许可证记录。先选择一个资源可承受的中等模型和一个质量上限模型，再加入当前生产基线。每个候选都用相同 OCR 文本和页面映射，不允许某条路线获得额外人工清洗。
评测至少覆盖：关键字段抽取准确率；跨页和跨附件证据召回；中英冲突识别；无法判断时的拒答；引用定位；目标长度下 P95 延迟、峰值内存和每份通过法务抽检合同成本。测试集要包括扫描错误、表格、修订痕迹、重复条款和超出配置长度的文档。
长文策略可比较整份输入、按章节分层输入和检索增强三条路线。若直接长输入在关键条款上更准且成本可接受，就采用；若中部信息遗漏、长输入拖慢服务或硬件无法承载，则按文档结构切分并保留跨章节聚合。不能先假定“长上下文必然优于 RAG”。
许可证门禁与质量门禁同等重要。即使某个型号质量最好，只要使用方式不满足许可或组织无法证明权利链，就不能进入生产。反过来，许可证可用也不能替代质量评测。
可证伪边界是：在固定合同集、明确许可用途和完整运行环境中，若候选型号达到字段与引用门槛、总成本低于替代方案且法务抽检工作没有增加，则价值成立；否则“中文模型”标签不构成采购理由。
还应单独检查模型面对矛盾条款时是否会主动指出冲突。若它只是选择更像答案的一段而忽略另一版本，即使字段准确率看起来很高，也不能进入合同审阅主流程。冲突检出率与错误消解率应分开统计，前者可以由模型辅助，后者仍由法务作出决定。
工程影响
制品登记表应阻止“系列名代替模型合同”：
interface DeployableModelContract {
family: "Qwen2";
variant: string;
weightsHash: string;
tokenizerRevision: string;
runtimeImageDigest: string;
configuredContext: number;
validatedContext: number;
licenseRecordId: string;
evaluationRunId: string;
}
configuredContext 与 validatedContext 分开非常关键。配置文件允许 128K，不代表团队已经在 128K 合同上验证定位和推理；生产网关最多开放到验证长度。超过长度时返回明确错误或进入分层处理，不能静默截断。
文档链路包括 OCR 与版面解析、权限过滤、章节索引、模型推理、引用验证和法务复核。OCR 输出需保留页码和坐标；模型给出的引用必须能够反查原始页。多个合同版本要有明确 revision，避免模型把旧稿与签署版混合。
长上下文成本包含 prefill 时间和 KV 状态。可按文档长度分桶，短合同走低资源模型，长或冲突复杂合同进入更强模型；但路由规则必须经评测，而不是纯按字符数。MoE 型号还需观察运行时支持和专家通信。
许可证审查结果应成为 CI/CD 门禁：制品未绑定批准记录不得部署；模型或用途改变时重新审查。容器镜像中应携带许可证文本与 NOTICE，API 返回和产品文案不应宣称比许可证更宽的权利。本文不是法律意见，但工程系统应能证明审查发生过。
成本计算以法务可接受的结果为分母：
每份合格合同成本
= OCR 与存储
+ 模型推理和空闲容量
+ 引用验证
+ 重试与人工抽检
+ 许可证及安全治理
+ 错误条款的预期损失
仅比较 GPU 小时会忽略 OCR 和复核，而这两项可能决定最终收益。
商业价值
可能付费的客户是中文与多语言文档量大、对私有部署有要求的法务、采购、客服、制造和政企知识团队。Qwen2 的多尺寸让组织可以按任务和硬件选择，而不是只有单一大模型路线；中文能力若在真实语料上成立，可能减少人工初筛和重复查找。
收益条件是文档任务可定义、错误可被引用验证和人工兜底、调用规模能摊薄部署、许可证适配用途。高风险最终法律意见、数据量很小、OCR 质量极差或缺少法务复核的场景，不应承诺全自动。
长期资产是中文任务集、条款证据、OCR 纠错、型号评测和许可证台账。模型更新后仍能回归。预测窗口为 6 至 12 个月：若多尺寸路由降低合格合同成本且维护复杂度可控，商业价值成立；若每个型号都需要独立运维却没有足够流量，组合反而增加成本。
局限与风险
本文只有公告与同期快照，未使用 T+2 后技术报告解释首发事实。官方 Benchmark 不代表中文合同；上下文宣称也不证明中部信息召回。不同量化和推理引擎可能改变结果。
许可证会随型号和发布版本不同，本文不提供法律结论。私有部署仍可能通过日志、备份和依赖遥测泄露数据。模型引用看似精确也可能指向错误条款，必须程序化反查并人工批准。
本文没有运行 Qwen2 历史权重，文中所有指标和架构为待执行实验合同，不是结果。
面试表达
30 秒版本： Qwen2 的意义在于给中文和多语言任务提供多个开放权重尺寸，但我不会只说“支持 128K、可商用”。我会固定具体型号、配置、权重哈希和许可证，区分配置窗口与验证窗口，用中文合同的字段准确率、证据召回、P95 和每份法务可接受合同成本决定部署。
追问版本： 若问长上下文为什么还要切分，我会说明容量不等于长文定位，结构化章节可以降低干扰并保留页码。若问许可证为何属于工程，我会让制品必须绑定批准记录才能进入 CI/CD，型号或用途改变就重新审查。
复盘
Qwen2 让我看到“本土模型选型”不能停留在中文体验。真正的 AI 工程合同同时包含型号、任务、上下文、运行时、数据和权利边界。系列越丰富，越需要自动化登记与回归，而不是更随意地切换名称。
同期成立的是多个 dense/MoE 尺寸公开及官方能力声明；不能成立的是所有型号默认原生 128K、统一许可证或本站已经验证中文效果。后续报告只能用于另行复盘。
方法披露
本文使用 AI 工具协助整理公告、构造合同任务与绘制原创机制图；作者核对时间、来源和限定语。未使用后续技术报告倒填同期事实，未生成伪性能数字。
修订记录
2024-06-10：初版发布；固定 2024-06-07 至 2024-06-09 证据边界，明确上下文配置、真实验证和型号许可证必须分别记录。
Source ledger
来源账本
以下来源用于核对事实、日期与当时可用范围。厂商自报性能不视为本站独立复现。
讨论