Younis AI LabAI 应用开发、RAG、Agent 与工程化实践笔记
首页文章时间线项目证据关于简历账户

Tag

本地部署

共 2 篇文章。

模型原理与推理

Qwen3 的混合思考与 MoE:开放权重之后如何做任务路由

Qwen3 首发的工程价值不只是开放八组权重,而是把 thinking 与 non-thinking 放入同一系列,并提供从 0.6B dense 到 235B MoE 的部署梯度;生产收益取决于任务路由、完整 TCO 和回归评测。

发布 2025/05/02更新 2025/05/23
  • Qwen3
  • 混合推理
  • MoE
  • 开放权重
  • 本地部署

模型部署与推理

Llama 3 开放权重之后:本地部署的价值要用完整系统成本证明

Llama 3 首发开放 8B 与 70B 权重,为私有部署提供了现实候选;但开放权重不等于 OSI 开源,128K 是词表大小而非上下文,商业决策还必须计入基础设施与运维。

发布 2024/04/20更新 2024/04/27
  • Llama 3
  • 开放权重
  • 本地部署
  • 模型评测
  • 许可证
© 2026 Younis Zhang
项目复用清单LLMs