Younis AI LabAI 应用开发、RAG、Agent 与工程化实践笔记
首页文章时间线项目证据关于简历账户

Tag

Qwen3

共 2 篇文章。

模型部署与推理

本地模型不是下载成功就算部署:Qwen3 8B 的流式推理与任务正确性实测

14 次本地请求全部完成,TTFT P50 为 178.995 ms、输出吞吐 P50 为 14.98 token/s;含糊枚举提示连续失败,收紧字段契约后连续通过。

发布 2026/07/13更新 2026/07/13
  • Qwen3
  • Ollama
  • Inference
  • Benchmark
  • 可复现实验

模型原理与推理

Qwen3 的混合思考与 MoE:开放权重之后如何做任务路由

Qwen3 首发的工程价值不只是开放八组权重,而是把 thinking 与 non-thinking 放入同一系列,并提供从 0.6B dense 到 235B MoE 的部署梯度;生产收益取决于任务路由、完整 TCO 和回归评测。

发布 2025/05/02更新 2025/05/23
  • Qwen3
  • 混合推理
  • MoE
  • 开放权重
  • 本地部署
© 2026 Younis Zhang
项目复用清单LLMs