AI 变革观察
从低延迟交互、推理预算到行动系统:2024-2026 AI 工程主线
2024-2026 的核心变化不是一种模型替代另一种,而是交互、推理、行动三条反馈回路叠加;系统指标也应从首字延迟升级为每个正确且经验证任务的总成本。
Tag
共 5 篇文章。
AI 变革观察
2024-2026 的核心变化不是一种模型替代另一种,而是交互、推理、行动三条反馈回路叠加;系统指标也应从首字延迟升级为每个正确且经验证任务的总成本。
AI 工程实践
GPT-5 首发同时包含 ChatGPT 中由快速模型、Thinking 与实时 router 组成的产品系统,以及 API 中显式可选的 gpt-5、mini、nano 和 gpt-5-chat-latest;生产系统不能把两者当成同一交付物,必须外置任务路由并把模型、reasoning、verbosity、工具语法、预算和验证器固化为升级合同。
AI 变革观察
Gemini 2.5 Pro Experimental 在首发日已经给出 thinking、原生多模态与 1M 上下文的强能力信号,但当时缺少 Vertex AI 可用性、正式价格和生产承诺;正确动作是建立预览评测,不是直接迁移关键链路。
模型原理与推理
正式 R1 不是纯 RL,Distill 不是 671B 的量化副本,首发 API 也不等于权重能力;生产选型必须分别核算训练路径、接口契约、许可和任务总成本。
模型原理与推理
o1-preview 把更长的模型内推理过程带入产品,但首发 API 仅向 Tier 5 开放、限 20 RPM,且缺少 function calling、streaming 与 system message;正确工程动作是按难度路由并用外部验证器衡量收益。