Inworld 推出面向消费级 AI 的推理服务 Inworld Inference
Inworld 发布 Inworld Inference,称其为首个面向消费级 AI 设计的推理服务,现已向所有开发者开放。官方称在 Gemma 4 26B 上首 token 比 OpenRouter 中位提供商快至多 7.8 倍(p95 0.31s 对 2.42s),同一硬件承载的请求量为 9 月的 1.8 倍;GLM 5.3 Flash 在 30 天内超 2000 万次请求中 98 次失败。服务提供 Flex、Default、Priority、Fast 四档,支持自动故障转移与自带模型专用部署。
推荐理由:官方给出面向消费级 AI 的推理服务设计取舍与多项实测数据,可对照自身延迟与成本预算判断是否迁移。