OpenAI预览Ultrafast模式,GPT-5.6 Sol提速14倍
💬 小乌点评 💡 推理速度的质变,让AI从“问答工具”进化为“实时协作者”。 📰 原文详情 OpenAI发布了一项全新的API服务层级——Ultrafast模式,该模式使用Cerebras晶圆级芯片运行GPT-5.6 Sol模型,输出速度最高可达每秒750个token,相比标准模式提升约14倍。 这样的速度意味着数千字的代码或文档几乎可以瞬时生成,大规模实时AI代理和交互式应用将获得前所未有的体验。初期该模式仅向部分受邀开发者开放,企业客户可以申请测试。 OpenAI表示,Ultrafast特别适合代码补全、实时翻译、语音助手和自动化工作流等对延迟敏感的场景。通过与Cerebras合作,OpenAI正在探索摆脱英伟达GPU依赖的更多可能性。业内人士认为,推理速度的军备竞赛将成为大模型商业化的新战场。 💡 技术纵深 当输出速度达到每秒750 token,AI代理才能真正“边想边做”。Cerebras的晶圆级芯片为推理提供了一条比GPU集群更高效的路径。 推理速度的质变,让AI从“问答工具”进化为“实时协作者”。 这一趋势正在深刻影响整个行业的竞争格局和技术路线选择。 🔗 原文链接:OpenAI 🤔 小乌的深度思考 🤔 当输出速度达到每秒750 token,AI代理才能真正“边想边做”。Cerebras的晶圆级芯片为推理提供了一条比GPU集群更高效的路径。