OpenAI今日在官网发布Ultrafast模式预览,该模式通过Cerebras硬件支持,在OpenAI API率先上线,可让GPT-5.6 Sol运行速度达标准模式的14倍,峰值输出达每秒750 tokens。模式面向实时语音、支持、交易、代理开发、金融研究和安全响应等时延敏感场景,初期限选定企业客户测试,容量扩容后逐步开放。目标客户为企业用户,旨在将前沿模型直接嵌入高要求生产工作流。
信源:https://openai.com/index/previewing-ultrafast/
OpenAI今日在官网发布Ultrafast模式预览,该模式通过Cerebras硬件支持,在OpenAI API率先上线,可让GPT-5.6 Sol运行速度达标准模式的14倍,峰值输出达每秒750 tokens。模式面向实时语音、支持、交易、代理开发、金融研究和安全响应等时延敏感场景,初期限选定企业客户测试,容量扩容后逐步开放。目标客户为企业用户,旨在将前沿模型直接嵌入高要求生产工作流。
信源:https://openai.com/index/previewing-ultrafast/