OpenAI 向所有客户开放 Decisions API，延迟降至百毫秒级

OpenAI于10月22日向所有客户开放快速决策服务Decisions API。该产品于9月29日开发者日公布，通过重新配置ChatGPT Luna模型降低推理延迟和使用成本，并非单独训练的决策模型。OpenAI称，API处理时间可从1至3秒缩短至100至180毫秒；公开版本新增语音和视觉模态，并按地区调度推理资源。Box、Datadog、Ramp和Speak等客户的初步测试显示，该服务提升了处理吞吐量；语言学习应用Speak的操作间隔由1.4秒缩短至0.13秒。OpenAI也将其用于提升Dots语音助手响应速度。