亚马逊宣布,SageMaker AI 实时推理端点新增对 OpenAI API 的兼容支持,开放 /openai/v1 路径,可处理聊天补全及流式输出请求。开发者仅需修改端点 URL,即可通过 OpenAI SDK、LangChain 等工具调用 SageMaker 上的模型,无需额外代码改造或签名封装。该功能支持在单一端点托管多个模型,包括 Llama、微调 Mistral 等,并统一通过 OpenAI 接口访问。推理运行于用户自有 GPU 实例,同时提供 Bearer Token 认证机制,配合 SageMaker SDK 简化安全访问流程。该更新旨在提升模型接入效率与部署灵活性。