10月2日消息,今天,OpenAI发布了实时 API 公开测试版,用于构建基于GPT-4o语音到语音的AI应用和智能体,所有付费的开发者都能在应用程序中构建低延迟、多模态的实时互动体验。

同时,OpenAI 还公布了3家语音API合作者:LiveKit、Agora、Twilio。其中,Agora的兄弟公司是声网,两家公司在2023年5月拆分。声网聚焦在中国市场,总部位于中国上海。Agora聚焦在美国和国际市场,总部位于美国加州圣克拉拉。

image

Agora官网显示,Agora发布了面向OpenAI 的会话式AI SDK,SDK集成了OpenAl的新实时API,支持与人工智能进行自然的语音交互,其中语音被直接处理,而不是转换为文本。这种超低延迟的方法允许逼真的对话,并使人工智能能够理解人类的情感。

image

可以预见,实时API的发布,标志着 OpenAI 在 AI 应用领域迈出了重要一步。相比于之前的多模型串联方式,实时API能进一步降低语音交互的延时,能够实现更接近真人的情感和情绪表达,提供更自然的对话体验。