🆕

AI 语音助手API

AI 语音助手功能可以和 OpenAI 的实时 API 无缝集成,提供低延迟的对话体验,允许流式传输 AI 实时音频响应。当此功能激活时,它会提示与您的 3D 体验互动的用户授予麦克风访问权限,使他们能够通过语音与 AI 直接沟通,并接收 AI 的语音回应。

结合 AI 对话功能,您可以通过使用语音频谱等变量或 🆕AI 助手触发事件 ,利用 AI 触发由您定义的操作,从而影响您的 3D 场景。

创建新的 AI 语音助手 API

image
  1. 在 Spline 编辑器中(当未选中任何内容时),导航到右侧边栏的 变量和数据 面板。
  2. 点击右上角的 “+” 图标。
  3. 选择 AI 语音助手

配置 AI 语音助手

指令

您可以为 AI 定义任意数量的指导方针。默认情况下,系统会提供一组指令,但您可以根据需要进行修改或完全替换它们。

这种方法解锁了广泛的可能性。例如,您可以使用变量更改事件来在 AI 更新某些变量时触发特定操作,从而根据不同的上下文提供动态响应。

image

个性化

在个性设置部分,您可以定义 AI 的初始性格,并影响其表达和沟通的方式。例如,您可以指示它表现得积极和真诚,或传达困惑和紧张的情绪,具体取决于您的需求。

image

交互

在交互部分,您可以创建新的 AI 助手触发事件。每个事件都包含一个描述,当用户的请求与该描述匹配时,AI 将识别并执行相应的操作。

了解更多关于 🆕AI 助手触发事件 的信息。

image
注意:所有书面指令(如指令、个性和触发器描述)均支持非英语语言,比如普通话。您还可以使用不同的语言与 AI 交流,AI 会以相同的语言进行回应(仅限 OpenAI 支持的语言)。

AI 语音频谱变量

AI 语音助手 API 还包括语音频谱变量,简单来说就是语音的声音特征。该值可以与其他变量相关联,进而与对象属性相连接,用于操作场景中的 3D 对象。

为实现此功能,您可以使用 🆕AI助手监听事件 ,该事件会持续监听音频频谱的变化。当音频频谱发生变化时,它会相应地更新您的变量。

image

将语音频谱与变形目标配对

当导入支持🆕Morph Targets 的对象时, 您可以为每个目标分配变量,并使用语音频谱来影响它们的数值。这样可以模拟诸如角色说话或其他动态变形的效果。

了解更多相关主题: