EARLY EXPLORATIONS / 2022—2023

BEYOND THE
INTERFACE

从数字形象,到能回应业务问题的交互界面。

正在准备人物交互…
探索数字人方案 ↓
01 / FROM TECHNOLOGY TO BUSINESS

让数字人,
从播放讲解到回应问题。

把生成式 AI 接进服务流程:以业务资料组织回答,用语音传达内容,再由实时数字人承接表达。每一项技术,都对应一个具体的使用问题。

2022–2023 早期应用项目回顾框架

Unreal Engine / MetaHumanGPT-3.5 TurboNeural TTSRAG / PostgreSQL + pgvector
THE USE CASE

先有需要被解决的问题。

以企业展厅接待与产品讲解为示例,定义数字人能做什么,以及什么时候应该交给人。

01 / 接待

让重复介绍随时可用

把产品概况、参观指引和常见问题整理成可维护内容,为访客提供一致的第一轮介绍。

内容组织 → 稳定表达
02 / 讲解

让固定脚本能够被追问

在预设讲解之外,根据当前问题补充解释,让访客按自己的兴趣了解产品和适用场景。

上下文管理 → 连贯问答
03 / 服务边界

让回答有依据,也有边界

对价格、承诺和资料之外的问题明确保留,引导人工确认,避免用流畅表达替代可靠信息。

范围约束 → 人工承接
02 / EXPERIENCE THE FLOW

一句提问,经过哪些环节?

选择一个问题,回放从输入到角色播报的方案链路,观察文本、语音与展示如何衔接。

SCENARIO PLAYBACK展厅接待 / 中文

预设交互示意 · 无模型调用、无语音输出 · 非历史运行记录

RESPONSE / 示例回复
选择问题,查看链路
ORCHESTRATION04 STEPS
  1. 01
    输入与会话接收文字,保留必要上下文
  2. 02
    业务资料与回答RAG 检索、数据库查询与依据组织
  3. 03
    语音与同步生成语音,准备字幕与口型
  4. 04
    UE 角色表达协调音频播放与角色状态

超出范围的问题使用明确回复,再引导人工;动画步骤仅解释系统设计。

03 / SYSTEM DESIGN

技术架构

UE 客户端、Python 服务、模型与数据层。
按 2023 年下半年的技术能力组织。

SVG ↓
模块依赖:UE 子系统通过 HTTP 和 WebSocket 连接 Python 会话编排服务,再连接模型、TTS、检索服务、PostgreSQL、pgvector 与 Redis;Audio2Face 通过 Live Link 连接 UE 面部动画。

HTTP / WebSocket 传递会话与播放事件;Live Link 传递音频与面部权重。

● ● ● reference-project / 建议工程结构
metahuman/
├─ unreal/Source/DigitalHuman/
│  ├─ MetaHumanSubsystem.cpp
│  ├─ SpeechPlaybackComponent.cpp
│  └─ SessionWebSocketClient.cpp
├─ unreal/Content/MetaHumans/
│  └─ ABP_MetaHumanFace
├─ server/
│  ├─ api/chat.py
│  ├─ services/
│  │  ├─ conversation.py
│  │  ├─ retrieval.py
│  │  └─ speech.py
│  ├─ providers/openai_client.py
│  ├─ repositories/postgres.py
│  └─ workers/ingest.py
└─ config/
   ├─ prompts/assistant.txt
   └─ migrations/001_initial.sql
● ● ● interfaces / event contract
// request
POST /v1/messages
{ session_id, request_id, text }

// response event
response.ready {
  request_id,
  utterance_id,
  sequence,
  text,
  sources: [chunk_id],
  audio_url
}

// UE → server
playback.ack { utterance_id, status }
request.cancel { request_id }

// state machine
Idle → Thinking → Speaking → Idle
             ↘ Error / Cancelled
UE 5 / MetaHumanFastAPIGPT-3.5 TurboAda-002PostgreSQL / pgvectorRedisAzure TTSAudio2Face / Live Link

架构与目录为实现设计;本网页展示交互与流程,不运行 UE、模型服务或数据库。

04 / ENGINEERING JUDGMENT

落地,体现在这些取舍里。

以下为方案设计原则;个人负责范围与当年完成程度,需结合原项目经历进一步核实。

↗

先让一条链路可靠运行

文字输入作为基础入口。语音识别可后续接入,先验证回答是否有用、播报是否连贯。

↗

短回答,留出继续提问的空间

限制单次回复长度,按句组织播报,减少等待与长时间独白,保留自然追问的节奏。

↗

动态问答与固定讲解并存

核心介绍使用审核后的脚本,常见问答可缓存,开放问题再进入生成环节,兼顾稳定性与灵活性。

↗

等待、失败,也属于体验

用角色待机和状态提示承接生成等待。语音失败时显示文本,接口超时则返回明确反馈。

↗

业务内容可以单独维护

把产品资料与角色资源分开管理,更新讲解内容时减少重新制作角色和动画的工作。

↗

评估完整流程,而非单项效果

检查问题覆盖、回答依据、语音可懂度和音画同步。未保留实测记录的指标,不写成项目成绩。

VISUAL PRODUCTION2022 → 2023
业务简报
Brief
→
风格探索
Stable Diffusion
→
筛选与修改
Human review
参数与种子
+
ComfyUI 流程
→
可复用输出

结构示意,非原项目工作流截图。生成结果仍需人工选择、修整与用途审核。

05 / ADJACENT EXPLORATIONS

从“生成一张图”,
到可复用的生产流程。

Stable Diffusion 为提案视觉、场景概念和内容素材带来新的探索方式。ComfyUI 则让节点、参数和处理步骤更容易被记录与复用。

在这一页,它们服务于内容生产的补充叙事。数字人形象本身由 MetaHuman 承担,不将图像生成写成角色建模能力。

2022 / Stable Diffusion2023 / ComfyUI人工筛选与后期
06 / BUILT WITHIN ITS TIME

让每一项能力,回到它的年代。

时间线记录产品的公开可用时间,作为方案还原依据,不代替个人项目履历。

2022.08

视觉生成开放探索

Stable Diffusion 公开发布,为本地图像生成与视觉方案探索提供基础。

发布于 08.22 ↗
2022.11

对话交互的新入口

ChatGPT 研究预览上线,基于 GPT-3.5 系列。此时不能写成正式 Turbo API 集成。

发布于 11.30 ↗
2023.03

正式 API 连接业务

GPT-3.5 Turbo API 发布,可将对话生成纳入应用接口链路;ComfyUI 已于当年 1 月起步。

API 发布于 03.01 ↗
2023.07

音频与角色动画连接

Audio2Face 2023.1.1 加入 UE Live Link 工作流,为下半年方案提供口型驱动路线。

更新于 07.25 ↗
关于这份项目回顾
已确认的方向:UE MetaHuman 展示与 GPT-3.5 文字输出。当前页面补充了符合当年条件的解决方案;原始项目日期、业务场景、TTS 供应商、个人贡献及口型完成情况待确认。页面不包含未经核实的客户、收益数据或历史实录。宇航员沿用用户提供的 Lumora 模板素材。
查阅技术来源与还原边界