MotionShop 是阿里巴巴通义实验室研发的视频编辑工具,能够识别视频中的人物并将其替换为 3D 角色形象,画面里的其他人物与场景维持原样,替换后的 3D 角色会复现原人物的动作。[1][2] 该工具于 2024 年 1 月在魔搭社区开放试玩,2024 年 8 月以「角色扮演」功能上线通义 App 供用户免费使用,2024 年 10 月又推出升级版本 Motionshop-2。[3][4][5]
定义
MotionShop 是阿里巴巴通义实验室研发的视频处理工具,用途是把视频里的人物换成 3D 角色,画面中的其他人物与场景维持原样,替换进去的 3D 角色会复现原人物的动作。[1][2]
在阿里云百炼平台上,该工具以「幻影人像Motionshop」的名称提供调用,由 3 个相互配合的模型组成:视频检测模型判断输入素材是否达到要求,3D 角色生成模型可以依据人物图片产出 3D 角色形象,视频合成模型则把片中人物替换成指定 3D 角色并生成新视频。[6][7]
原理
MotionShop 的框架由两条并行运行的管线构成:一条是视频处理管线,负责把人物从画面中分离出来并修补出不带人物的背景序列;另一条是姿态估计与渲染管线,负责生成 3D 角色的视频序列。两条管线在并行推进的同时借助高性能光线追踪渲染器 TIDE,项目主页称整个处理过程可在数分钟内结束。
处理过程包含多个环节。首先通过目标检测找出待替换的人物,其中结合文本信息的零样本检测方法负责提出候选目标,再由优势选择确定最终人物区域;随后用由分割一切模型(SAM)初始化并细化的视频对象分割方法逐像素跟踪该人物;被挖掉的画面区域交由 ProPainter 修补,以还原干净的背景。
动作复刻方面,系统使用 CVFFS 方法估计稳定的人体姿态,并以 SMPL 人体模型表示三维人体;估计得到的体型与姿态会被重新映射到选定的 3D 模型上,同时进行光照估计,使新角色的光线条件与原画面相协调。
渲染由路径追踪引擎 TIDE 完成,配合材质系统以及运动模糊、时域抗锯齿、时域去噪等算法,最后将渲染结果与原视频合成,输出替换人物后的新视频。[2]
主要流程可概括为:
flowchart LR
A[输入视频] --> B[角色检测]
B --> C[分割与追踪]
C --> D[背景修补]
C --> E[姿态估计]
E --> F[动作重定向]
D --> G[渲染与合成]
F --> G
G --> H[输出视频]
发展历程
2024 年 1 月,通义实验室发布 MotionShop,同期在魔搭社区开放体验,用户上传不超过 15 秒的人物视频即可试玩。[1][3]
2024 年 8 月 6 日,通义 App 上线「角色扮演」功能,该功能以 MotionShop 模型为基础,面向所有用户免费开放,首批提供机器人、孙悟空、二次元女孩、国风女孩 4 个角色模板,并计划在同年 9 月开放自定义角色。[4][8]
2024 年 10 月 21 日,升级版本 Motionshop-2 发布。项目主页介绍称,新版在 3 个核心模块上作了改进:视频修补模块的处理速度提升,人体姿态估计的准确度提高,整体渲染质量也更好;同时新增混合渲染能力,可以在同一场景中同时渲染 3D 高斯模型与人工设计的传统网格模型。[5][3]
与 Motionshop-2 配套的 AniGS 系统可由单张图片生成可驱动的 3D 高斯角色形象,生成结果可直接用于 Motionshop-2;项目方表示相关代码计划在 2025 年 3 月前发布。[5][9]
应用
MotionShop 用于视频编辑与动画制作。用户上传一段含有人物的视频,工具自动检测并选定要替换的人物,再从角色库中挑一个 3D 形象生成新视频。[10]
在通义 App 的「角色扮演」功能中,普通用户可据此制作创意视频,例如机器人打网球、二次元女孩揉面等。[4]
阿里云百炼面向开发者提供该系列模型的接口:motionshop-gen3d 依据人物图片生成符合合成要求的 3D 角色形象,产出的 3D 角色文件再交给 motionshop-synthesis 用于替换视频中的人物。[6][7]
媒体报道提到,该工具有望向影视动画制作、创意短视频以及电商直播等场景延伸。[4]
局限
早期体验版对输入素材限制较多:视频时长不得超过 15 秒,要求一镜到底并保持人物完整清晰,剪辑过或切换镜头的素材无法处理。[1][2]
试用阶段可选的虚拟形象数量很少,要替换的人物由算法自动选择,用户不能手动指定;生成任务需要排队,提示等待时间约 10 分钟,试用人数多时排队更久。[1][2]
通过阿里云百炼调用时,输入视频需为 mp4、avi 或 mov 格式,分辨率不高于 1280×720 像素,帧数不超过 1800 帧,文件不超过 200MB,并且只能以 HTTP 链接方式上传;该系列模型处于邀测阶段,须申请通过后使用。[11][6]
同一段视频中需要替换的人物数量增加时,处理耗时也会明显上升。[11]
参见
参考资料
- 阿里推新项目MotionShop 可将视频中的角色替换为3D . chinaz.com [引用日期2026-09-29]
- 阿里推出MotionShop视频编辑工具:可替换3D人物形象 . zol.com.cn [引用日期2026-09-29]
- github.com 上的网页 . github.com [引用日期2026-09-29]
- 通义App打造视频生成产品矩阵 将于9月份开放自定义角色 . chinanews.com [引用日期2026-09-29]
- Motionshop-2 . github.io [引用日期2026-09-29]
- 幻影人像Motionshop 快速开始 . aliyun.com [引用日期2026-09-29]
- Motionshop3D角色生成API详情 . aliyun.com [引用日期2026-09-29]
- 通义App推出角色扮演功能 . jiemian.com [引用日期2026-09-29]
- github.com 上的网页 . github.com [引用日期2026-09-29]
- MotionShop:阿里巴巴开源的 3D角色视频替换框架 | 新媒派 . pidoutv.com [引用日期2026-09-29]
- Motionshop视频合成API详情 . aliyun.com [引用日期2026-09-29]
浏览次数:0 次
阅读量:0 次 · 阅读完成量:0 次
最近更新:2026-09-29T08:57:31Z
完成率 = 阅读完成量 ÷ 阅读量,分母是阅读量不是浏览次数 —— 关了 JS 的、秒退的都在浏览次数里、不在阅读量里。 详细口径在后台的「数据统计」页。