MotionShop

关注
义项:AI视频处理工具

MotionShop 是阿里巴巴通义实验室研发的视频编辑工具,能够识别视频中的人物并将其替换为 3D 角色形象,画面里的其他人物与场景维持原样,替换后的 3D 角色会复现原人物的动作。[1][2] 该工具于 2024 年 1 月在魔搭社区开放试玩,2024 年 8 月以「角色扮演」功能上线通义 App 供用户免费使用,2024 年 10 月又推出升级版本 Motionshop-2。[3][4][5]

百科 图文
目录
  1. 定义
  2. 原理
  3. 发展历程
  4. 应用
  5. 局限
  6. 参见

定义

MotionShop 是阿里巴巴通义实验室研发的视频处理工具,用途是把视频里的人物换成 3D 角色,画面中的其他人物与场景维持原样,替换进去的 3D 角色会复现原人物的动作。[1][2]

在阿里云百炼平台上,该工具以「幻影人像Motionshop」的名称提供调用,由 3 个相互配合的模型组成:视频检测模型判断输入素材是否达到要求,3D 角色生成模型可以依据人物图片产出 3D 角色形象,视频合成模型则把片中人物替换成指定 3D 角色并生成新视频。[6][7]

原理

MotionShop 的框架由两条并行运行的管线构成:一条是视频处理管线,负责把人物从画面中分离出来并修补出不带人物的背景序列;另一条是姿态估计与渲染管线,负责生成 3D 角色的视频序列。两条管线在并行推进的同时借助高性能光线追踪渲染器 TIDE,项目主页称整个处理过程可在数分钟内结束。

处理过程包含多个环节。首先通过目标检测找出待替换的人物,其中结合文本信息的零样本检测方法负责提出候选目标,再由优势选择确定最终人物区域;随后用由分割一切模型(SAM)初始化并细化的视频对象分割方法逐像素跟踪该人物;被挖掉的画面区域交由 ProPainter 修补,以还原干净的背景。

动作复刻方面,系统使用 CVFFS 方法估计稳定的人体姿态,并以 SMPL 人体模型表示三维人体;估计得到的体型与姿态会被重新映射到选定的 3D 模型上,同时进行光照估计,使新角色的光线条件与原画面相协调。

渲染由路径追踪引擎 TIDE 完成,配合材质系统以及运动模糊、时域抗锯齿、时域去噪等算法,最后将渲染结果与原视频合成,输出替换人物后的新视频。[2]

主要流程可概括为:


flowchart LR

A[输入视频] --> B[角色检测]

B --> C[分割与追踪]

C --> D[背景修补]

C --> E[姿态估计]

E --> F[动作重定向]

D --> G[渲染与合成]

F --> G

G --> H[输出视频]

发展历程

2024 年 1 月,通义实验室发布 MotionShop,同期在魔搭社区开放体验,用户上传不超过 15 秒的人物视频即可试玩。[1][3]

2024 年 8 月 6 日,通义 App 上线「角色扮演」功能,该功能以 MotionShop 模型为基础,面向所有用户免费开放,首批提供机器人、孙悟空、二次元女孩、国风女孩 4 个角色模板,并计划在同年 9 月开放自定义角色。[4][8]

2024 年 10 月 21 日,升级版本 Motionshop-2 发布。项目主页介绍称,新版在 3 个核心模块上作了改进:视频修补模块的处理速度提升,人体姿态估计的准确度提高,整体渲染质量也更好;同时新增混合渲染能力,可以在同一场景中同时渲染 3D 高斯模型与人工设计的传统网格模型。[5][3]

与 Motionshop-2 配套的 AniGS 系统可由单张图片生成可驱动的 3D 高斯角色形象,生成结果可直接用于 Motionshop-2;项目方表示相关代码计划在 2025 年 3 月前发布。[5][9]

应用

MotionShop 用于视频编辑与动画制作。用户上传一段含有人物的视频,工具自动检测并选定要替换的人物,再从角色库中挑一个 3D 形象生成新视频。[10]

在通义 App 的「角色扮演」功能中,普通用户可据此制作创意视频,例如机器人打网球、二次元女孩揉面等。[4]

阿里云百炼面向开发者提供该系列模型的接口:motionshop-gen3d 依据人物图片生成符合合成要求的 3D 角色形象,产出的 3D 角色文件再交给 motionshop-synthesis 用于替换视频中的人物。[6][7]

媒体报道提到,该工具有望向影视动画制作、创意短视频以及电商直播等场景延伸。[4]

局限

早期体验版对输入素材限制较多:视频时长不得超过 15 秒,要求一镜到底并保持人物完整清晰,剪辑过或切换镜头的素材无法处理。[1][2]

试用阶段可选的虚拟形象数量很少,要替换的人物由算法自动选择,用户不能手动指定;生成任务需要排队,提示等待时间约 10 分钟,试用人数多时排队更久。[1][2]

通过阿里云百炼调用时,输入视频需为 mp4、avi 或 mov 格式,分辨率不高于 1280×720 像素,帧数不超过 1800 帧,文件不超过 200MB,并且只能以 HTTP 链接方式上传;该系列模型处于邀测阶段,须申请通过后使用。[11][6]

同一段视频中需要替换的人物数量增加时,处理耗时也会明显上升。[11]

参见

  • 通义 —— MotionShop 由其通义实验室研发,并以「角色扮演」功能在通义 App 上线。

  • 阿里云 —— 该工具的系列模型在阿里云百炼平台上提供调用。

  • 魔搭社区 —— MotionShop 早期开放试玩的平台。

  • 3D高斯泼溅 —— Motionshop-2 新增混合渲染所支持的表现形式之一。

  • 人体姿态估计 —— 该工具复现人物动作所依赖的关键技术环节。

  • 视频对象分割 —— 用于逐像素跟踪待替换人物的技术方法。

参考资料

  1. 阿里推新项目MotionShop 可将视频中的角色替换为3D . chinaz.com [引用日期2026-09-29]
  2. 阿里推出MotionShop视频编辑工具:可替换3D人物形象 . zol.com.cn [引用日期2026-09-29]
  3. github.com 上的网页 . github.com [引用日期2026-09-29]
  4. 通义App打造视频生成产品矩阵 将于9月份开放自定义角色 . chinanews.com [引用日期2026-09-29]
  5. Motionshop-2 . github.io [引用日期2026-09-29]
  6. 幻影人像Motionshop 快速开始 . aliyun.com [引用日期2026-09-29]
  7. Motionshop3D角色生成API详情 . aliyun.com [引用日期2026-09-29]
  8. 通义App推出角色扮演功能 . jiemian.com [引用日期2026-09-29]
  9. github.com 上的网页 . github.com [引用日期2026-09-29]
  10. MotionShop:阿里巴巴开源的 3D角色视频替换框架 | 新媒派 . pidoutv.com [引用日期2026-09-29]
  11. Motionshop视频合成API详情 . aliyun.com [引用日期2026-09-29]
词条评价
词条统计

浏览次数:0 次

阅读量:0 次 · 阅读完成量:0 次

最近更新:2026-09-29T08:57:31Z

历史版本

完成率 = 阅读完成量 ÷ 阅读量,分母是阅读量不是浏览次数 —— 关了 JS 的、秒退的都在浏览次数里、不在阅读量里。 详细口径在后台的「数据统计」页。

本条目引用的词条
通义实验室 阿里云 目标检测 视频对象分割 路径追踪 魔搭社区 通义 通义 阿里云 魔搭社区 3D高斯泼溅 人体姿态估计 视频对象分割
红色的还不存在。红链不是错误——它标出"这个概念被引用了但还没人写"。