InternVL

关注
义项:多模态大模型系列
InternVL

InternVL是上海人工智能实验室联合高校研发的开源多模态大模型系列,中文名为书生·万象,由 OpenGVLab 团队维护。该系列采用视觉编码器-投影层-大语言模型的三段式架构,最初把视觉编码器扩展到 60 亿参数,以缩小开源模型与闭源商业模型在多模态理解上的差距。截至 2025 年,该系列已迭代至 3.5 版本,参数覆盖 10 亿至 2410 亿,全系列下载量超过 2300 万次。[1][2]

百科 图文
目录
  1. 定义
  2. 原理
  3. 发展历程
  4. 应用
  5. 局限
  6. 参见

定义

InternVL 是由上海人工智能实验室主导研发的开源多模态大模型系列,中文称为书生·万象,以 OpenGVLab 的名义对外发布代码与模型权重。[1][2] 它属于视觉语言模型,能够同时接收图像、视频与文本输入并输出文字,核心思路是让视觉部分的参数规模与大语言模型相匹配。 整个系列从 1.0 版本起步,先后推出 1.5、2.0、2.5、3.0 与 3.5 等代际,构成了一个持续迭代的模型家族。[3] 该系列的初衷是弥补开源多模态模型与 GPT-4o 等闭源模型之间的性能差距。[4]

原理

InternVL 系列沿用视觉编码器、投影层、大语言模型的三段式结构,通常记作 ViT-MLP-LLM 范式。[4] 图像先被切分成若干 448×448 像素的图块,经视觉编码器 InternViT 提取特征,再由一个随机初始化的两层多层感知机把视觉标记映射到大语言模型的词嵌入空间。[4] 为控制计算量,模型采用像素重排操作,把每个图块的一千余个视觉标记压缩至 256 个。[4]

视觉编码器有两个规模版本,较大的 InternViT-6B 约 60 亿参数,较小的 InternViT-300M 由前者蒸馏得到。[5] 图像按预定义宽高比拆分为多个图块并附加一张缩略图以保留全局信息,这一动态高分辨率策略可处理单图、多图与视频三类输入。[5] InternVL3 引入可变视觉位置编码,对视觉标记使用小于 1 的位置增量,在不扩展位置编码长度的前提下处理更长的多模态序列。[6] InternVL3.5 提出视觉分辨率路由器,按图块的语义丰富程度自适应选择压缩倍率,可将视觉标记数量减少约一半而性能基本保持。[7]

发展历程

2023 年 12 月,InternVL 的首篇论文公开,提出把视觉编码器扩展至 60 亿参数并与语言模型渐进对齐,该工作后被 CVPR 2024 接收为口头报告。[3] 2024 年 7 月 4 日,上海人工智能实验室在世界人工智能大会上发布并开源 InternVL 2.0,支持图像、视频、文字、三维点云等模态,采用渐进式对齐训练策略。[8] 2024 年 12 月 5 日,InternVL 2.5 发布,参数覆盖 10 亿至 780 亿,其 780 亿版本成为首个在 MMMU 基准上突破 70% 的开源多模态模型。[3][9]

2025 年 4 月 16 日,InternVL3 升级发布,改用原生多模态预训练方法,把语言与多模态学习整合到同一预训练阶段,其 780 亿版本在 MMMU 上取得 72.2 分。[1][10] 2025 年 8 月 26 日,InternVL3.5 发布,共开源 9 种尺寸,参数涵盖 10 亿至 2410 亿,旗舰版本 InternVL3.5-241B-A28B 在 MMMU 上获 77.7 分。[7][1] 至此 InternVL 全系列的网络下载量已突破 2300 万次。[1]

应用

InternVL 可用于图像分类、语义分割、图文检索与图像描述等通用视觉语言任务,也可作为多模态对话系统的底座。 在文档理解与图表分析方面,该系列被用于识别图像中的文字与结构化信息。[10] InternVL3 起扩展了图形用户界面智能体能力,可遵循指令操作电脑或手机上的软件。[11] InternVL3.5 进一步具备具身空间感知能力,可理解物理空间关系并规划导航路径,配合抓取算法支持机器人完成物体抓取。[1] 该系列还可用于网页图形生成与工程图纸解析,并能协助分子结构解析、材料性能预测等科研推导。[1]

局限

InternVL 的核心版本训练成本较高,把视觉编码器扩展至 60 亿参数需要大量算力与数据,普通研究团队难以从零复现。 大视觉编码器与大语言模型组合带来更高的推理开销,部署成本高于视觉部分较小的方案。 模型表现对训练数据质量较为敏感,数据中的重复模式会导致思维链推理时陷入循环,需要精细的清洗流程加以控制。[4] 通用骨干在医学影像、遥感等专业性较强的任务上未必最优,通常仍需针对领域数据微调。[12] 开源模型与闭源商业模型之间仍存在性能差距,这一差距随着闭源模型的更新而动态变化。[4]

参见

  • 视觉语言模型 —— InternVL 所属的模型类别,同时处理图像与文本输入。

  • 视觉Transformer —— InternVL 的视觉编码器 InternViT 所采用的基础架构。

  • 大语言模型 —— InternVL 三段式架构中负责生成文字输出的组成部分。

  • 思维链 —— InternVL 2.5 起用于提升多模态推理表现的测试时策略。

  • 上海人工智能实验室 —— InternVL 系列的主要研发与开源机构。

  • MMMU —— 衡量多模态模型多学科推理能力的基准,该系列多次在其上刷新开源纪录。

词条评价
词条统计

浏览次数:1 次

阅读量:0 次 · 阅读完成量:0 次

最近更新:2026-10-13T21:21:02Z

历史版本

本条目引用的词条
上海人工智能实验室 视觉编码器 世界人工智能大会 视觉语言模型 视觉Transformer 大语言模型 思维链 MMMU