阿里云推出大规模视觉语言模型Qwen-VL：具备多模态信息理解能力

打开凤凰新闻，查看更多高清图片

作者 | 李水青

编辑 | 云鹏

智东西8月25日消息，今日，阿里云推出大规模视觉语言模型Qwen-VL，一步到位、直接开源。

据报道，Qwen-VL是由通义千问70亿参数模型Qwen-7B为基础开发的，这款语言模型能够处理图文输入，并拥有强大的多模态信息理解能力。在主流的多模态任务评测和多模态聊天能力评测中，Qwen-VL的表现优于同规模的通用模型，展示了其卓越的性能。

Qwen-VL是一款具备多语言支持的视觉语言(Vision Language, VL)模型。相较于先前的VL模型,Qwen-VL不仅拥有基本的图文识别、描述、问答以及对话功能,还增加了视觉定位和图像中文字理解等高级能力。

一、上线ModelScope魔搭社区，免费可商用

多模态是通用人工智能的重要技术演进方向之一。

在业内，人们普遍认为，语言模型的演进过程从仅支持单一感官的文本输入，发展到具备多种信息输入功能，实现“五官全开”的多模态模型，这背后隐藏着巨大的智能提升可能性。多模态模型的出现，使得大模型能够更深入地理解世界，同时也能充分扩展其应用场景，展现出更广泛的可能性。

作为人类感知的首要方式，视觉能力自始至终都是研究者们赋予大型模型的重要任务之一。在成功推出M6、OFA系列多模态模型的基础上，阿里云通义千问团队再次推出基于Qwen-7B的大规模视觉语言模型（Large Vision Language Model, LVLM）Qwen-VL。如今，Qwen-VL及其相应的视觉AI助手Qwen-VL-Chat已在ModelScope魔搭社区正式上线，向公众提供开源、免费且可商用的服务。

作为一款人工智能助手，我很高兴为您提供以下信息。首先，用户可以轻松地在魔搭社区内下载我们提供的各类模型，这为他们提供了极大的便利。其次，通过阿里云灵积平台，用户还可以访问并调用我们的Qwen-VL以及Qwen-VL-Chat服务。值得一提的是，阿里云不仅提供了这些服务的访问权限，还为用户提供了包括模型训练、推理、部署以及精调等一系列 comprehensive support，从而确保了用户能够获得最优质的服务体验。

二、看图说话，能“认出”图中的东方明珠

Qwen-VL可用于知识问答、图像标题生成、图像问答、文档问答、细粒度视觉定位等场景。

在实际应用中，我们经常可以看到一些特殊场景下的需求，比如外国游客在我国医院就医时可能会遇到语言障碍，不知道如何前往对应的科室。在这种情况下，我们可以利用现代科技手段来解决这些问题。例如，通过拍照询问楼层导览图上的具体位置，如“骨科在哪层”或“耳鼻喉科去哪层”。这时，人工智能助手Qwen-VL就会发挥其图像识别和自然语言处理的能力，根据所提供的图片信息给予详细的文字回复，从而帮助用户快速找到所需的治疗科室。这就是图像问答在现实场景中的一个典型应用案例，充分展示了人工智能技术的强大功能。

再比如，输入一张上海外滩的照片，让Qwen-VL找出东方明珠，Qwen-VL能用检测框准确圈出对应建筑，这是视觉定位能力。

Qwen-VL是业界首个支持中文开放域定位的通用模型，开放域视觉定位能力决定了大模型“视力”的精准度，也即，能否在画面中精准地找出想找的事物，这对于VL模型在机器人操控等真实应用场景的落地至关重要。

Qwen-VL以Qwen-7B为基座语言模型，在模型架构上引入视觉编码器，使得模型支持视觉信号输入，并通过设计训练过程，让模型具备对视觉信号的细粒度感知和理解能力。Qwen-VL支持的图像输入分辨率为448，此前开源的LVLM模型通常仅支持224分辨率。在Qwen-VL 的基础上，通义千问团队使用对齐机制，打造了基于LLM的视觉AI助手Qwen-VL-Chat，可让开发者快速搭建具备多模态能力的对话应用。

三、阿里云通义千问加快开源步伐

在四大类多模态任务（Zero-shot Caption/VQA/DocVQA/Grounding）的标准英文测评中，Qwen-VL取得了同等尺寸开源LVLM的最好效果。为了测试模型的多模态对话能力，通义千问团队构建了一套基于GPT-4打分机制的测试集“试金石”，对Qwen-VL-Chat及其他模型进行对比测试，Qwen-VL-Chat在中英文的对齐评测中均取得了开源LVLM最好结果。

8月初，阿里云开源通义千问70亿参数通用模型Qwen-7B和对话模型Qwen-7B-Chat，成为国内首个加入大模型开源行列的大型科技企业。通义千问开源模型刚一上线就广受关注，当周冲上Hugging Face趋势榜单，不到一个月在GitHub收获3400多星，模型累计下载量已突破40万。