【人工智能】Transformers之Pipeline（二十八）：视觉问答（visual
发布时间：2025-06-24 16:47:00 作者：北方职教升学中心 阅读量：209
目录
一、引言
二、视觉问答（visual-question-answering）
2.1 概述
2.2 dandelin/ViLT
2.3 pipeline参数
2.3.1 pipeline对象实例化参数
2.3.2 pipeline对象使用参数
2.3.3 pipeline对象返回参数
2.4 pipeline实战
2.5 模型排名
三、总结
一、引言
pipeline（管道）是huggingface transformers库中一种极简方式使用大模型推理的抽象，将所有大模型分为音频（Audio）、计算机视觉（Computer vision）、自然语言处理（NLP）、多模态（Multimodal）等4大类，28小类任务（tasks）。共计覆盖32万个模型
今天介绍多模态的第六篇，也是本专栏的最后一篇：视觉问答（visual-question-answering），在huggingface库内可以使用的视觉问答（visual-question-answering）模型有400个。
二、视觉问答（visual-question-answering）
2.1 概述
视觉问答（visual-question-answering）是根据图像回答开放式问题的任务。它们输出对自然语言问题的自然语言回答。
2.2 dandelin/ViLT
ViLT（Vision-and-Language Transformer Without Convolution or Region Supervision）可以认为是目前最简单的多模态Transformer方法。ViLT使用预训练的ViT来初始化交互的transformer，这样就可以直接利用交互层来处理视觉特征，不需要额外增加一个视觉encoder。
- 文本特征输入部分，将文本看成一个词序列，通过word embedding matrix转化成word embedding，然后和position embedding进行相加，最后和modal-type embedding进行concate。
- 图像特征输入部分，将图像切块看成一个图像块序列，通过linear projection转化成visual embedding，然后和postion embedding进行相加，最后和modal-type embedding进行concate。
- 其中word embedding和visual embedding通过可学习的modal-type embedding标志位来区分，其中0标志位表示word embedding部分，1标志位表示visual embedding部分。
- word embedding和visual embedding分别都嵌入了一个额外的可学习[class] embedding，方便和下游任务对接。
ViLT预训练的优化目标有两个：一个是image text matching(ITM)，另一个是masked language modeling(MLM)。
- ImageText Matching：随机以0.5的概率将文本对应的图片替换成不同的图片，然后对文本标志位对应输出使用一个线性的ITM head将输出feature映射成一个二值logits，用来判断图像文本是否匹配。另外ViLT还设计了一个word patch alignment (WPA)来计算textual subset和visual subset的对齐分数。
- Masked Language Modeling：MLM的目标是通过文本的上下文信息去预测masked的文本tokens。随机以0.15的概率mask掉tokens，然后文本输出接两层MLP与车mask掉的tokens。
- Whole Word Masking：另外ViLT还使用了whole word masking技巧。whole word masking是将连续的子词tokens进行mask的技巧，避免了只通过单词上下文进行预测。比如将“giraffe”词tokenized成3个部分["gi", "##raf", "##fe"]，可以mask成["gi", "[MASK]", "##fe"]，模型会通过mask的上下文信息[“gi”，“##fe”]来预测mask的“##raf”，就会导致不利用图像信息。作者将这个单词全都mask掉，这样就需要借助图像的信息来还原单词。
2.3 pipeline参数
2.3.1 pipeline对象实例化参数
- model（PreTrainedModel或TFPreTrainedModel）— 管道将使用其进行预测的模型。 对于 PyTorch，这需要从PreTrainedModel继承；对于 TensorFlow，这需要从TFPreTrainedModel继承。
- tokenizer ( PreTrainedTokenizer ) — 管道将使用其对模型的数据进行编码的 tokenizer。此对象继承自 PreTrainedTokenizer。
- image_processor ( BaseImageProcessor ) — 管道将使用的图像处理器来为模型编码数据。此对象继承自 BaseImageProcessor。
- modelcard（
str或ModelCard，可选） — 属于此管道模型的模型卡。- framework（
str，可选）— 要使用的框架，"pt"适用于 PyTorch 或"tf"TensorFlow。必须安装指定的框架。- task（
str，默认为""）— 管道的任务标识符。- num_workers（
int，可选，默认为 8）— 当管道将使用DataLoader（传递数据集时，在 Pytorch 模型的 GPU 上）时，要使用的工作者数量。- batch_size（
int，可选，默认为 1）— 当管道将使用DataLoader（传递数据集时，在 Pytorch 模型的 GPU 上）时，要使用的批次的大小，对于推理来说，这并不总是有益的，请阅读使用管道进行批处理。- args_parser（ArgumentHandler，可选） - 引用负责解析提供的管道参数的对象。
- device（
int，可选，默认为 -1）— CPU/GPU 支持的设备序号。将其设置为 -1 将利用 CPU，设置为正数将在关联的 CUDA 设备 ID 上运行模型。您可以传递本机torch.device或str太- torch_dtype（
str或torch.dtype，可选） - 直接发送model_kwargs（只是一种更简单的快捷方式）以使用此模型的可用精度（torch.float16，，torch.bfloat16...或"auto"）- binary_output（
bool，可选，默认为False）——标志指示管道的输出是否应以序列化格式（即 pickle）或原始输出数据（例如文本）进行。
2.3.2 pipeline对象使用参数
- image（
str、List[str]、或PIL.Image）——管道处理三种类型的图像：List[PIL.Image]KeyDataset- 包含指向图像的 http 链接的字符串
- 包含图像本地路径的字符串
- 直接在 PIL 中加载的图像
2.3.3 pipeline对象返回参数
- label(
str) — 模型标识的标签。- score(
int) — 模型为该标签评定的分数。
2.4 pipeline实战
基于pipeline的视觉问答（visual-question-answering）任务，采用dandelin/vilt-b32-finetuned-vqa对图片进行视觉问答，代码如下：
import osos.environ["HF_ENDPOINT"] = "https://hf-mirror.com"os.environ["CUDA_VISIBLE_DEVICES"] = "2"from transformers import pipelineoracle = pipeline(task="vqa",model="dandelin/vilt-b32-finetuned-vqa")image_url = "./lena.png"output=oracle(question="What is she wearing ?", image=image_url)print(output)output=oracle(question="What is she wearing ?", image=image_url, top_k=1)print(output)output=oracle(question="Is this a person ?", image=image_url, top_k=2)print(output)output=oracle(question="Is this a man ?", image=image_url, top_k=3)print(output)执行后，自动下载模型文件并基于图片，对提出的文本问题进行视觉回答。
2.5 模型排名
在huggingface上，我们将视觉问答（visual-question-answering）模型按下载量从高到低排序，共计427个模型中，文中的ViLT模型排名第三。
三、总结
本文对transformers之pipeline的视觉问答（visual-question-answering）从概述、技术原理、pipeline参数、pipeline实战、模型排名等方面进行介绍，读者可以基于pipeline使用文中的2行代码极简的使用多模态中的视觉问答（visual-question-answering）模型。
期待您的3连+关注，如何还有时间，欢迎阅读我的其他文章：
《Transformers-Pipeline概述》
【人工智能】Transformers之Pipeline（概述）：30w+大模型极简应用
《Transformers-Pipeline 第一章：音频（Audio）篇》
【人工智能】Transformers之Pipeline（一）：音频分类（audio-classification）
【人工智能】Transformers之Pipeline（二）：自动语音识别（automatic-speech-recognition）
【人工智能】Transformers之Pipeline（三）：文本转音频（text-to-audio/text-to-speech）
【人工智能】Transformers之Pipeline（四）：零样本音频分类（zero-shot-audio-classification）
《Transformers-Pipeline 第二章：计算机视觉（CV）篇》
【人工智能】Transformers之Pipeline（五）：深度估计（depth-estimation）
【人工智能】Transformers之Pipeline（六）：图像分类（image-classification）
【人工智能】Transformers之Pipeline（七）：图像分割（image-segmentation）
【人工智能】Transformers之Pipeline（八）：图生图（image-to-image）
【人工智能】Transformers之Pipeline（九）：物体检测（object-detection）
【人工智能】Transformers之Pipeline（十）：视频分类（video-classification）
【人工智能】Transformers之Pipeline（十一）：零样本图片分类（zero-shot-image-classification）
【人工智能】Transformers之Pipeline（十二）：零样本物体检测（zero-shot-object-detection）
《Transformers-Pipeline 第三章：自然语言处理（NLP）篇》
【人工智能】Transformers之Pipeline（十三）：填充蒙版（fill-mask）
【人工智能】Transformers之Pipeline（十四）：问答（question-answering）
【人工智能】Transformers之Pipeline（十五）：总结（summarization）
【人工智能】Transformers之Pipeline（十六）：表格问答（table-question-answering）
【人工智能】Transformers之Pipeline（十七）：文本分类（text-classification）
【人工智能】Transformers之Pipeline（十八）：文本生成（text-generation）
【人工智能】Transformers之Pipeline（十九）：文生文（text2text-generation）
【人工智能】Transformers之Pipeline（二十）：令牌分类（token-classification）
【人工智能】Transformers之Pipeline（二十一）：翻译（translation）
【人工智能】Transformers之Pipeline（二十二）：零样本文本分类（zero-shot-classification）
《Transformers-Pipeline 第四章：多模态（Multimodal）篇》
【人工智能】Transformers之Pipeline（二十三）：文档问答（document-question-answering）
【人工智能】Transformers之Pipeline（二十四）：特征抽取（feature-extraction）
【人工智能】Transformers之Pipeline（二十五）：图片特征抽取（image-feature-extraction）
【人工智能】Transformers之Pipeline（二十六）：图片转文本（image-to-text）
【人工智能】Transformers之Pipeline（二十七）：掩码生成（mask-generation）
【人工智能】Transformers之Pipeline（二十八）：视觉问答（visual-question-answering）
