OpenVINO™ 赋能 BLIP 实现视觉语言 AI 边缘部署
人类通过视觉和语言感知世界。人工智能的一个长期目标是构建智能体，通过视觉和语言输入来理解世界，并通过自然语言与人类交流。比如，在《几行代码加速 Stable Diffusion，使用 OpenVINO 轻松文生图》中，我们介绍了利用 OpenVINO 运行 Stable Diffusion 模型，快速实现文生图应用。让人人可以成为绘画大师，利用 AI 随心作画。
随着计算机视觉和自然语言处理领域的快速发展，视觉与语言的融合越来越受到研究人员的重视。在这个背景下，BLIP（Bootstrapping Language-Image Pre-training）作为一种创新的预训练模型，引起了广泛关注。该模型在大规模的图像文本数据集上预训练深度神经网络模型，以提高下游视觉语言任务的性能，如图像文本检索、图像字幕和视觉问答。通过联合训练图像和文本数据，为视觉与语言的融合提供了强大的基础。
BLIP 的预训练过程涉及两个关键组件：图像编码器和文本编码器。图像编码器负责将输入的图像转换为低维向量表示，而文本编码器则将输入的文本转换为另一个低维向量表示。为了实现统一的视觉-语言预训练，BLIP 采用了一种跨模态约束策略，即在预训练阶段，图像编码器和文本编码器被设计成相互约束的。这样的约束机制强制模型学习将视觉信息和语言信息进行对齐，从而使得模型在后续任务中能够更好地处理视觉与语言之间的联合信息。
除了视觉-语言理解任务，BLIP 还在视觉-语言生成任务中表现出色。在这个任务中，模型需要根据输入的图像和文本生成相关的描述或回答问题。BLIP 通过联合训练和引入了图像-文本生成任务，使得模型具备了更强大的图像描述和问题回答能力。这使得 BLIP 在图像描述生成和视觉问答等任务上取得了优异的成绩。
接下来，我们一起来看看如何在研扬科技（AAEON）的新品 UP Squared Pro 7000 Edge 运行利用 OpenVINO 来优化加速 BLIP 的推理有哪些重点步骤吧。
作为研扬 UP Squared Pro 系列的第三代产品，Upsquared Pro 7000 系列[1] 透过高性能计算能力、升级的电路板设计和扩展的显示接口，提供更大的开发潜力。作为该系列中首款采用 Intel Core/Atom/N 系列处理器（原 Alder Lake-N）的产品，UP Squared Pro 7000 是首款配备板载 LPDDR5 内存的产品，提高了 I/O 的运行速度。此外，UP Squared Pro 7000 在图像处理和显示功能方面都有显著提升，支持 MIPI CSI 照相机，并搭配 Intel UHD 显卡，可同时进行三台 4K 显示器。
1.4 倍以上 CPU 性能提升
UP Squared Pro 7000 采用 Intel Core/Atom/N- 系列处理器，CPU 性能是上一代的 1.4 倍。UP Squared Pro 7000 拥有多达 8 个 Gracemont 内核，支持 OpenVINO Toolkit，以及第 12 代 Intel处理器的 UHD 显卡，拥有强大的计算能力、优化的推理引擎和图像处理功能，提供绝佳的智能解决方案。
同步支持 3 台 4K 显示器
UP Squared Pro 7000 配备 HDMI 2.0b、DP 1.2 埠和透过 USB Type-C 的 DP 1.4a，拥有出色的显示接口。UP Squared Pro 7000 整合了 GPU 和多重输出，可以同步支持三个 4K 显示器，非常适合用于数字广告牌等视觉导向型的相关应用。
双倍的高速系统内存
作为 UP Squared Pro 系列中第一块配备板载 LPDDR5 系统内存的板卡，UP Squared Pro 7000 搭载了 16GB 的系统内存，是上一代的两倍。此外，快达 4800MHz 的内存速度让用户的带宽和数据传输速度加倍，同时也更加省电。
全面的 I/O 升级
除了维持 UP Squared Pro 系列 4" x 4" 的紧凑外形之外，UP Squared Pro 7000 在电路板设计上更为精实。UP Squared Pro 7000 配备了两个 2.5GbE、三个 USB 3.2 和一个 FPC 端口，可外接更多像是 MIPI CSI 相机的外围设备。将这些特色与板载 LPDDR5 及性能强大的 CPU 相结合，非常适合用于智慧工厂机器人方面的视觉解决方案。
第一步：安装相应工具包、加载模型并转换为 OpenVINO IR 格式
本次代码示例需要首先安装 BLIP 相应工具包。
!pip install "transformers >= 4.26.0"
向右滑动查看完整代码
然后下载及加载相应的 PyTorch 模型。在本问中，您将使用可从 Hugging Face 下载的 blip-vqa-base [2] 基本模型。同样的操作也适用于 BLIP 系列中的其它模型。尽管该模型类是为执行问答而设计的，但其组件也可以用于图像字幕。要开始使用该模型，需要使用 from_pretrained 方法实例化 BlipForQuestionAnswering 类。BlipProcessor 是一个助手类，用于准备文本和视觉模态的输入数据以及生成结果的后处理。
import sysimport timefrom PIL import Imagefrom transformers import BlipProcessor, BlipForQuestionAnswering
sys.path.append("../utils")from notebook_utils import download_file
# Get model and processorprocessor = BlipProcessor.from_pretrained("Salesforce/blip-vqa-base")model = BlipForQuestionAnswering.from_pretrained("Salesforce/blip-vqa-base")
接下来，我们看看如何将原始模型转换为 OpenVINO IR格式的模型，并利用 OpenVINO 进行相应的优化以及部署推理加速。
第二步：将模型转换为 OpenVINO IR 格式
根据我们前面的介绍，BLIP 模型包含视觉模型、文本编码和文本解码三个模型，因此我们需要分别将这三个模型转换为 OpenVINO IR 格式。视觉模型的转换操作比较常规，具体代码可以参考我们的 notebook[3]，这里重点介绍一下文本编码和文本解码模型的转换部分。
文本编码器转换
视觉问答任务使用文本编码器来构建问题的嵌入表示。它采用经过分词后的问题的 input_ids，并输出从视觉模型获得的图像嵌入和它们的注意力掩码。根据问题文本的不同，标记化输入后的标记数量可能不同。因此，为使用标记的模型输入保留动态形状，dynamic_axes 参数负责在 torch.onx.export 中保留输入的动态特定维度。代码如下：
TEXT_ENCODER_OV = Path("blip_text_encoder.xml")TEXT_ENCODER_ONNX = TEXT_ENCODER_OV.with_suffix(".onnx")
text_encoder = model.text_encodertext_encoder.eval()
# if openvino model does not exist, convert it to onnx and then to IRif not TEXT_ENCODER_OV.exists(): if not TEXT_ENCODER_ONNX.exists(): # prepare example inputs for ONNX export image_embeds = vision_outputs[0] image_attention_mask = torch.ones(image_embeds.size()[:-1], dtype=torch.long) input_dict = {"input_ids": inputs["input_ids"], "attention_mask": inputs["attention_mask"], "encoder_hidden_states": image_embeds, "encoder_attention_mask": image_attention_mask} # specify variable length axes dynamic_axes = {"input_ids": {1: "seq_len"}, "attention_mask": {1: "seq_len"}} # export PyTorch model to ONNX with torch.no_grad(): torch.onnx.export(text_encoder, input_dict, TEXT_ENCODER_ONNX, input_names=list(input_dict), dynamic_axes=dynamic_axes) # convert ONNX model to IR using model conversion Python API, use compress_to_fp16=True for compressing model weights to FP16 precision ov_text_encoder = mo.convert_model(TEXT_ENCODER_ONNX, compress_to_fp16=True) # save model on disk for next usages serialize(ov_text_encoder, str(TEXT_ENCODER_OV)) print(f"Text encoder successfuly converted and saved to {TEXT_ENCODER_OV}")else: print(f"Text encoder will be loaded from {TEXT_ENCODER_OV}")
向右滑动查看完整代码
文本解码器转换
文本解码器负责使用图像（以及问题，如果需要的话）的表示来生成模型输出（问题的答案或标题）的分词 token 序列。生成方法基于这样的假设，即单词序列的概率分布可以分解为下一个单词条件分布的乘积。换言之，模型预测由先前生成的 token 引导循环生成下一个 token，直到达到停止生成的条件（生成达到最大长度序列或获得的字符串结束的 token）。在预测概率之上选择下一个 token的方式由所选择的解码方法来驱动。与文本编码器类似，文本解码器可以处理不同长度的输入序列，并且需要保留动态输入形状。这部分特殊的处理可由如下代码完成：
text_decoder = model.text_decodertext_decoder.eval()
TEXT_DECODER_OV = Path("blip_text_decoder.xml")TEXT_DECODER_ONNX = TEXT_DECODER_OV.with_suffix(".onnx")
# prepare example inputs for ONNX exportinput_ids = torch.tensor([[30522]]) # begin of sequence token idattention_mask = torch.tensor([[1]]) # attention mask for input_idsencoder_hidden_states = torch.rand((1, 10, 768)) # encoder last hidden state from text_encoderencoder_attention_mask = torch.ones((1, 10), dtype=torch.long) # attention mask for encoder hidden states
input_dict = {"input_ids": input_ids, "attention_mask": attention_mask, "encoder_hidden_states": encoder_hidden_states, "encoder_attention_mask": encoder_attention_mask}# specify variable length axesdynamic_axes = {"input_ids": {1: "seq_len"}, "attention_mask": {1: "seq_len"}, "encoder_hidden_states": {1: "enc_seq_len"}, "encoder_attention_mask": {1: "enc_seq_len"}}
# specify output names, logits is main output of modeloutput_names = ["logits"]
# past key values outputs are output for caching model hidden statepast_key_values_outs = []text_decoder_outs = text_decoder(**input_dict)for idx, _ in enumerate(text_decoder_outs["past_key_values"]): past_key_values_outs.extend([f"out_past_key_value.{idx}.key", f"out_past_key_value.{idx}.value"])
向右滑动查看完整代码
接下来，对于文本解码器的转换，还有来自前一步骤的隐藏状态的额外输入。与输出类似，在模型导出为 ONNX 格式后，它们将被展平。需要使用新的输入层更新 dynamic_axies 和 input_names。因此，其后面的转换过程与前面的文本编码器的转换过程类似，在本文中不再赘述。
第三步：运行 OpenVINO 推理
如前所述，在这里我们将主要展示 BLIP 进行视觉问答以及图像字幕的流水线如何搭建、以及如何运行 OpenVINO 来进行推理的情况。
图像字幕
视觉模型接受 BlipProcessor 预处理的图像作为输入，并生成图像嵌入，这些图像嵌入直接传递给文本解码器以生成字幕标记。生成完成后，分词 tokenizer 的输出序列被提供给 BlipProcessor，用于使用 tokenizer 解码为文本。
定义 OVBLIPModel 类：
class OVBlipModel: """ Model class for inference BLIP model with OpenVINO """ def __init__(self, config, decoder_start_token_id:int, vision_model, text_encoder, text_decoder): """ Initialization class parameters """ self.vision_model = vision_model self.vision_model_out = vision_model.output(0) self.text_encoder = text_encoder self.text_encoder_out = text_encoder.output(0) self.text_decoder = text_decoder self.config = config self.decoder_start_token_id = decoder_start_token_id self.decoder_input_ids = c
向右滑动查看完整代码
定义图像字幕函数如下，
def generate_caption(self, pixel_values:torch.Tensor, input_ids:torch.Tensor = None, attention_mask:torch.Tensor = None, **generate_kwargs): """ Image Captioning prediction Parameters: pixel_values (torch.Tensor): preprocessed image pixel values input_ids (torch.Tensor, *optional*, None): pregenerated caption token ids after tokenization, if provided caption generation continue provided text attention_mask (torch.Tensor): attention mask for caption tokens, used only if input_ids provided Retruns: generation output (torch.Tensor): tensor which represents sequence of generated caption token ids """ batch_size = pixel_values.shape[0]
image_embeds = self.vision_model(pixel_values.detach().numpy())[self.vision_model_out]
image_attention_mask = torch.ones(image_embeds.shape[:-1], dtype=torch.long)
if isinstance(input_ids, list): input_ids = torch.LongTensor(input_ids) elif input_ids is None: input_ids = ( torch.LongTensor([[self.config.text_config.bos_token_id, self.config.text_config.eos_token_id]]) .repeat(batch_size, 1) ) input_ids[:, 0] = self.config.text_config.bos_token_id attention_mask = attention_mask[:, :-1] if attention_mask is not None else None
outputs = self.text_decoder.generate( input_ids=input_ids[:, :-1], eos_token_id=self.config.text_config.sep_token_id, pad_token_id=self.config.text_config.pad_token_id, attention_mask=attention_mask, encoder_hidden_states=torch.from_numpy(image_embeds), encoder_attention_mask=image_attention_mask, **generate_kwargs, )
return outputs
向右滑动查看完整代码
视觉问答
视觉回答的流水线看起来很相似，但有额外的问题处理。在这种情况下，由 BlipProcessor 标记的图像嵌入和问题被提供给文本编码器，然后多模态问题嵌入被传递给文本解码器以执行答案的生成。
在 OVBLIPModel 类内部同理可定义视觉问答函数如下：
def generate_answer(self, pixel_values:torch.Tensor, input_ids:torch.Tensor, attention_mask:torch.Tensor, **generate_kwargs): """ Visual Question Answering prediction Parameters: pixel_values (torch.Tensor): preprocessed image pixel values input_ids (torch.Tensor): question token ids after tokenization attention_mask (torch.Tensor): attention mask for question tokens Retruns: generation output (torch.Tensor): tensor which represents sequence of generated answer token ids """ image_embed = self.vision_model(pixel_values.detach().numpy())[self.vision_model_out] image_attention_mask = np.ones(image_embed.shape[:-1], dtype=int) if isinstance(input_ids, list): input_ids = torch.LongTensor(input_ids) question_embeds = self.text_encoder([input_ids.detach().numpy(), attention_mask.detach().numpy(), image_embed, image_attention_mask])[self.text_encoder_out] question_attention_mask = np.ones(question_embeds.shape[:-1], dtype=int)
bos_ids = np.full((question_embeds.shape[0], 1), fill_value=self.decoder_start_token_id)
outputs = self.text_decoder.generate( input_ids=torch.from_numpy(bos_ids), eos_token_id=self.config.text_config.sep_token_id, pad_token_id=self.config.text_config.pad_token_id, encoder_hidden_states=torch.from_numpy(question_embeds), encoder_attention_mask=torch.from_numpy(question_attention_mask), **generate_kwargs, ) return outputs
向右滑动查看完整代码
初始化 OpenVINO 运行时并运行推理
初始化 OpenVINO Core 对象，选择推理设备，并加载、编译模型
# create OpenVINO Core object instancecore = Core()
import ipywidgets as widgets
device = widgets.Dropdown( options=core.available_devices + ["AUTO"], value='AUTO', description='Device:', disabled=False,)
device
# load models on deviceov_vision_model = core.compile_model(VISION_MODEL_OV, device.value)ov_text_encoder = core.compile_model(TEXT_ENCODER_OV, device.value)ov_text_decoder = core.compile_model(TEXT_DECODER_OV, device.value)ov_text_decoder_with_past = core.compile_model(TEXT_DECODER_WITH_PAST_OV, device.value)
向右滑动查看完整代码
运行图像字幕推理
out = ov_model.generate_caption(inputs["pixel_values"], max_length=20)caption = processor.decode(out[0], skip_special_tokens=True)fig = visualize_results(raw_image, caption)
运行视觉问答推理
start = time.perf_counter()out = ov_model.generate_answer(**inputs, max_length=20)end = time.perf_counter() - startanswer = processor.decode(out[0], skip_special_tokens=True)fig = visualize_results(raw_image, answer, question)
小结
整个的步骤就是这样！现在就开始跟着我们提供的代码和步骤，动手试试用 Open VINO 和 BLIP 吧。
除此之外，为了方便大家了解并快速掌握 OpenVINO 的使用，我们还提供了一系列开源的 Jupyter notebook demo。运行这些 notebook，就能快速了解在不同场景下如何利用 OpenVINO 实现一系列、包括计算机视觉、语音及自然语言处理任务。OpenVINO notebooks 的资源可以在 GitHub 这里下载安装：https://github.com/openvinotoolkit/openvino_notebooks 。
研扬科技简介
研扬科技成立于 1992 年，是工业物联网和人工智能边缘解决方案的领先设计商和制造商之一。以不断创新为核心价值观，研扬科技为市场带来可靠、高质量的计算平台，包括工业主板和系统、强固式平板电脑、嵌入式人工智能系统、uCPE 网络设备以及 LoRaWAN/WWAN 解决方案。研扬科技还带来行业领先的经验和知识，以在全球范围内提供 OEM/ODM 服务。此外，研扬科技与诸多城市和政府紧密合作，开发和部署智能城市生态系统，提供个性化平台和端到端解决方案。研扬科技与顶级芯片设计商紧密合作，提供稳定、可靠的平台，并被认可为 Intel物联网解决方案联盟的钛金级成员。
-
AI
+关注
关注
87文章
30728浏览量
268880 -
人工智能
+关注
关注
1791文章
47183浏览量
238235 -
模型
+关注
关注
1文章
3226浏览量
48806 -
Open
+关注
关注
0文章
16浏览量
11071
发布评论请先 登录
相关推荐
AI模型部署边缘设备的奇妙之旅：目标检测模型
AI模型部署边缘设备的奇妙之旅：如何在边缘端部署OpenCV
AI模型部署边缘设备的奇妙之旅：如何实现手写数字识别
使用OpenVINO Model Server在哪吒开发板上部署模型
OpenVINO 2024.4持续提升GPU上LLM性能
三行代码完成生成式AI部署
NVIDIA 通过 Holoscan 为 NVIDIA IGX 提供企业软件支持，实现边缘实时医疗、工业和科学 AI 应用
简单两步使用OpenVINO™搞定Qwen2的量化与部署任务
研扬携手英特尔，联合举办创AI百城行（武汉站）：用OpenVINO™赋能AI于边缘计算平台
简单三步使用OpenVINO™搞定ChatGLM3的本地部署
【转载】英特尔开发套件“哪吒”快速部署YoloV8 on Java | 开发者实战
基于英特尔哪吒开发者套件平台来快速部署OpenVINO Java实战
AI边缘计算机应用场景广泛！大语言模型与数字人结合方案在边缘侧落地
OpenVINO™ 赋能千元级『哪吒』AI开发套件大语言模型 | 开发者实战
工商网监
评论