OpenCVSharp:使用CaffeModel

前言

今天这个例子用来学习一下在OpenCVSharp中如何使用caffemodel。

首先需要了解一下Caffe是什么?

Caffe是一个快速的开源深度学习框架。

GitHub地址:https://github.com/BVLC/caffe

OpenCVSharp:使用CaffeModel

Caffe 是一个以表达性、速度和模块化为核心设计的深度学习框架。它由伯克利人工智能研究(BAIR)/伯克利视觉与学习中心(BVLC)及社区贡献者共同开发。

caffemodel在这里指的就是使用这个框架训练的模型。

先来看下这个Demo的效果:

OpenCVSharp:使用CaffeModel

实践

在使用这个模型之前需要先了解这三个东西:

OpenCVSharp:使用CaffeModel

一个.prototxt文件、一个caffemodel文件与一个txt文件。

caffmodl下载地址:http://dl.caffe.berkeleyvision.org/bvlc_googlenet.caffemodel

另外两个文件在OpencvSharp仓库中有了,地址:https://github.com/shimat/opencvsharp_samples/tree/master/SampleBase/Data/Text

来看看.prototxt文件是什么?

打开之后是这样的:

OpenCVSharp:使用CaffeModel

.prototxt文件是一种文本格式的模型配置文件,主要用于Caffe深度学习框架。它用于定义神经网络结构与定义训练配置。

synset_words.txt打开是这样的:

OpenCVSharp:使用CaffeModel

synset_words.txt 是一个 标签文件。它包含了ImageNet数据集中所有 1000 个类别的人类可读的名称。

在OpenCVSharp加载CaffeModel就一行代码:

using var net = CvDnn.ReadNetFromCaffe(ProtoTxt, CaffeModel); 

OpenCVSharp封装了一个CvDnn静态类,现在看看这个函数签名:

  public static Net? ReadNetFromCaffe(string prototxt, string? caffeModel = null)   {       return Net.ReadNetFromCaffe(prototxt, caffeModel);   }    public static Net? ReadNetFromCaffe(string prototxt, string? caffeModel = null)   {       if (prototxt is null)           throw new ArgumentNullException(nameof(prototxt));        NativeMethods.HandleException(           NativeMethods.dnn_readNetFromCaffe(prototxt, caffeModel, out var p));       return (p == IntPtr.Zero) ? null : new Net(p);   } 

OpenCVSharp中创建了一个Net类用于创建和操作复杂的人工神经网络。

在C#中这样写就会调用OpenCV对应的C++接口,要注意OpenCVSharp并不是OpenCV的C#实现,而是充当了C#与C++代码之间的一层桥接。

OpenCVSharp:使用CaffeModel

现在就是看怎么使用了。

首先需要将图片处理成神经网络需要的形式:

using var img = new Mat(ImagePath); using var inputBlob = CvDnn.BlobFromImage(img, 1, new Size(224, 224), new Scalar(104, 117, 123));  public static Mat BlobFromImage(     Mat image, double scaleFactor = 1.0, Size size = default,     Scalar mean = default, bool swapRB = true, bool crop = true) {     if (image is null)         throw new ArgumentNullException(nameof(image));      NativeMethods.HandleException(         NativeMethods.dnn_blobFromImage(             image.CvPtr, scaleFactor, size, mean, swapRB ? 1 : 0, crop ? 1 : 0, out var ret));     return new Mat(ret); } 

BlobFromImage是OpenCV中用于深度学习图像预处理的关键方法,它将输入图像转换为神经网络可处理的 4 维张量(blob)。主要功能包括:图像尺寸调整、中心裁剪、通道交换(BGR↔RGB)、均值减法和像素值缩放。输出为 NCHW 维度顺序的 4D Mat 对象,适用于 CNN 等深度学习模型的输入预处理。

net.SetInput(inputBlob, "data"); using var prob = net.Forward("prob");  // 找到最佳类别 GetMaxClass(prob, out int classId, out double classProb);  private void GetMaxClass(Mat probBlob, out int classId, out double classProb) {     // 将blob重塑为1x1000矩阵     using var probMat = probBlob.Reshape(1, 1);     Cv2.MinMaxLoc(probMat, out _, out classProb, out _, out var classNumber);     classId = classNumber.X; } 

SetInput将预处理后的Blob数据设置为网络的输入层,"data"是网络配置文件中定义的输入层名称。

Forward执行完整的前向传播过程,"prob"是输出层名称,通常对应softmax概率输出,返回一个包含1000个类别概率值的Mat对象,输出形状为[1, 1000],表示ImageNet的1000个类别。

查看MinMaxLoc方法的定义:

/// <summary> /// finds global minimum and maximum array elements and returns their values and their locations /// </summary> /// <param name="src">The source single-channel array</param> /// <param name="minVal">Pointer to returned minimum value</param> /// <param name="maxVal">Pointer to returned maximum value</param> /// <param name="minLoc">Pointer to returned minimum location</param> /// <param name="maxLoc">Pointer to returned maximum location</param> /// <param name="mask">The optional mask used to select a sub-array</param> public static void MinMaxLoc(InputArray src, out double minVal, out double maxVal,     out Point minLoc, out Point maxLoc, InputArray? mask = null) {     if (src is null)         throw new ArgumentNullException(nameof(src));     src.ThrowIfDisposed();      NativeMethods.HandleException(         NativeMethods.core_minMaxLoc2(             src.CvPtr, out minVal, out maxVal, out minLoc, out maxLoc, ToPtr(mask)));      GC.KeepAlive(src);     GC.KeepAlive(mask); } 

通过这个方法我们可以找到最大值如下所示:

OpenCVSharp:使用CaffeModel

与最大值的位置,如下所示:

OpenCVSharp:使用CaffeModel

然后这个X坐标值812就是对应类别的ID,可以根据这个ID找到对应的类别名称。

发表评论

评论已关闭。

相关文章