​

工业相机使用YoloV8模型实现PCB的缺陷检测

本项目集成了 YOLOv8 缺陷检测模型 与 C#图形界面工具，实现了包括图片、文件夹、视频与摄像头等多种输入方式的缺陷检测功能。

工业相机RAW文件是一种记录了工业相机传感器的原始信息，同时记录了由相机拍摄所产生的一些原数据(Metadata，如ISO的设置、快门速度、光圈值、白平衡等)的文件。RAW是未经处理、也未经压缩的格式，可以把RAW概念化为“原始图像编码数据”。
​
工业相机Bitmap图像是一种无损的图像格式，它将图像存储为像素阵列，并可包含调色板信息。这种格式通常用于工业应用中，因为它能够保留图像的细节和质量，并且易于处理和分析。

本文以Baumer工业相机作为案例进行演示，实现将工业相机的图像或者本地图像导入Yolo模型从而实现PCB缺陷检测等功能。

工业相机实现YoloV8模型实现PCB的缺陷检测的技术背景

本文通过C#中实现一个简单的UI界面，用于将YoloV8模型实现PCB的缺陷检测

用户可以通过该界面执行以下操作：

1. 转换相机图像为Mat图像：通过YoloV8模型实现PCB的缺陷检测

2. 转换本地图像为mat图像：通过YoloV8模型实现PCB的缺陷检测

通过这个UI界面，用户能够在实时应用机器视觉数据处理时快速有效地进行操作，无需深入了解图像数据的底层处理过程。这个简单的介绍旨在为开发人员提供一个明确的方向，以便开始构建此类应用程序，并且该程序主要用于演示目的。

在相机SDK中获取图像转换图像的代码分析

本文介绍使用Baumer工业相机，实现将图像转换为Bitmap图像，再转换Mat图像，导入到Yolo模型进行推理，输出PCB的缺陷检测的结果。

工业相机图像转换Bitmap图像格式和Mat图像重要核心代码

//将相机内部图像内存数据转为bitmap数据
System.Drawing.Bitmap bitmap  = new System.Drawing.Bitmap((int)mBufferFilled.Width, (int)mBufferFilled.Height，(int)mBufferFilled.Width,System.Drawing.Imaging.PixelFormat.Format8bppIndexed, (IntPtr)((ulong)mBufferFilled.MemPtr + mBufferFilled.ImageOffset));#region//Mono图像数据转换。彩色图像数据转换于此不同
System.Drawing.Imaging.ColorPalette palette = bitmap.Palette;
int nColors = 256;
for (int ix = 0; ix < nColors; ix++)
{uint Alpha = 0xFF;uint Intensity = (uint)(ix * 0xFF / (nColors - 1));palette.Entries[ix] = System.Drawing.Color.FromArgb((int)Alpha, (int)Intensity，(int)Intensity, (int)Intensity);
}
bitmap.Palette = palette;
#endregionstring strtime = DateTime.Now.ToString("yyyyMMddhhmmssfff");
string saveimagepath = pImgFileDir + "\\" + strtime + ".brw";//使用Bitmap格式保存         
bitmap.Save(saveimagepath, System.Drawing.Imaging.ImageFormat.Bmp);  //用bitmap转换为mat
OpenCvSharp.Mat Matgray1 = OpenCvSharp.Extensions.BitmapConverter.ToMat(bitmap);

本地文件图像转换Bitmap图像格式和Mat图像重要核心代码

C#环境下代码如下所示：

if (imagePaths.Count() == 0)
{LoadImagePaths("test_img");
}string currentImagePath = imagePaths[currentImageIndex];// 显示到pictureBoxA
pictureBoxA.Image.Dispose(); // 释放上一张图片资源，避免内存泄漏
pictureBoxA.Image = new Bitmap(currentImagePath);
image_path = currentImagePath;currentImageIndex = (currentImageIndex + 1) % imagePaths.Count;OnNotifyShowRecieveMsg("检测中，请稍等……");
//textBox1.Text = "检测中，请稍等……";
//pictureBox2.Image = null;
Application.DoEvents();image = new Mat(image_path);float ratio = Math.Min(1.0f * inpHeight / image.Rows, 1.0f * inpWidth / image.Cols);
int neww = (int)(image.Cols * ratio);
int newh = (int)(image.Rows * ratio);Mat dstimg = new Mat();
Cv2.Resize(image, dstimg, new OpenCvSharp.Size(neww, newh));Cv2.CopyMakeBorder(dstimg, dstimg, 0, inpHeight - newh, 0, inpWidth - neww, BorderTypes.Constant);

Mat图像导入YoloV8模型重要核心代码

C#环境下代码如下所示：

// 定义 ONNX 模型的路径
string onnxModelPath = "model/best.onnx";
// 定义输入图像的形状
OpenCvSharp.Size inputShape = new OpenCvSharp.Size(640, 640);
// 从 ONNX 模型文件加载网络
if(net==null)net = CvDnn.ReadNetFromOnnx(onnxModelPath);string[] modelClassify = { "missing_hole" };if (imagePaths.Count() == 0)
{LoadImagePaths("test_img");
}string currentImagePath = imagePaths[currentImageIndex];// 显示到pictureBoxA
pictureBoxA.Image.Dispose(); // 释放上一张图片资源，避免内存泄漏
pictureBoxA.Image = new Bitmap(currentImagePath);
image_path = currentImagePath;if (pictureBoxA.Image == null)
{return;
}
currentImageIndex = (currentImageIndex + 1) % imagePaths.Count;OnNotifyShowRecieveMsg("检测中，请稍等……");Application.DoEvents();image = new Mat(image_path);dt1 = DateTime.Now;
// 调用识别图像的函数，并传入图像路径、阈值、网络、输入形状和分类类别列表
result_image = Recognize(image, 0.35, net, inputShape, modelClassify);
// 获取计算结束时间
dt2 = DateTime.Now;
// 显示输出的图像
pictureBoxA.Image = new Bitmap(result_image.ToMemoryStream());// 显示推理耗时时间
OnNotifyShowRecieveMsg("推理耗时:" + (dt2 - dt1).TotalMilliseconds + "ms");

static Mat Recognize(Mat imgPath, double threshold, Net net, OpenCvSharp.Size inputShape, string[] modelClassify)
{using (Mat img = imgPath){int inpHeight = 640; // 输入图像的高度int inpWidth = 640; // 输入图像的宽度// 对图像进行预处理，调整尺寸Mat image = img;float ratio = Math.Min(1.0f * inpHeight / image.Rows, 1.0f * inpWidth / image.Cols);int neww = (int)(image.Cols * ratio);int newh = (int)(image.Rows * ratio);//// 将图像调整为模型需要的大小//Mat dstimg = new Mat();//Cv2.Resize(image, dstimg, new OpenCvSharp.Size(neww, newh));//Cv2.CopyMakeBorder(dstimg, dstimg, 0, inpHeight - newh, 0, inpWidth - neww, BorderTypes.Constant);//Mat BN_image = CvDnn.BlobFromImage(dstimg); // 将调整后的图像转换为Blob格式//// 配置图片输入数据 // 将 blob 设置为网络的输入//net.SetInput(BN_image);//// 从图像生成用于网络输入的 blob//Mat blob = CvDnn.BlobFromImage(img, 1 / 255.0, inputShape, new Scalar(0, 0, 0), false);////Mat blob = CvDnn.BlobFromImage(img, 1.0 / 255.0, inputShape, new Scalar(0, 0, 0), true, false);// 将 blob 设置为网络的输入//net.SetInput(blob);//// 从图像生成用于网络输入的 blobMat img0 = imgPath;Mat blob0 = CvDnn.BlobFromImage(img0, 1 / 255.0, new OpenCvSharp.Size(inputShape.Width, inputShape.Height), swapRB: true, crop: false);net.SetInput(blob0);// 执行前向传播获取输出Mat output = net.Forward();// 此处可能需要根据 C# 中 OpenCV 的特性来处理转置操作output = ReshapeAndTranspose(output);// 获取图像的行数（高度）int height = img.Height;// 获取图像的列数（宽度）int width = img.Width;// 计算宽度的缩放因子double xFactor = (double)width / inputShape.Width;// 计算高度的缩放因子double yFactor = (double)height / inputShape.Height;// 初始化分类类别、得分和检测框的列表List<string> classifys = new List<string>();List<float> scores = new List<float>();List<Rect> boxes = new List<Rect>();List<Double> maxVales = new List<Double>();List<OpenCvSharp.Point> maxloces = new List<OpenCvSharp.Point>();// 遍历输出的行for (int i = 0; i < output.Rows; i++){// 获取当前行的检测框数据using (Mat box = output.Row(i)){// 在框数据的特定范围中找到最小值、最大值及其位置OpenCvSharp.Point minloc, maxloc;double minVal, maxVal;// Mat classes_scores = box.ColRange(4, 5);//GetArray(i, 5, classes_scores);// double curmates0 = box.At<float>(0);double curmates1 = box.At<float>(4);int collength = box.Cols;int rowlength = box.Rows;Mat curmates = box.ColRange(4, box.Cols);//Cv2.MinMaxLoc(box.ColRange(4, box.Cols), out minVal, out maxVal, out minloc, out maxloc);Cv2.MinMaxLoc(box.ColRange(4, box.Cols), out minVal, out maxVal, out minloc, out maxloc);int classId = maxloc.Y;if (classId == 0){// 获取对应类别的得分                         float score = (float)maxVal;// 如果得分大于阈值if (score > threshold){// 将得分添加到得分列表scores.Add(score);// 将类别添加到类别列表classifys.Add(modelClassify[classId]);// 获取框的原始坐标float x = box.At<float>(0, 0);float y = box.At<float>(0, 1);float w = box.At<float>(0, 2);float h = box.At<float>(0, 3);// 计算调整后的坐标int xInt = (int)((x - 0.5 * w) * xFactor);int yInt = (int)((y - 0.5 * h) * yFactor);int wInt = (int)(w * xFactor);int hInt = (int)(h * yFactor);// 将调整后的框坐标添加到框列表boxes.Add(new Rect(xInt, yInt, wInt, hInt));}}}}// 执行非极大值抑制操作int[] indices;CvDnn.NMSBoxes(boxes, scores, 0.25f, 0.45f, out indices);// 遍历非极大值抑制操作后的索引foreach (int i in indices){// 获取对应的类别、得分和框string classify = classifys[i];float score = scores[i];Rect box = boxes[i];// 获取框的坐标和尺寸// 在图像上绘制矩形框Cv2.Rectangle(img, box, new Scalar(0, 255, 0), 3);// 生成类别和得分的标签文本string label = $"{classify}: {score:F2}";// 在图像上添加标签文本Cv2.PutText(img, label, new OpenCvSharp.Point(box.X, box.Y - 10), HersheyFonts.HersheySimplex, 0.5, new Scalar(0, 255, 0), 2);}// 将图像复制输出返回Mat result_image0 = img.Clone();return result_image0;// 将处理后的图像保存为文件// Cv2.ImWrite("result.jpg", img);}
}

代码实现演示（PCB的缺陷检测）

源码下载链接

C# WinForms工业相机+本地图像 通过YoloV8模型实现PCB的缺陷检测

工业相机通过YoloV8模型实现PCB的缺陷检测的行业应用

#	细分行业 / 场景	主要缺陷类型	典型部署形态 & 价值
1	SMT 贴片产线后道 AOI	焊桥、少锡、偏移、立碑	高速彩色工业相机（25 kHz）+ 双侧条形光源；YOLOv8-s 剪枝后跑在 NVIDIA Jetson Xavier，节拍 120 ms/板，直通率提升 30 %
2	HDI 钻孔后 AOI	缺失孔、孔偏、多孔	12 μm 线阵相机 + 远心镜头；YOLOv8n 专训“缺失孔”类，漏检率 < 0.1 %，替代 2 台人工显微镜
3	FPC 软板终检	鼠咬、开路、短路、铜渣	可弯曲背光 + 4K 面阵相机；模型同时跑缺陷检测与分类，缺陷坐标直接输出给激光修板机，减少 40 % 报废
4	汽车板（厚铜）	铜厚不均、伪铜、毛刺	高动态范围 HDR 工业相机 + 偏振片；YOLOv8 多尺度特征融合抑制反光，解决传统阈值法 15 % 误判问题
5	IC 载板（BGA）	微短路、焊盘凹陷	8K 彩色 TDI 线扫相机；TensorRT-YOLOv8-FP16 推理 50 ms/Frame，对接 MES 实时锁批
6	军工高可靠板	裂纹、划伤、异物	真空吸附平台 + 多角度环形光；检测数据留存 10 年，满足 GJB 要求
7	LED 铝基板	白油残缺、线路缺口	白光 + UV 双通道相机；YOLOv8 多任务头同时检测缺陷与字符，实现一机两用
8	维修返修站	返修板二次缺陷确认	手持式 2000 万像素工业相机 + 笔记本；离线模型权重仅 6 MB，现场一键升级