别掉坑|C++中如何正确找到Mat最大值

原创 OpenCV学堂 2024-09-16 17:10

构建AI未来，Arm计算平台无处不在 如何提升高压系统的实时性能?

点击上方蓝字关注我们

微信公众号：OpenCV学堂
关注获取更多计算机视觉与深度学习知识

引言

我今天看到一段别人写YOLOv8 + TensorRT对象检测后处理代码，其中有一段代码跟我写不的不一样，代码如下：

感觉它的代码貌似要比我现在的代码看上去简洁很多，感觉会很提升速度，于是我就把这段后处理代码给搬过来，然后跟我之前的代码测试一下，结果却让我怀疑人生，都是YOLOv8n FP16的模型，同一个视频文件，测试结果对比如下：

我原来的代码YOLOv8 + TensorRT

修改以后的速度：

真的让我晕倒，可见看着很高级的代码，实际却很坑爹。

对比与原因查找

注意，相同部分我已经忽略！

这个是我原来的YOLOv8+TensorRT代码后处理：

for (int i = 0; i < det_output.rows; i++) {  cv::Mat classes_scores = det_output.row(i).colRange(4, 4 + nClasses);  cv::Point classIdPoint;  double score;  minMaxLoc(classes_scores, 0, & score, 0, & classIdPoint);
  // 置信度 0～1之间  if (score > this -> score_threshold) {      float cx = det_output.at<float>(i, 0);      float cy = det_output.at<float>(i, 1);      float ow = det_output.at<float>(i, 2);      float oh = det_output.at<float>(i, 3);      int x = static_cast<int>((cx - 0.5 * ow) * xy_factor);      int y = static_cast<int>((cy - 0.5 * oh) * xy_factor);      int width = static_cast<int>(ow * xy_factor);      int height = static_cast<int>(oh * xy_factor);

这个是我看到老外开源的YOLOv8+TensorRT推理后处理：

  for (int i = 0; i < det_output.rows; i++) {    auto rowPtr = det_output.row(i).ptr<float>();    auto bboxesPtr = rowPtr;    auto scoresPtr = rowPtr + 4;    auto maxSPtr = std::max_element(scoresPtr, scoresPtr + numClasses);    float score = *maxSPtr;
    // 置信度 0～1之间    if (score > this->score_t)    {      float cx = *bboxesPtr++;      float cy = *bboxesPtr++;      float ow = *bboxesPtr++;      float oh = *bboxesPtr;
      int x = static_cast<int>((cx - 0.5 * ow) * rate_xy);      int y = static_cast<int>((cy - 0.5 * oh) * rate_xy);      int width = static_cast<int>(ow * rate_xy);      int height = static_cast<int>(oh * rate_xy);

个人认为最有可能出问题的就是那个替换cv::minMaxLoc函数的std::max_element函数，于是我用一张512x512大小的图像，针对这两个函数分别遍历行，找到每一行的最大值，从而对比他们的执行时间，基于cv::minMaxLoc函数的代码如下：

int64 start = cv::getTickCount();for (int r = 0; r < h; r++) {  cv::Mat one_row = dst.row(r).colRange(0, w);  cv::Point classIdPoint;  double score;  minMaxLoc(one_row, 0, &score, 0, &classIdPoint);  //std::cout << "max value: " << score << std::endl;}float t = (cv::getTickCount() - start) / static_cast<float>(cv::getTickFrequency());std::cout << " run time: " << t * 1000 << " ms " << std::endl;

执行时间为：

基于std::max_element函数的代码如下：

int64 start = cv::getTickCount();for (int r = 0; r < h; r++) {  auto rowPtr = dst.row(r).ptr();  auto maxSPtr = std::max_element(rowPtr, rowPtr + w);  float score = *maxSPtr;  //std::cout << "max value: " << score << std::endl;}float t = (cv::getTickCount() - start) / static_cast(cv::getTickFrequency());std::cout << " std::max run time: " << t * 1000 << " ms " << std::endl;

执行时间为：