OpenVINO Runtime支持同步或异步模式下的推理。Async API的主要优点是，当设备忙于推理时，应用程序可以并行执行其他任务（例如，填充输入或调度其他请求），而不是等待当前推理首先完成。 当我们使用异步API时，第二个请求的传输与第一个推理的执行重叠，这防止了任何硬件空闲时间。本视频中，我们以YOLOv8模型为例，对比了OpenVINO分别使用同步推理接口以及异步推理接口的推理速度情况。
其中同步推理一帧平均推理时间为43.02毫秒，而异步接口一帧平均推理时间仅为11.37毫秒，异步接口一秒钟平均可以实现87.98FPS的推理，是同步推理的3.78倍，速度快到飞起！！
2024-07-15 10:28:28
35.26MB
1
w_openvino_toolkit_p_2020.2.117的exe文件，可用于cpu加速，opencv dnn调用
2023-01-31 15:06:11
197.88MB
1
对应文章https://blog.csdn.net/taifyang/article/details/124332344
2022-12-04 16:27:40
83.96MB
1
oppenvino推理用runtime，适用于windows系统包含lib及dll
其64位qt配置为：
LIBS += -L$$PWD/runtime/lib/intel64/Release -lopenvino -lopenvino_c -lopenvino_ir_frontend -lopenvino_onnx_frontend -lopenvino_paddle_frontend
INCLUDEPATH +=\
$$PWD/runtime/3rdparty/tbb/bin \
$$PWD/runtime/bin/intel64/Release \
$$PWD/runtime/3rdparty/hddl/bin \
$$PWD/compile_tooln \
$$PWD/runtime/include \
$$PWD/runtime/include/ie \
$$PWD/runtime/include/ngraph \
$$PWD/runtime/include/openvino
2022-12-02 14:29:51
61.22MB
1
arcfaceresnet100-8及scrfd_2.5g_kps_S模型（openvino的xml及bin及普通的onnx模型）
两者均为开源预训练模型，注意arcfaceresnet100-8模型输入已由RGB调整为BGR，即可由opencv读取后直接输入。其内findface.xml为opencv的开源人脸检测库。调用方式为：
cv::CascadeClassifier cascade_face = cv::CascadeClassifier("findFace.xml");
cascade_face.detectMultiScale(frame,faces,1.09,1,0,Size(90,90),Size(400,400));
if(faces.size()!=0)
{
}
2022-12-02 14:29:39
653.94MB
1
OpenVINO的深度学习部署工具套件主要包括两部分，一个是模型优化器，另外一个是推理引擎。模型优化器是由Python编写的，推理引擎是一套C++函数库以及C++的类
2022-11-16 09:45:40
190.48MB
1
#清磁盘啦~，CSDN“网盘”真好用，感谢CSDN~
基于openvino实现的口罩检测模型face_mask_detection
2022-10-08 21:05:00
3.64MB
1
openvino安装配置过程中缺少的文件，里面包含两个文件：squeezenet1.1.caffemodel及squeezenet1.1.prototxt
2022-09-22 17:05:29
4.4MB
1