介绍如何创建优化Pytorch/onnx C++部署框架，如果用英伟达的显卡加速（CUDA/TensorRT）模型的推理，如何在产品中应用。在此课程中会定义统一的借口，可以加载各种onnx模型，最主要的是如何在部署的时候避坑。

本文来自360doc，本文主要介绍如何使用KERAS这个现在最新的深度学习框架来构造实用的深度学习模型。深度学习是目前最热门的高级分析技术之一，在很多方面表现出了超越传统机器学习方法的有效性。但是在常用的TensorFlow，CNTK，Theano等计算环境中实现不同的深度学习模型仍然需要耗费很多时间来编写程序。KERAS的出现提供了一个高度抽象的环境来搭建深度学习模型，特别是其简单易用，跟网络结构一一对应的特点使得其迅速在数据科学家这个使用人群中流行起来。KEARS是Google工程师FranoisChollet为主创人员，基于Python开发和维护的一个抽象的神经网络建模环境，提供了一

tensorflow的模型在移动端运行时往往需要进行模型压缩。这主要有于两方面的原因：1.模型过大不易加载和下载，运行时内存占用率太高。2. tensorflow的模型在训练的过程中可能为了训练会添加一些操作和节点，而tensorflow的移动端只专注于推理，这样在运行时就会产生一些内核不存在的错误。所以此时需要通过压缩来减少一些和输入及输出不相关的节点。

公司做图像识别，本人开发的模型标注工具。使用画板进行渲染标注，是学习画板不错的例子，也可以用来对深度学习样本进行标注，具体需求大家根据实际情况可做调整更改。 软件特色（1.0版本）： 1.多分类管理 2.拖放图片自动复制整理并序列命名 3.标注结果自动保存 4.实时预览标注矩阵与核心点等信息（应公司大佬要求，本标注工具核心点并不是重心点，使用的朋友需要根据实际情况修改，代码中已经给了注释） 5.根据图像明暗程度自动标注（稳定性有待考量，尝试后期引入分水岭算法） 6.实时显示鼠标位置与标注坐标位置 7.内置多种位图算法，二值化，灰度，降噪，保留主体等，方便图像处理 8.更多功能自行发现 同事在使用过程中出现了一些大大小小的需求 3.0版本 更新内容如下: 1.可以更改不同类型的标注颜色 2.可以通过按钮导入图片 3.自动更改注册表，解决一些win10无法拖动的问题 4.批量合并分类并重名的导出文件 5.增加子物体标注 6.优化界面布局 7.增加鼠标中键拖动图片 8.支持标注各种尺寸图片

这是我参加百度 “ 人群密度检测 ” 比赛训练的模型，可利用百度Paddle平台导入该模型对图片或视频流信号进行人流密度检测。

- 基于螺旋桨尺寸和转速计算推力的回归问题的深度学习模型。 数据来自 APC 螺旋桨网站，因此这只适用于 APC 螺旋桨。 - 也可作为在 APC 螺旋桨性能数据集中进行搜索的工具。 数据是从APC官方螺旋桨下载的链接： https : //www.apcprop.com/technical-information/file-downloads/

HoloLens-2-机器学习 使用在ImageNet 1000类数据集中训练的EfficientNetB0模型进行图像分类。 使用其板载CPU在HoloLens 2上直接运行模型推断。 关于 已在Unity 2019.4 LTS，Visual Studio 2019和HoloLens 2中进行测试 Rene Schulte的示例构建 输入大小为(224, 224)视频帧以进行在线推断 EfficientNetB0框架的预先训练过的TensorFlow-Keras实现被直接转换为ONNX格式以供本示例使用 运行样本 在Unity中打开示例 将构建平台切换到Universal Windows Platform ，选择HoloLens作为目标设备，并选择ARM64作为目标平台 生成Visual Studio项目并打开.sln文件 将onnx-models\model.onnx文件复制到Buil

2019ai开发者大会，旷视研究院张祥雨博士关于如何进行轻量级神经网络模型设计所做的精彩分享，以手机人脸解锁为例，详细介绍了轻量级架构、模型搜索、模型裁剪方面的技术

深度学习模型结构可视化神器——Netron(支持tf, caffe, keras,mxnet等多种框架).

基于神经语言模型的词向量表示技术能够从大规模的未标注文本数据集中自动学习词语的有效特征表 示，已经在许多自然语言处理任务及研究中取得重要进展．微博中的表情符号是微博情感分析最重要的特征之一， 已有大量的研究工作在探索有效地利用表情符号来提升微博情感分类效果．借助词向量表示技术，为常用表情符 号构建情感空间的特征表示矩阵ＲＥ；基于向量的语义合成计算原理，通过矩阵ＲＥ 与词向量的乘积运算完成词义 到情感空间的映射；接着输入到一个ＭＣＮＮ（Ｍｕｌｔｉ－ｃｈａｎｎｅｌ　Ｃｏｎｖｏｌｕｔｉｏｎ　Ｎｅｕｒａｌ　Ｎｅｔｗｏｒｋ）模型，学习一个微博的情 感分类器．整个模型称为ＥＭＣＮＮ（Ｅｍｏｔｉｏｎ－ｓｅｍａｎｔｉｃｓ　ｅｎｈａｎｃｅｄ　ＭＣＮＮ），将基于表情符号的情感空间映射与深度 学习模型ＭＣＮＮ结合，有效增强了ＭＣＮＮ捕捉情感语义的能力．ＥＭＣＮＮ模型在ＮＬＰＣＣ微博情感评测数据集上 的多个情感分类实验中取得最佳分类性能，并在所有性能指标上超过目前已知文献中的最好分类效果．在取得以 上分类性能提升的同时，ＥＭＣＮＮ相对ＭＣＮＮ的训练耗时在主客观分类时减少了３６．１５％，在情感７分类时减少 了３３．８２％．