开源环境下，深度学习核心竞争力不在于算法和芯片 - 安防知识网

基于开源的代码和网络架构，各厂商采用的芯片和算法大多类似，如何在开源环境下重塑核心竞争力

　　在传统的智能分析之上，人工智能、深度学习的应用将安防推向至深度智能的新阶段，一时间，围绕着芯片和算法的讨论成为业内探讨人工智能应用必备的说辞。然而基于开源的代码和网络架构，各厂商采用的芯片和算法大多类似，如何在开源环境下重塑核心竞争力，本文将就此话题分享相关观点。

　　文/吴参毅浙江宇视科技有限公司首席算法架构师

　　人工智能对安防行业业务来讲，主要是对传统的智能分析业务的算法升级，而智能分析在安防业务应用中则主要用来实现对包含自然场景的视频图像进行结构化，其结构化的结果是对视频图像中的人、车、物等静态和和动态目标及其各种属性的检测与识别。因此，总体来说，人工智能在解决对视频图像的结构化工作方面比传统智能分析算法结构化的效果更好，性能更高。

　　从传统智能分析算法到人工智能，关键在于神经网络算法的优化升级，而这其中的关键，也正是从CPU过渡到GPU所带来的突破。

　　GPU实现了深度神经网络的技术突破

　　神经网络并不是一个新鲜的概念，在上个世纪就出现了LeNet网络，并运用在邮政编码中的数字识别。但是使用后向传播技术，神经网络模型训练样本一个训练样本时需要反复迭代多次，训练集中的样本越多，运算量越大，基于CPU进行训练，过程相当慢，达数日甚至几个月之久，这正是制约神经网络普及的一大因素。

　　GPU的出现把异常训练过程大大缩短。所以，目前的各种深度神经网络应用都是基于GPU实现。使用GPU搭建的神经网络应用大都是服务器形态。比如2016年10月份宇视科技与NVIDIA联合发布了新一代大容量分布式云结构化智能化分析服务器(代号“昆仑”)，在4U的高度上支持了80颗NVIDIA Jetson TX1处理器，一台“昆仑"可以并发处理640张/秒的人脸识别、160路的人员计数、80路人车物的结构化分析。

　　但是使用服务器实现智能分析，虽然GPU分析能力很强，但是服务器的视频解码压力很大。最理想的方式是把神经网络模型部署到前端采集相机，使得相机在输出视频图像的同时同步输出结构化信息。

　　人工智能在安防领域的应用基础和优势

　　目前的人工智能算法大都基于深度学习实现，深度学习训练神经网络模型是基于海量的训练集，同时需要训练集中的数据具有多样性和完备性。

　　安装在各种场景中的安防摄像机能够实现24*365天式的全天候的采集，可以源源不断的输出海量的数据形成训练集，从这个角度来讲，安防行业以其源数据信息量最大、数据层次最丰富的特性展现了在人工智能应用方面先天的优势。

　　安防领域人工智能应用需要解决的问题

　　人工智能的应用已然成为趋势，但要进入到下一阶段的规模化应用，目前必须先解决这样几大问题：

　　1)视频图像结构化工作适合放在前端智能相机实现，不宜全部放在后端服务器端，虽然服务器上插有多块GPU显卡，因为多路视频解码会对服务器造成压力，而这对GPU来说并不擅长。深度神经网络结构部署在前端智能相机就需要强大而又附有扩展性的人工智能芯片(不论是ASIC模式还是IP加速引擎模式)，而目前来看，能提供这样功能的芯片的厂商很少，同时各种神经网络结构层出不穷，现阶段这个领域的技术发展还不很成熟，但这是未来的方向;

　　2)有了人工智能芯片，下一个差距就体现在大数据集上，所以对安防厂商来讲，其最大的优势就在于是否建立起完备的海量训练数据集。现在的深度神经网络训练都是监督学习模式，所以需要对每个学习样本依照完成的任务建立相应的监督标签，这是耗时耗人力的工作，海量数据训练集是用户看不到的竞争优势;

　　3)是否建立起可扩展的、快速、可移植的深度学习框架。对于深度学习来讲，随着训练集的不断变化，或者更优秀的网络模型的出现，需要建立起一个可扩展的深度学习框架。所谓的可扩展，指的是训练环境能够扩展到多个GPU(跨多个主机)，使用更大更复杂的训练数据集，以训练更复杂的模型的能力。由于深度学习模型可能需要几天或者几个星期才能训练一次，因此即便是温和地改进，也会对新模型的开发和评估速度产生巨大影响。同时选择的深度学习框架能够快速构建新模型和更新现有模型的能力。最终训练得到的网络模型可能运行在多种设备和平台上，从多种服务器到多种智能相机，同时需要升级模型的智能相机一般都安装在距离比较远的位置，所以训练得到的模型必须具备充分的可移植性。目前可用的深度学习平台有Caffe、CNTK、MXNet、TensorFlow、Theano和Torch。

　　人工智能大环境下厂商的竞争之道

　　现在的各种深度学习框架代码都已经开源，甚至一些训练好的网络模型也开源了，开源的方式无疑推动了行业的快速发展，因为现在的人工智能，仅凭一己之力做好会很慢，必须通过群策群力共同把人工智能做好，芯片厂商提供可用于后端服务器和前端智能相机的人工智能芯片，安防厂商基于自有的海量数据集，训练特有的神经网络模型。人工智能芯片和海量训练数据集相辅相成，共同打造高性能的神经网络模型，实现高质量的视频图像结构化，最终借助开源的力量，大家共同获利。

　　基于开源的代码和网络架构，各厂商采用的芯片和算法大多类似，但对深度学习来讲，根本的竞争力并不在算法和芯片上，真正的核心也并不是神经网络代码和网络结构，而是基于具体行业应用的海量训练数据集，以及是否建立起快速的、可扩展的、可移植的学习框架。有了基于行业的独有的海量训练数据集，就可以训练得到相对竞争对手更优秀的模型。有了更优异的学习框架，就能够快速的不断的训练出新的更优秀的模型，并对新模型进行快速部署，不断的保持竞争优势。