从“云”到“端”，端侧AI正在成为趋势 - 安防知识网

大模型本地部署于终端对安防厂商来说是一次机遇和挑战并存的变革。

　　前言

　　在我们存在的现实世界里，随人潮涌动的信息数据像是缥缈在宇宙中的无数颗粒，每分每秒都在进行海量的信息交换，信息颗粒具有各自存在的意义，却无法聚集起来发挥更大的作用。

　　然而对于安防行业而言，一个个摄像头的存在使得物理世界中的颗粒被收集、被解读、被用来创造更大的意义，音视频成为现代社会重要信息载体，被越来越多的行业所重视。这些庞大的现实粒子需要进入虚拟网络世界被分析、解读、存储，世界越来越大，冗余的信息和噪声也随之增多，这就使得传统的“端侧”收集、传输数据+“边缘侧”“云侧”分析数据+“云侧”存储数据的模式对边缘盒子及云端的分析运算能力、人工智能处理能力要求很高，更是需要云端庞大的数据储存量和开发成本。冗杂的信息无法经过AI精细的筛选，定位到有效信息上，只能通过边缘侧、云侧的AI进行筛选，成本高、费时费力。

　　未来，随着模型的轻量化和终端硬件技术的突破，每台设备都有成为AI终端的可能。届时，算力、算法、存储等能力将会被嵌入终端，设备在端侧即获得了生物识别、信息运算处理筛选、危险分析预警、自动报警等能力，端侧的各种设备将从被动采集，到主动服务。

　　一、 “云”到“边缘”再到“端”，端侧AI正在发力

　　从概念上来看，云侧AI是指在云端汇集训练数据，模型的通用性强。从终端采集和感知到的声音、视频等数据都通过网络传输到云中心侧进行后续处理，也有可能加入边缘侧AI的配合。

然而AI不止于云，端侧是模型应用不容忽视的重要载体，指的是在终端设备上进行轻型模型的运用，让更多的AI计算和推理工作能够负载在摄像头、门禁、智能家居设备、手机、笔记本电脑、XR 头显、汽车和其他边缘终端上运行。随着用户对生成式AI应用需求日益增长，端侧AI的隐私安全、低延时、可靠性、低成本等技术优势将会为用户带来更便利的使用。

　　1、 AI手机势头高涨

　　手机目前是使用时间最长、频率最高的电子产品，在各种不同的场景中正在成为连接、统筹各种不同智能终端设备的中枢。然而只有真正植入AI大模型，才能真正创造个性化的“智能助理”，减少用户的操作，提高数据的处理效率，为用户带来极便捷的个人体验。不仅如此，收集到本地的数据更具安全和隐私优势，对于“智能助理”的训练也可以更加精确。手机中的AI大模型还可以打破各APP之间的壁垒，实现跨APP相互调用，使得AI手机具有人格化、记忆、感知和管理能力，能够触发主动服务。

　　对比苹果2011年推出的手机助手Siri(采用一问一答的形式)，AI手机具有人格化、记忆、感知和管理能力，能够触发主动服务，有望成为个人智能助理，为手机行业带来创新。

　　2、 AI PC为各领域提供创新解决方案

　　对比AI手机，AI PC更能体现为AI大模型、软件应用和硬件设施的综合体，通过云端与本地的协作，将云端大模型强大的数据处理能力应用到PC本地的各种应用场景中。虽然AI PC没有手机的应用场景广泛、使用频率高，但作为其他终端设备发展的过渡具有重要的意义：

　　(1)高速AI处理：AI PC能快速处理图像识别、语音识别、自然语言处理等AI任务，优化娱乐体验，映射到其他终端可以提高设备的生产力;

　　(2)增加AI应用：ISV有望提供NPU应用程序，将AI功能整合到现有应用程序中;

　　(3)新场景开发：AI推动新的业务场景和服务，包括医疗诊断、自动驾驶等;

　　(4)提升用户体验：通过语音、手势互动、AI个性化支持和高级安全等多样化功能改善用户体验。

　　通过在智能设备如手机、PC等植入AI大模型，将大模型部署于每个用户本地的终端，不同的终端设备将成为移动智能体，跳出原有“对话、生成答案”的局限，与其他智能终端形成关联，成为定制化的个人智能助理。

　　3、安防终端智能化升级

　　不仅是手机、PC等与个体用户息息相关的终端在积极推进AI的嵌入，安防相关的产品如智能摄像头、智能门禁、智能家居等也作为端侧设备在不断加速与AI的接入与融合，让独立存在的各种终端也具备像人一样的感知能力、像人一样的执行能力、像人一样的思考能力，实现与物理世界的自主交互。例如我们随处可见的摄像机，除了进行物理信号的捕捉并进行识别，还应该能够思考、规划与决策，且根据决策发出指令，发动行为。

　　面对不同场景、部门、个体，安防产品本身需要具备的性能要求不尽相同，但都同样需要有大量的产品基数。过去，在安防设备本身数量庞大、覆盖面积广的前提下，每分每秒发生的事情都会被设备无差别地“收入囊中”，再通过大量的人力和时间去进行数据的检索与归类，人工筛选出需要的数据，效率低下。随着AI的嵌入，在边缘侧和云侧的计算筛选能很好得帮助定位有效信息，这已经是一大进步，但云端的开发成本高，数据库因而也需要无法想象的存储量，有限的存储也需要定期进行过往数据的删除，安防产品的潜在功能无法很好的被利用起来。

　　AI嵌入端侧此时就能发挥出最大的功能。因为安防产品在经过长时间的沉淀后一直在努力朝着定制化、人性化的方向发展。根据不同场景、部门、个体的需求，算法、大模型嵌入端侧让有效的信息能够轻松地被生物识别、筛选出来，再进一步进行危险的预警和自动报警。云侧、边缘侧AI发展到目前，可以在安防产品上很好地运用。但是由于从端侧与云侧之间传输、分析、指令回传的过程，会产生一定的时延，如果网络不稳定，也会更加影响用户体验。

　　端侧AI作为真正落实到安防设备上的AI尝试，能够使不同的设备具备灵活的AI能力，处理即时性要求高、交互频繁的推理任务：在本地设备端拥有信息的识别、筛选等的功能，再在云端存储含金量最高的数据，从源头上将所有可接触到的数据高效地筛选成为满足安防需求的信息，数据的处理在本地完成，时延更短，且不容易受到网络质量的影响。端侧AI在数据隐私保护上也有先天优势，成本上又减轻了云端的计算负荷，可以节约云基础设施方面的投资。

　　二、政策扶持，发展环境向好，可能带动安防产业更新

　　随着轻量模型性能不断强大、端侧芯片算力不断提升，大模型部署于本地终端有望成为新的趋势。从技术发展的角度来看，国内外AI大模型能力不断迭代更新，软硬件配套逐步完善，打开端侧AI的应用空间。

　　IDC预测，2024年AI手机出货量将达到1.7亿部，占全球智能手机出货量的15%。英特尔预计全球今年将交付4000万台AI PC，明年将交付6000万台，预估2025年底AI PC在全球PC市场中占比将超过20%; AI赋能有望带来手机、PC、手表等智能可穿戴设备、平板、XR等各类数码产品、智能摄像头、智能门禁、智能家居的更新换代的热潮，而AIoT智能物联设备也有望在大模型加持下迎来全面升级，进一步通过端侧AI技术和产品的变革，对安防产业带来影响。

这些影响包括：

　　1、降低整体运营成本

　　一方面，算力上云端算力被边缘计算分流，这将减少云端算力的压力和能源功耗，能够降低运营的成本。另一方面，从运维的角度看，端侧AI可以帮助用户提升自动化网络管理和维护任务能力，减少人工干预，也将降低运营的成本。

　　2、减少对云端存储和运算需求的依赖

　　端侧AI普及的另一面，是对云端存储和运算需求的削减，尤其在一些要求实时交互的场景下，低时延成为重要的参考要素，本地化存储和运算能够做到更及时的响应。

　　3、推动5G网络建设

　　大模型本地部署需要更强大的网络连接，如AIoT的发展，将带动高带宽低时延广连接的5G网络的发展。安防厂商可以加快5G、5G-A网络的建设，为大模型本地部署提供良好的网络基础。

　　4、端云协同催生新业务模式

　　本地AI应用将快速发展，例如本地语音识别、图像识别、AR/VR等，安防企业可以抓住机遇开发新的AI应用和服务。如：提供本地AI模型的训练和部署服务、开发基于本地AI的垂直行业应用、提供本地AI安全和隐私保护解决方案等。

结语

大模型本地部署于终端对安防厂商来说是一次机遇和挑战并存的变革。需要加强对端侧AI技术的研发投入，提升自身技术实力。与终端设备厂商、软件厂商等合作伙伴展开合作，构建端侧AI的生态体系。积极探索端侧在各领域的应用场景，开发创新型AI应用和服务，制定合理的端侧AI商业模式。安防端侧AI何时能实现全面普及，安防知识网将继续观察市场动态，保持期待。