云侧还是边侧,AI下的时代命题!
2022年8月6日,“以边缘的力量”为主题的全球边缘计算大会在深圳成功召开,本次大会由边缘计算社区主办。
作为边缘计算领域的技术盛会,本次大会齐聚各大企业、高校的技术专家和行业领袖,共同探讨5G、边缘计算、云边协同、边缘智能、边缘云、工业物联网等国内外边缘计算的前沿技术及理念。
英码科技致力于AIoT细分领域的场景化解决方案,始终坚持积极研发AI场景应用创新的边缘计算软硬件产品。在本次全球边缘计算大会上,英码科技AI场景应用事业部总监卢志涛受邀参加,并重点分享了英码科技在“边缘计算”突围的“方法论”。
1、抓住边缘计算的先机:唯快不破
随着5G、人工智能、大数据、AIoT等前沿技术的发展,海量数据接踵而至,各种云计算开始成为数据采集、分析和决策的主流,当市场都一致认为这是风口的时候,英码科技却以“侧翼”飞出并突围,征战“边缘计算”。
伴随着业务场景的不断变化和丰富,边缘计算继承云计算的智能,其内涵不断被重新定义和延展,也被认为是“贴地”的云计算。
市场研究机构Trend Force预测,边缘计算产品和服务市场在2018年至2022年将以复合年增长率超过30%的速度增长,这一增速或有望打开千亿级美元的市场空间。
另据Gartner统计分析,到2025年,有75%的数据将产生于边缘,2023年底有50%以上的大型企业将至少部署6个以上的边缘计算应用,主要用于物联网或者沉浸式的边缘计算体验。
根据Gartner预测,2020年全球边缘计算市场规模将达到411.4亿美元,到2022年中国边缘计算市场规模将达到325.31亿美元。如此可见,边缘计算产业正进入高速发展期,产业生态逐渐形成。
如今千行百业的智能应用和数据量激增,网络带宽与计算吞吐量均成为计算的性能瓶颈,同时终端设备产生海量“小数据”等实时处理需求高速增长,这就带动边缘计算成为数据时代技术落地的重要计算平台。
据了解,英码科技是2006年成立,以板卡模组设计起家,随后,从硬件到软件,一路征战,达到如今超过150人的规模。因此,英码科技在行业立足多年,有独特的市场优势,也有不一样的打法。
在智能时代,英码科技不仅提前嗅到了市场的商机,还及时在硬件、软件方面开始部署“边缘计算”的技术、方案等的研发和落地应用,将算法部署、算力应用赋能千行百业。
那么,英码科技理解的“边缘计算”有何不同,它有哪些独特的优势?
目前市场上常见的计算方式主要有三种,第一种是云侧智能,就是把采集到的视频数据上云,在云端进行算法分析及业务应用,适合数据量大且业务较复杂的场景;
第二种是端侧智能,视频数据在采集端即时算法分析后再传输,适合场景算法标准化且业务较简单的场景;
第三种就是边侧智能,也叫边缘计算,视频数据在边缘侧进行算法分析后再上传云端,适合场景算法需求多且业务能自行闭环的场景。
如今是“场景为王”的时代,虽然现在云端和终端的算法应用,技术相对成熟了,但是如果所有数据都放在云端或者终端,数据分析系统复杂而庞大,成本高,难运维,实时性差,链路长,难以满足千行百业用户的定制化需求。
换句话说,当场景越来越细分的时候,需要大量的定制化算法、小场景应用。此时若再用笨重的大平台部署方式,成本和架构都与现实需求脱轨,于是,英码科技便发现了边缘计算的机会点。
“边缘计算”能在边缘侧就解决部分数据分析的难题,充分衔接端与云的“中间一公里”,满足碎片化场景的需求,算法也更加多元,市场空间更大,能真正实现细分场景的业务闭环。
于是,英码科技便有了专属的市场定位:软硬一体,扬长避短,用场景定义硬件。
2、市场定位:用场景定义硬件,赋能千行百业
近年来,在AIoT技术驱动下,边缘计算的商业价值正逐渐凸显。边缘计算本质是将原本集中在大型云计算平台的数据计算、分析、存储能力下沉,如图像类非结构化数据的处理,通过算法模型前置,边缘设备即可以完成数据的特征提取和推理分析,实现AI能力的下沉。
因此,低功耗、低时延、低带宽也成为了边缘计算的代名词。
边缘计算处在风口,市场竞争异常激烈,常规“作战”模式未必能有一席之地,英码科技唯有另辟蹊径,发挥15年硬件设计制造和软件方面的沉淀和优势,打造独有的边缘计算产品体系和生态。
在硬件方面,为解决人工智能发展的算力痛点和难点,英码科技陆续推出了适配多个平台的AI模组和边缘计算盒子产品,完成了从2T~32T的低、中、高算力系列产品布局。
同时,英码科技联合知名AI芯片厂家,实现了不同芯片平台组合的异构方案,让边缘计算设备可以更好地支持AI加速以外的软件应用。
这个异构方案可由单CPU芯片结合1~2个NPU芯片,最高实现32T的高算力盒子产品,是一个具备行业重要价值的产品创新成果。
这也让英码科技成为国内少有的拥有跨多个芯片平台边缘计算盒子的企业,这更是英码科技的硬件能力。
在软件方面,英码科技自主设计研发出一套边缘计算管理平台:新一代AIoT中台,这是一套高效、便捷的一体化管理系统,能集中管理所有边缘设备,解决用户断点式管理难题,提高软硬件之间的契合度,让管理更加得心应手,帮助企业降本增效,助力智能化转型。
英码科技AIoT中台具备三大优势:适配国内主流AI芯片平台、算力协同、模型自优化。它提供灵活搭配的算法模型和可视化的智能、高效管理模式,助力各类细分场景AI算法快速部署到边缘计算设备,支撑各行各业实现AI碎片化场景落地。
它主要面向两大类的客户群体:
1)集成商客户群体:为他们提供边缘计算产品能力,集成更友好,选型更快捷,算法更丰富;
2)算法厂家客户群体:为他们提供边缘计算服务能力,移植更简单,应用更容易,部署更方便。
对于算法厂家来说,相比于以往的GPU方案,英码科技的边缘计算盒子,在同等算力的情况下,成本至少下降50%。
不少公司并不是对边缘计算不动心,而是觉得每个平台的适配周期很长,开发成本很高,不敢轻易尝试,那么英码科技的AIoT中台,涵盖了国内主流的AI平台,产品能力出类拔萃,六大优势也显而易见:
◆ 多平台移植经验,提供的是“能够解决客户问题,同时能够广复制”的高价值商业服务;
◆ 嵌入式开发能力,形成轻量化、易部署的产品优势,增强智能硬件的应用能力;
◆ 软硬件自定义,软硬一体高效协同,逐步形成场景灵活性与高适配度的高价值解决方案;
◆ 系统级架构设计,最大发挥云边的共生互补,全面覆盖多个边缘场景,为边缘智能底层技术和应用的多元性提供更多可能;
◆ 算法生态层面,英码设定了一个开放式的算法仓库,与生态伙伴们共建,能依据场景按需加载,端云协同成倍提升智能力;
◆ 对于产品成本能力的考量,英码技术逻辑是好用且不贵,易用又贴近工程,形成可长期持续运营的产品竞争力。
其中,跨平台算法移植是这个中台最大的优势,指的是中台具备足够多的算法生态厂家,而且厂家能够快速地在各个AI芯片平台跑通。
底层硬件平台,以组建的形式提供服务,有常规的目标检测,也有图像分割,加上英码科技的软硬件产品全部是自研的,成本可控,这是比较大的优势。
而对于集成商客户来说,它们没有算法的能力,但需要方案、项目集成的打包能力或者是定制能力。
那么,英码科技可以提供一个标准的API接口,开放二次开发接口,支持生态算法融入,通过这个AIoT平台,可以快速集成和应用,大大缩减适配周期,解决边缘计算产品从选型到场景应用落地的“软硬一体化”服务。
简单来说,针对不同的场景需求,英码科技既有单个边缘计算盒子解决场景应用的方案,也有通过边缘计算盒子集成不同算法、算力分析的场景应用方案,从场景出发,赋能千行百业。
赋能场景,英码边缘能力输出后,目前,英码科技已拥有大量的服务客户,覆盖的领域包括智慧工厂、智能工地、智慧加油站、智慧城管等。
3、AI+边缘计算,把降本增效做到极致
2018年,英码科技以边缘计算征战AI场景化落地,除了自身硬件优势外,英码科技还根据软硬件集成的能力,打造了新一代AIoT中台,把自身的软硬件产品线打通,为客户提供更多高中低端的选择和搭配模式。
但是,边缘计算的赛道逐渐拥挤,英码科技将面对哪些挑战?又将在何处发力?
AI技术发展多年,应用范围和技术成熟度,都已被大家熟知,但是它的适应性、商业模式、定制化、碎片化等,依旧是众多AI企业或者大厂面临的共同难题。
以英码科技而言,面对的挑战主要是两个方面,一个是硬件层面的适配性,一个是项目周期拉长的问题。而这也是英码科技未来的着力点。
第一,要将硬件层面的适配和性能提高,把降本增效做到极致。
此前,AIoT传统的智能化解决方案是根据硬件“灌”算法,即根据不同型号、不同种类的硬件来为其适配一套算法,这种解决方案是以硬件为主导的。
这就导致硬件、场景和AI算法之间的联系较为割裂,硬件的设计没有考虑AI算法数据采集和硬件适配的需求,这导致算法的复用度低,算法必须在硬件功能与场景之间寻找平衡,性能上做出妥协,硬件的性能与真实需求之间存在鸿沟。
AI时代的基础产品不再是一个个孤立的硬件载体,也不是一个硬件搭配软件这么简单,需要有一整套的具备扩展性和低成本的软硬件体系。
比如,英码科技的边缘计算盒子,以场景为载体做优化,让硬件产品的性能和适配性获得更大的提升,给客户的感觉就是成本相当,但性能提升,达到降本增效,成本起码能节省50%。
第二,锤炼技术,缩短项目周期。
AI在落地应用的时候,面对的最大挑战是定制化和碎片化。场景碎,技术落地难,是业内普适性的挑战。
场景细分时,定制化需求增多,对硬件能力、软件能力、集成能力、平台能力等的要求都需要“一步到位”、快速响应。
在这个“场景为王”的时代,英码科技始终加大研发投入成本,锤炼软硬件技术,让用户无需频繁更换硬件,就能通过场景定义硬件,在边缘侧实现数据的分析和决策,大大缩短项目的周期。
总结:
随着5G技术的发展以及AI能力的日益成熟,以及前端和终端算力越来越强,数据互联的行业应用场景会更分散、更多元,会有更多计算发生在远离传统数据中心的地方。
而边缘计算和人工智能的融合部署将会极大延展传统云计算对数据处理分析的能力。
云、边、端协同发展、融合,是AI应用普及化的必要条件之一。而拓展AI应用边界的边缘计算,正在突破安全性、可靠性和成本方面的限制,成为各行各业智能分析、智能决策、智能运营的新方案。
英码科技顺势而为,抓住边缘计算的市场机遇,以软硬一体化的技术路径和商业逻辑为用户进行场景赋能,为用户提供一个有英码科技特色的产业生态系统。对于AI,放置于万千场景,以边缘之力再造,奉行的是“由内而外”的行业逻辑,看不见的建设与看得见的效率,以此来改变AI应用与交付体验。其实之于边缘计算,无数需求、模式在实践的验证后,刚需的迫切与市场走向也就彰显出来了。
未来的英码,在视界再一次变幻时,添增了另一抹色彩,以边缘之名,场景定义硬件,也将定义AI的与众不同与非同凡响。