过去半个多世纪以来,依靠摩尔定律的奇迹,人类成功地在更小的空间里容纳下更多的计算力。但是,摩尔定律已濒临终点,单位面积晶体管数量的提升终将触及物理极限。与此同时,智能算法的性能仍在万倍增长。在无法向摩尔定律继续要算力,而人工智能仍在飞速发展的情况下,我们该如何提升计算力,如何发展人工智能?
显然,这是接下来推进人工智能普及应用所必须要解决的问题,在5月9日于上海举办的 “极智·求索”产品发布会上,依图科技对于这个问题给出了他们的思考和答案。当天,依图宣布推出其首款视觉推理AI芯片产品“求索”questcore™,以及基于该芯片构建的软硬件一体化系列产品。
questcore™ 芯片的发布和上述提到的提升人工智能计算力有何关联?
依图科技首席执行官、联合创始人朱珑对此解释道,摩尔定律的终结和人工智能技术的发展将开启一个新的时代——算法即芯片时代。在算法即芯片时代,好的算法才能更高效地利用芯片架构,或者说指导芯片架构设计,同时把算力更高效地转化为智能。
算法即芯片时代来临
“过去,在摩尔定律下,人们脱离了算法来设计芯片。算法即芯片这句话非常本质,只有能找对问题,找对场景,用对算法,并为此定制芯片,才有可能做到极致性价比。”朱珑强调。
直白来讲,依图认为,要实现AI在特定场景下应用效能的最优化,除了提供卓越的识别算法之外,定制化的底层算力平台也尤为关键。“优质算法+定制化芯片”的双优性能叠加才能让AI效能发挥到极致。
带着这样的认知和理解,依图当下推出的questcore™正是一款专门针对计算机视觉相关应用开发的定制化芯片。不仅如此,据依图方面介绍,questcore™还针对依图的算法做了专门优化,适用于人脸识别、视频结构化分析、行人再识别等多种图像和视频实时智能分析任务。
在依图本身强大的算法基础之上,questcore™这颗基于依图算法做优化的定制化芯片,无疑成为算法即芯片最合理的注解。
一颗具有开创性的AI芯片——questcore™
questcore™采用依图自研的架构,具有灵活可拓展的特质,适配各类深度学习算法。 单芯片可支持64路全高清实时解码。芯片自带网络支持,支持虚拟化,支持 Docker,支持通用视觉的检测、分类、识别、分割、跟踪等任务。
在实际的云端应用场景,依图 questcore™ 最高能提供每秒15 TOPS的视觉推理性能,最大功耗20W,比一个普通的电灯泡还小。在同等功耗下,questcore™ 产品的视觉推理性能是市面现有主流同类产品的2~5倍。
从参数以及现场实时演示中我们可以明显感受到questcore™在性能表现、功耗、可扩展性以及性价比等各方面的突破。正如朱珑所表示的 “依图致力于提升单位面积算力转化的智能,让智能应用大规模推广成为可能。”
提高单位面积的智能算力,从用户角度来追求极致性价比是依图打造questcore™的初衷和动力。而questcore™的整体表现,显然是符合甚至超出大家预期的。
在依图科技首席创新官吕昊的现场演示中,我们看到体积与两台15 英寸笔记本类似的依图 AI 服务器,成功带动 200 路摄像头完成实时的智能视频分析任务。
实测结果表明,一台基于依图questcore ™的AI 服务器提供的算力与 8 张英伟达 P4卡服务器相当,而体积仅为 50%,功耗更是不到后者的20%,将数据中心整体运维成本降低了80%。这意味着,使用依图questcore ™构建的视频解析系统,将原本需要 16 台机柜的方案压缩到 1 台,使整体建设费用投入减少 50%,运维成本降低 80%。这样软硬件一体化的解决方案,带来算力性能飞升的同时,成本也成倍下降。
“没有典型场景应用没有意义”—朱珑提到
而依图本次推出的不单是一款具有突破性的芯片,而是一款已经能够投入商用的成熟产品。据依图方面表示,questcore ™将作为依图软硬件一体化解决方案的重要部分为客户提供高性价比支持,面向对云端智能视频实时分析等应用具有强需求的企业环境,比如交通运输、公共安全、智慧医疗和智慧零售等行业,赋能依图深耕的垂直行业。
依图造 “芯”,底气何来?
众所周知,市场上目前并不缺优秀的AI算法厂家以及AI芯片厂家,尤其在计算机视觉领域,技术更迭速度的加快以及应用场景的大量爆发,让市场上优秀的算法和AI芯片产品在过去这一两年来高频推陈出新,与此同时,垂直整合已成趋势。
如此背景之下,即便是进入到算法即芯片时代,为什么是依图来率先喊响口号?依图当下推出questcore™又有何底气?
这些疑惑,我们其实可以从依图这几年来在AI算法、垂直行业市场以及当前对于AI芯片的探索、布局、积累之上探寻到他们的深意。
首先在AI算法层面,作为国内首批人工智能四小龙之一,依图成名很早,其AI算法一直以高精准度著称,尤其在人脸识别方面。据依图透露,其人脸识别算法精度可能比市场上的第二名要高出百倍,过去 4 年,依图的人脸识别算法精度提升了100万倍。
依图人脸识别的厉害之处大家应该都有所耳闻,除了不时爆出的在国际性权威测试竞赛上刷榜的消息之外,还有曾引起轰动的张学友演唱会上人脸识别系统“抓逃”的典型案例以及在进出口博览会、金砖五国会议、乌镇互联网大会、博鳌亚洲论坛、G20峰会等大规模活动现场的安保应用案例,这些实用案例都足以说明依图已经拥有世界级的算法水准,并在此基础之上,保持着高标准的提升;
其次从依图在垂直行业市场的深耕沉淀来看,依图主攻的行业市场包括安防、医疗、园区、零售等领域,每一个垂直领域对于AI都有着行业特定的应用诉求,而随着技术在行业市场下沉越来越深,作为人工智能产品和方案提供商的依图会感知到用户更深层次、更细微的隐性需求。
厂商对于这些需求的理解将反映在他们的下一代产品和业务规划当中。而依图这几年来不断拓展算法的精度和广度,从计算机视觉拓展到语音识别、语义理解领域,再到当下在AI芯片领域展开布局。也正是基于对垂直行业市场需求的深刻理解,一步步完善自身的产品线和业务版图,以便为行业用户带来更具性价比、更卓越的人工智能赋能体验,助推垂直行业的智能化发展;
最后从芯片层面来讲,同为云端推理芯片,相比于芯片大厂如英伟达的通用型芯片,依图questcore™更聚焦于计算机视觉技术相关应用场景,为垂直行业用户带来了定制化的高性能算力方案。
同为计算机视觉领域定制化芯片,相比于其他AI芯片商,questcore™出自算法厂商依图以及其合作伙伴ThinkForce之手,其实从两年前便已经开始投入研发。questcore™本身就包含着依图这7年来对行业市场的深刻理解以及ThinkForce在AI芯片领域的技术沉淀,questcore™在性能、功耗、成本、易用性、性价比等方面都有基于用户需求做平衡和优化。与此同时,questcore™还可同时兼顾云端和边缘端应用。这些都标志着questcore™的独特性。
可以说,依图造“芯”并非一蹴而就, 带着对算法即芯片的前瞻性认知,以及在AI算法、垂直行业的夯实积淀,questcore™的诞生是依图对于AI落地路径深刻认知之后的顺势而为。
用世界级的芯片来匹配世界级的算法,并满足世界级算法的升级空间,这种极客思维,在其他厂商那里,是两个命题,而在依图这里,世界级的算法和芯片,是一体的。
同时,依图又是务实的。 “我们并不是为了「做芯片」而做芯片,主要是为了提升产品的竞争力,继续深耕行业来做这个研发,初衷非常简单。”依图对媒体表示。
向伟大靠近 依图开启“芯”时代
“在没有先例可循的人工智能时代,中国AI创企与世界巨头站在同一条起跑线上,完全有机会成为新时代的巨头。”
朱珑在发布会现场提到的这句话,并不是一句空话,而是国内AI企业的一种集体信念。“敢为人先”的依图让这种信念表现得更为明显。从最初立足于计算机视觉算法领域到进军语音识别和自然语言处理,再到当前将业务版图延伸到AI芯片,朝AI芯片巨头英伟达叫板。
依图的每一次尝试和探索,都是在原业务基础之上横向跨越到了一个全新的技术领域。由于不同分支之间技术逻辑的极大差异性,这也让依图的“两连跨”在整个AI业界引起轰动。
外人或许认为依图在AI领域的广撒网布局显得不够专注,但其实对于依图本身而言,这家带有“极客”主义色彩的企业,他们在AI领域的探索和布局,迈出的每一步都源自于对AI未来演进的前瞻性认知,以及稳打稳扎的技术能力储备。
早在2017年,朱珑在关于“AI发展历史和预测”的话题探讨中便表示,AI发展带来的多维度技术和各场景深度结合、叠加会带来更有冲击力的体验。从多技术维度来说,从视觉,到听觉、语义理解、运动控制会在之后几年都会快速突破;和芯片结合,端智能渗透到与用户的最后30公分的交互体验,从Internet Of Things向Internet Of Intelligence跨越,让智能无处不在。
这几年来,依图陆续发力语音识别、语义理解AI分支领域,并在其专注的智慧医疗、智慧城市等垂直应用领域,深度契合应用场景的特定需求,通过自主研发开创了一条“视觉+语音”复合型AI技术应用的路径,驱动应用场景的创新。
而questcore ™求索芯片的发布,再度丰富了依图的AI版图,从视觉+语音+语义,从算法+AI芯片算力,这也意味着依图成为众多明星初创企业中,实现了AI技术和业务版图从计算机视觉、语音识别、语义理解跨越到自研AI芯片的全栈技术人工智能公司,在没有先例可循的AI时代,完成这几大不同AI分支的版图部署,依图只花了不到三年时间。
伟大的公司都发迹于中小微,一家拥有如此高能量密度的创业型企业,在这个充满不确定性的大时代,带着比肩世界巨头的理想和些许实力,不断突破自我,在某个时刻成长为新的世界巨头,这个故事将充满想象!