要对“智障”的人工智能说不吗？ - 安防知识网

“AI的智商如果超越人类，是一定会通过隐藏和撒谎，来让人类放松警惕”。

　　九十年代初，媒体曾经放言：人工智能会在十年内毁掉社会；而现在的人工智能，却似乎连猫狗都无法分辨，这听起来似乎有点“智障”？

　　而人工智能的“智障”不止是把猫识别成狗那么简单。微博上有一条关于“人工智能有多离谱 ”帖子，网友发布了被人工智能笑哭的不少场景，例如：用手遮挡口鼻被识别为戴口罩、脸敷面膜被人脸识别视为非活体攻击、学校人脸识别将狗识别为陌生人、人脸识别行人闯红灯抓拍系统告知公交车宣传海报上的人物和执法的交警识别为涉嫌违法人员，以及视频监控将婴儿车识别为非机动车，并提醒过斑马线需要下车推行等等，转行当谐星的人工智能真让人无语凝噎。

　　同时，人工智能的离谱还不仅仅体现在识别失败，极易攻击破解也成为其“智障”表现之一。清华大学人工智能研究院的瑞莱智能」（Real AI）团队，最近通过对抗样本攻击，破解了19款安卓手机的人脸辨识解索系统，同样破解的还包括十余款金融与政务服务类的APP。

　　从猫狗不分、到人脸识别错误再到人脸破解，人工智能展示出的种种“智障”行为，让你我不用再担心社会被其毁灭。在进行多方了解之后，笔者得知人工智能的”智障”主要在于：数据集的极度缺乏。

　　人脸识别的准确度很大程度上依赖于人脸识别算法的鲁棒性，算法的鲁棒性不够，复杂环境下的人脸识别就容易出错。尽管目前各家都号称人脸识别精度已经高达99.9%，但这种所谓的99.9%都需要在理想环境下得以实现。在当下，尽管数据量空前巨大，但是通过正当途径获取数据的远远满足不了算法训练的需求。在这种情况下，人工制作的数据集成为了人脸识别算法训练的主要来源。但人工制作的标准数据集，采用的数据具有目的性且较为干净，训练环境约等于理想化，而这种理想化环境中所训练处的算法模型，在复杂环境下难以对物体实现精准识别，复杂环境下的人脸识别，必须要有复杂环境中的算法模型即数据集进行支撑。这也是对人工智能的离谱做出的最合理解释。

　　但人工智能真的那么不靠谱吗？除去识别错误以及易攻击破解，智能化技术在各行各业的深度应用，的确让人们的生活发生了质的变化，离谱的人工智能也有其靠谱的一面。

　　以安防行业为例，安防行业的AI技术主要集中在人脸识别、行人识别、行为识别、步态识别、车辆识别、结构化分析等等，并已经智慧城市建设中得到了较为成熟的应用。在当下的智慧城市中，城市的“眼睛”（视频监控）在眼观四方的同时已经实现了对海量数据的精准识别和分析，社区治理从粗放式管理走向精细化管理、数字化建设中枢“城市大脑”也不断衍生出N个智慧应用组成，加速城市的智慧化进程。

　　那么，我们是不是可以这样认为，人工智能并不“智障”，其只是还不够聪明。人们发展人工智能的目的是什么？？李彦宏曾说过：“近年来的人工智能技术和算法的创新，其实和人脑的工作原理关系不大。对于人类而言，人脑是怎么工作的还没有弄清楚，用机器来模仿人脑更是无从谈起。AI 不是模仿人脑，而是用机器的方式，去实现人脑所能实现的价值和作用。”按照这种说法，当下还有点“智障”的人工智能，其终将经历技术爆炸后跨越技术奇点成为超级智能。而彼时的人工智能，或许将脱离人工的控制。

　　“AI的智商如果超越人类，是一定会通过隐藏和撒谎，来让人类放松警惕”。倘若如此，还是让换个发型就识别失败的人工智能继续“智障”下去吧，毕竟，生活最紧要了！