从生物识别镜看面部识别系统缺陷 - 安防知识网

面部识别系统的最大缺陷在于会放大人类的偏见。

　　墨尔本大学近日进行了一项社会实验，在其图书馆门厅角落装上了一款生物识别镜（Biometric Mirror），它要求人们加强并使用AI应用程序以及当前的面部分析系统来确定各种个性特征。

　　据了解，该系统基于公开可用的众包个性属性数据集，其中包括数千张面部照片，随后由超过30,000名评估多种特征的受访者评分。除了诸如性别、年龄和种族等更客观的属性之外，该系统还被要求检测一些更抽象的主观特征，包括攻击性、怪异性和情绪稳定性。

　　不过，与其他面部识别系统的正面识别作用不同，该生物识别镜的目的不是开发揭示对个体能进行客观，甚至特别准确的分析的面部识别系统，而是突出现代面部识别技术背后的根本缺陷，这种技术通过基于有缺陷的数据集可能有问题地放大人类偏见的方式。

　　墨尔本大学项目的首席研究员Niels Wouters表示，“我们想要提高认识的是，如果这种技术商业化（我们已经看到类似的应用），那么这会产生严重的后果。假设这种技术已经在世界各地实施，那么将引发更多担忧。所有这些系统背后的基本问题是尽管算法在技术上可能是准确的，但它们使用的数据集几乎总是有缺陷的。”

　　去年，英荷快消巨头联合利华已经在其招聘流程中实施了一个视频访谈系统，该系统测量面部表情，以评估特定工作的最佳候选人。当时HireVue认为他们，他们所推出的视频访谈系统实际上可以消除人为偏见。

　　但Wouters认为他们对着这种技术具有盲目的认同感，这种对技术的错误信念是令人担忧的。

　　外媒New Atlas记者Rich Haridy在亲自测试生物识别镜后发现，人工智能似乎100％肯定他是高度攻击性的，这点非常奇怪，而且非常不负责任。当他第二次不戴眼镜穿过这个系统时，虽然他的攻击性和怪异评分仍然很高，但这次微笑让他的情绪稳定评分更高。作为人类驱动的数据集如何能够固有地保持偏见的一个例子，Wouters认为有胡须的男性往往被发现具有高度攻击性。

　　最终，研究人员希望借助生物识别镜提醒人们，尽管世界各地的面部识别系统实施得非常广泛，但这种技术仍然处于早期阶段，依旧有缺陷存在。