a&s专业的自动化&安全生态服务平台
公众号
安全自动化

安全自动化

安防知识网

安防知识网

手机站
手机站

手机站

大安防供需平台
大安防供需平台

大安防供需平台

资讯频道横幅A1
首页 > 百科 > 正文

算法游戏到底让你头疼了几次?

 如今,神经网络的用处非常广泛——但我们并不知道它们究竟是如何工作的。现在,计算机科学家终于得以开始一窥AI的「思想」。
资讯频道文章B
  如今,神经网络的用处非常广泛——但我们并不知道它们究竟是如何工作的。现在,计算机科学家终于得以开始一窥AI的「思想」。

  了解某人心里的想法,就更能理解他的行为。对人工智能(AI)也同样如此。最近,一项新的技术能够在神经网络处理问题时「抓拍快照」,将能有助于我们了解神经网络究竟是如何工作的,并能为我们带来更好、更值得信任的AI。

  过去几年,构建于神经网络(多层相互连接的人工神经)之上的深度学习算法在AI的许多领域都取得了突破性的进展,包括自然语言处理、图像识别、医疗诊断和下围棋。

  但有一个问题困扰着人们,那就是我们并不知道它们是如何做到这些的。以色列理工学院的Nir Ben Zrihem说,深度学习系统是一个黑盒子。「如果它运转良好,那很好。如果它不工作,你就惨了。

  神经网络远远大于它的各部分之和。它们的组成单元非常简单——就是人工神经。Zrihem说:「你没法指着神经网络中的一个区域,然后说,智能就存 在于此。」但是连接的复杂性意味着我们有可能追踪深度学习算法到达某个给定结果的步骤。在这种情况下,机器表现得很像一个先知,而它的结果则不证而明。

  为了解决这个问题,Zrihem和他的同事创造出了深度学习的实时图像。他们说,这项技术就像计算机的fMRI(功能性核磁共振),可以捕捉到算法解决问题时的行为。这些图像允许研究者追踪神经网络进程中的不同阶段,包括死胡同。

  为了得到这些图像,这个团队交给一个神经网络一项任务——玩经典的Atari 2600电子游戏:《打砖块》(Breakout)、《海底救人》(Seaquest)和《吃豆人》(Pac-Man)。当这个深度学习算法玩游戏时,他们收集了这个算法的12万张「快照」。接着,他们采用一种技术绘制了这些数据的图谱,这种技术允许他们对游戏中反复尝试的场景进行比较。

  结果真的很像真正的大脑扫描图(如下图,左边是《海底救人》,右边是《吃豆人》)。只不过在这个案例中,每个点都是一个「游戏状态(game state)」,也就是游戏中每个时间点的一张快照。不同的颜色代表AI在那个时间点的表现如何。

算法玩游戏时究竟在想什么?对人工智能进行「脑扫描」吧!

 

  比如说,在《打砖块》中,玩家必须用一根横条和一个小球在彩色砖块组成的墙上撞出一个洞。每次算法尝试在墙上钻出一条隧道并把小球逼入墙顶区域时, 这个团队就会在图谱中发现一个明显呈香蕉形状的区域,这就是算法自己找出来的获胜技巧。绘制过关技巧的图谱,让研究者能追踪该算法如何成功地将技巧运用在 后续的游戏中。

  在《海底救人》中,玩家必须要躲避、收集或毁坏某些物体,并救起水下的潜水者才能获胜。这个游戏对AI来说更难掌握。在这些图谱中,研究者发现了数不清的失败策略,比如说在营救潜水者之前等待太长时间。Zrihem说,算法进行再次训练时,这些细节可能十分有用。

  构建一个完美的游戏策略是一件很好玩的事。对AI进行扫描则可以帮助我们磨炼算法,以设计出解决真实问题的算法,美国怀俄明州立大学的Jeff Clane如此说道。Clane对图像识别算法的研究让他创作出了一些可以迷惑神经网络的「错觉」,能让神经网络认为图片上的某处存在一些实际上并不存在 的东西。

  比如说,一个安全算法可能存在某些缺陷,让它在某些特定的情况下很容易被愚弄。还有一些算法,本是设计来确定银行是否应该向某人发放贷款,结果它可 能会对某些特定种族或性别的人产生偏见。Clane说:「如果你将这项技术部署到真实世界,你会想要理解它究竟是如何工作的,以及它在什么情况下可能会失 效。如果我们能更好地理解神经网络,那我们就能理解它们的弱点,并增强它们的长处。

参与评论
回复:
0/300
文明上网理性发言,评论区仅供其表达个人看法,并不表明a&s观点。
0
关于我们

a&s是国际知名展览公司——德国法兰克福展览集团旗下专业的自动化&安全生态服务平台,为智慧安防、智慧生活、智能交通、智能建筑、IT通讯&网络等从业者提供市场分析、技术资讯、方案评估、行业预测等,为读者搭建专业的行业交流平台。

免责声明:本站所使用的字体和图片文字等素材部分来源于互联网共享平台。如使用任何字体和图片文字有冒犯其版权所有方的,皆为无意。如您是字体厂商、图片文字厂商等版权方,且不允许本站使用您的字体和图片文字等素材,请联系我们,本站核实后将立即删除!任何版权方从未通知联系本站管理者停止使用,并索要赔偿或上诉法院的,均视为新型网络碰瓷及敲诈勒索,将不予任何的法律和经济赔偿!敬请谅解!
© 2020 Messe Frankfurt (Shenzhen) Co., Ltd, All rights reserved.
法兰克福展览(深圳)有限公司版权所有 粤ICP备12072668号 粤公网安备 44030402000264号
用户
反馈