安防百科

算法游戏到底让你头疼了几次?

2016-02-24 00:00:00 来源:安防知识网 有...人评论

[摘要]  如今,神经网络的用处非常广泛——但我们并不知道它们究竟是如何工作的。现在,计算机科学家终于得以开始一窥AI的「思想」。

  如今,神经网络的用处非常广泛——但我们并不知道它们究竟是如何工作的。现在,计算机科学家终于得以开始一窥AI的「思想」。

  了解某人心里的想法,就更能理解他的行为。对人工智能(AI)也同样如此。最近,一项新的技术能够在神经网络处理问题时「抓拍快照」,将能有助于我们了解神经网络究竟是如何工作的,并能为我们带来更好、更值得信任的AI。

  过去几年,构建于神经网络(多层相互连接的人工神经)之上的深度学习算法在AI的许多领域都取得了突破性的进展,包括自然语言处理、图像识别、医疗诊断和下围棋。

  但有一个问题困扰着人们,那就是我们并不知道它们是如何做到这些的。以色列理工学院的Nir Ben Zrihem说,深度学习系统是一个黑盒子。「如果它运转良好,那很好。如果它不工作,你就惨了。

  神经网络远远大于它的各部分之和。它们的组成单元非常简单——就是人工神经。Zrihem说:「你没法指着神经网络中的一个区域,然后说,智能就存 在于此。」但是连接的复杂性意味着我们有可能追踪深度学习算法到达某个给定结果的步骤。在这种情况下,机器表现得很像一个先知,而它的结果则不证而明。

  为了解决这个问题,Zrihem和他的同事创造出了深度学习的实时图像。他们说,这项技术就像计算机的fMRI(功能性核磁共振),可以捕捉到算法解决问题时的行为。这些图像允许研究者追踪神经网络进程中的不同阶段,包括死胡同。

  为了得到这些图像,这个团队交给一个神经网络一项任务——玩经典的Atari 2600电子游戏:《打砖块》(Breakout)、《海底救人》(Seaquest)和《吃豆人》(Pac-Man)。当这个深度学习算法玩游戏时,他们收集了这个算法的12万张「快照」。接着,他们采用一种技术绘制了这些数据的图谱,这种技术允许他们对游戏中反复尝试的场景进行比较。

  结果真的很像真正的大脑扫描图(如下图,左边是《海底救人》,右边是《吃豆人》)。只不过在这个案例中,每个点都是一个「游戏状态(game state)」,也就是游戏中每个时间点的一张快照。不同的颜色代表AI在那个时间点的表现如何。

算法玩游戏时究竟在想什么?对人工智能进行「脑扫描」吧!

 

  比如说,在《打砖块》中,玩家必须用一根横条和一个小球在彩色砖块组成的墙上撞出一个洞。每次算法尝试在墙上钻出一条隧道并把小球逼入墙顶区域时, 这个团队就会在图谱中发现一个明显呈香蕉形状的区域,这就是算法自己找出来的获胜技巧。绘制过关技巧的图谱,让研究者能追踪该算法如何成功地将技巧运用在 后续的游戏中。

  在《海底救人》中,玩家必须要躲避、收集或毁坏某些物体,并救起水下的潜水者才能获胜。这个游戏对AI来说更难掌握。在这些图谱中,研究者发现了数不清的失败策略,比如说在营救潜水者之前等待太长时间。Zrihem说,算法进行再次训练时,这些细节可能十分有用。

  构建一个完美的游戏策略是一件很好玩的事。对AI进行扫描则可以帮助我们磨炼算法,以设计出解决真实问题的算法,美国怀俄明州立大学的Jeff Clane如此说道。Clane对图像识别算法的研究让他创作出了一些可以迷惑神经网络的「错觉」,能让神经网络认为图片上的某处存在一些实际上并不存在 的东西。

  比如说,一个安全算法可能存在某些缺陷,让它在某些特定的情况下很容易被愚弄。还有一些算法,本是设计来确定银行是否应该向某人发放贷款,结果它可 能会对某些特定种族或性别的人产生偏见。Clane说:「如果你将这项技术部署到真实世界,你会想要理解它究竟是如何工作的,以及它在什么情况下可能会失 效。如果我们能更好地理解神经网络,那我们就能理解它们的弱点,并增强它们的长处。

0 0
[责任编辑:kai.tang]

《安防知识网》新增三个订阅号 微信服务全面升级

  • 前车挡路,或者大货车挡住视线等种种原因会让小伙伴们非常困扰,因为这样一不留神就会闯红灯。更有些小伙伴,停车时前轮压了线就害怕自己被摄像头拍到。老司机要告诉大家的是,不是所有的摄像头都可以拍违章,不小心闯了红灯也不是“逢闯必罚”。今天,我们就来聊聊马路上摄像头的分类以及如何避免误闯红灯。

  • 深度学习实践的四个关键要素:计算能力、算法、数据和应用场景,就像四大金刚一样保证了深度学习的应用和实践,在深度学习中起到关键性的作用。

  • 正确的选用变频器可以有效帮助你在实现调速节能的同时,又能相应的增加经济收益。可是该如何选择呢?

  • 本文列举了在高清监控系统施工中我们需要注意的一些事项。

温馨提示: 您已经完成兴趣标签设置,建议登录后保存。

请输入密码