加入收藏 | 设为首页 | 会员中心 | 我要投稿 | RSS
您当前的位置:首页 > 大数据 > 大数据技术

算法玩游戏时究竟在想什么?对人工智能进行「脑扫描」吧!

时间:2017-11-16 16:31:15  来源:  作者:
您的位置:主页 > 业界动态 >

如今,神经网络的用处非常广泛——但我们并不知道它们究竟是如何工作的。现在,计算机科学家终于得以开始一窥AI的「思想」。

了解某人心里的想法,就更能理解他的行为。对人工智能(AI)也同样如此。最近,一项新的技术能够在神经网络处理问题时「抓拍快照」,将能有助于我们了解神经网络究竟是如何工作的,并能为我们带来更好、更值得信任的AI。

过去几年,构建于神经网络(多层相互连接的人工神经)之上的深度学习算法在AI的许多领域都取得了突破性的进展,包括自然语言处理、图像识别、医疗诊断和下围棋。

但有一个问题困扰着人们,那就是我们并不知道它们是如何做到这些的。以色列理工学院的Nir Ben Zrihem说,深度学习系统是一个黑盒子。「如果它运转良好,那很好。如果它不工作,你就惨了。」

神经网络远远大于它的各部分之和。它们的组成单元非常简单——就是人工神经。Zrihem说:「你没法指着神经网络中的一个区域,然后说,智能就存 在于此。」但是连接的复杂性意味着我们有可能追踪深度学习算法到达某个给定结果的步骤。在这种情况下,机器表现得很像一个先知,而它的结果则不证而明。

为了解决这个问题,Zrihem和他的同事创造出了深度学习的实时图像。他们说,这项技术就像计算机的fMRI(功能性核磁共振),可以捕捉到算法解决问题时的行为。这些图像允许研究者追踪神经网络进程中的不同阶段,包括死胡同。

为了得到这些图像,这个团队交给一个神经网络一项任务——玩经典的Atari 2600电子游戏:《打砖块》(Breakout)、《海底救人》(Seaquest)和《吃豆人》(Pac-Man)。当这个深度学习算法玩游戏时,他们收集了这个算法的12万张「快照」。接着,他们采用一种技术绘制了这些数据的图谱,这种技术允许他们对游戏中反复尝试的场景进行比较。

结果真的很像真正的大脑扫描图(如下图,左边是《海底救人》,右边是《吃豆人》)。只不过在这个案例中,每个点都是一个「游戏状态(game state)」,也就是游戏中每个时间点的一张快照。不同的颜色代表AI在那个时间点的表现如何。

 

算法玩游戏时究竟在想什么?对人工智能进行「脑扫描」吧!
比如说,在《打砖块》中,玩家必须用一根横条和一个小球在彩色砖块组成的墙上撞出一个洞。每次算法尝试在墙上钻出一条隧道并把小球逼入墙顶区域时, 这个团队就会在图谱中发现一个明显呈香蕉形状的区域,这就是算法自己找出来的获胜技巧。绘制过关技巧的图谱,让研究者能追踪该算法如何成功地将技巧运用在 后续的游戏中。

 

在《海底救人》中,玩家必须要躲避、收集或毁坏某些物体,并救起水下的潜水者才能获胜。这个游戏对AI来说更难掌握。在这些图谱中,研究者发现了数不清的失败策略,比如说在营救潜水者之前等待太长时间。Zrihem说,算法进行再次训练时,这些细节可能十分有用。

构建一个完美的游戏策略是一件很好玩的事。对AI进行扫描则可以帮助我们磨炼算法,以设计出解决真实问题的算法,美国怀俄明州立大学的Jeff Clane如此说道。Clane对图像识别算法的研究让他创作出了一些可以迷惑神经网络的「错觉」,能让神经网络认为图片上的某处存在一些实际上并不存在 的东西。

比如说,一个安全算法可能存在某些缺陷,让它在某些特定的情况下很容易被愚弄。还有一些算法,本是设计来确定银行是否应该向某人发放贷款,结果它可 能会对某些特定种族或性别的人产生偏见。Clane说:「如果你将这项技术部署到真实世界,你会想要理解它究竟是如何工作的,以及它在什么情况下可能会失 效。如果我们能更好地理解神经网络,那我们就能理解它们的弱点,并增强它们的长处。」

来顶一下
返回首页
返回首页
发表评论 共有条评论
用户名: 密码:
验证码: 匿名发表
在线客服
推荐资讯
相关文章
    无相关信息
栏目更新