AAAI主席Subbarao：机器的学习过程与人类不同

这就让我想起了另外一个组织，就是人工智能的合作伙伴关系，这个组织是由世界上非常知名的谷歌、微软，以及脸书、IBM等等几大公司发起的联盟，我也是作为一个AI部门的理事加入到这个联盟，我们这个组织最重要的目的，就是希望通过这个组织帮助我们了解，如何用有社会责任的方式来使用人工智能的技术。我们确实做出了很多的技术变革和技术发展，但是我们不希望用这个技术决定谁是犯罪分子，谁不是，因为这样的做法实在是太疯狂了。同时我们也可以探讨其它的AI技术的使用，可能会造成人的隐私的泄露，或者是影响到公民的权利，从这一点来讲，就是我们建立这个联盟的原因，而我本人也是这个联盟的理事。从我个人的角度来说，我们提到了关于安全重要的人工智能，以及包括一个公平、透明、可信的、问责制的AI，以及包括人和人工智能系统之间的合作。

我们这里特别提到了这一点，如果我们要让AI来决定人到底是不是犯罪分子的话，我们不能找一些滑稽可笑的理由，我们必须要能够向人们解释出来，以合理、公平、道德的方式展示，为什么这样使用。这是我今天演讲特别要提到的，AI对我们的文化产生了非常大的影响，同时AI也带来了大量的福祉。但是现在AI已经是一个非常强有力的技术了，这个技术在发展过程当中，有很多的公司对其进行商业化，进行了大量的转化。但是我们应该想想这些技术的使用，如何能够进行一个审慎的、具有伦理性的发展，我相信大家可以更好地了解我们AAAI，以及我们这个联盟，事实上我们都在不断地倡导对于AI技术的伦理性、道德行的使用。

在youtube上有这样一个视频，我在这里面特别提到了关于人工智能对社会伦理的影响，以及使用上的问题，如果大家感兴趣的话可以看一看。

接下来我想跟大家探讨的是，我们在智能、认知、感觉技术上的发展，特别是在感知技术和认知技术上的变化，还有一点就是我们对机器人的控制和操纵，从操纵的角度来说，我们也可以依靠大数据来达到这一点。但是我想问一下，我们是否就已经做完了所有的研究呢？事实并非如此，我们仍然有很多的挑战，在这里有一点就是我们现在大部分的学习和案例都是基于以机器为基础的，学习知识为基础的学习，但是它的案例数量仍然非常少。人类的学习一般是你给我一个片断，或者我根据我自己所得到的知识来进行模拟、使用。但是目前在人工智能行业还做不到。还有另外一点就是常识，这一点是我稍后要跟大家探讨的，还有一点就是世界的不完整性，我们可以看到目前我们所有的关于这个世界的了解仍然是不完全的，在我们做AI的过程当中，我们是否需要一个完全完整的知识？但是对人来说，我们都没有办法对全世界有一个清晰的认识，我们如何能够确保AI可以做到对世界完整的认识？还有一点就是交互，机器以及人工智能和人的交互。我们希望在和人交互的过程中，不会出现任何的不良事件，我们希望这个人工智能能够和人进行紧密、有效、正向的联系，而不会带来过多的不良事件。稍后我会和大家探讨一下这方面的研究上的挑战。

首先我们来看一个常识。常识是我们经常提到的，什么叫做常识？我最喜欢的就是麦哲伦的这个案例，很多人都有这样的常识，我们大家都知道这个问题的答案是什么，但是对麦哲伦来说，他到底是在哪一次的旅程当中去世的？我相信在中文和英文当中都有同样一点，如果你了解麦哲伦航海的故事，你就能非常清楚地了解到这一点。还有其它一点，我们可以看到从语义的角度来说，它从表面上是一模一样的，但是我们到底能找出在同样两句话当中语义的差别是什么？从2016年开始，我们就开始进行关于语义的了解，我们去年开始了一个比较大的竞赛，这个竞赛最终的结果事实上并不是非常的有效，我们希望能够真正地寻找到在同样的语言背后的语义的变化，能够让我们的人工智能真正了解到这一点，同时能够帮助我们更好地了解到这个机器所没有办法了解到的人类的自然语言的语义变化。事实上还有其它的一些变化，我也想和大家进行分析，就像我们提到的关于麦哲伦的这个问题也是如此。

我刚才和大家提到了一个不完整性，也是一个非常大的挑战。因为现在越来越多的人开始探讨超级智能，或者是包括智能至高无上的发展，以及机器的完全智能，它们将取代全世界，人类将会灭绝，或者有人说人类会成为机器的奴隶，我觉得你完全不用担心这些部分，因为我相信如果我们有这种杀戮的机器，如果它使用的是一个对世界的不完整认知，它确实会带来很多负面影响。但是对我们来说，它这样的一种结果是非常不可预见的。我们如何能够在一种不完全的模式下，能够对机器来进行训练，这一点是非常重要的，接下来这个部分我还会谈这个观点。

最后一个部分我想和大家探讨的是一个非常大的挑战，也就是我们如何去确保人工智能和人来进行共同的交互。这一点也是在接下来的十几分钟我会和大家进行分享的。

在这里我想和大家特别提出的是，在人工智能当中，人工智能作为一个整体，它和人之间的关系是非常有意思的，他们希望能够帮助人类，但是他们并不是非常希望能够看到在人机协作方面所出现的大量的问题。大家想想下一次你提到人工智能的发展的时候，我们可能花了很多的时间来看我们的人工智能的机器战胜了非常知名的棋手，它在帮助人的同时也战胜了人，很多人提到了人工智能和人之间的关系的恶化。与此同时还有一点就是在之前的文章当中，很多人提到人工智能会取代人，人将会成为人工智能的奴隶。但是对于我们来说，我们自己应该要关注这一点，特别是对于人工智能的负面报道，我们必须关注。

去年我负责了我们的全球人工智能联合大会的国际会议的主办，当时我们就建立起一个特别团队，我们提到了应该是有意识的人工智能，我们特别提到了关于人和机器如何能够得到有效的结合，能够共同协作，这才是最为重要的。在那次会议上，我们就提到了我们为什么要主观地设计这样一个未来，我们为什么要去设计一个让我们自己能够担忧的未来，而与此同时，你们如果认为机器能够战胜人类的话，人还应该做什么事情呢？我们人应该是能够让机器辅助人，增强人的能力，这是需要我们各界相互协作。很多人提到了有意识的人工智能，人工智能或者是有意识的人工智能，可以真正地将我们从传统的机器人为主导的趋势中救出来，我们相信对机器人的负面的报道也会不断地减少。

（编辑：52刷机网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!