人工智能离理想还有多远

柳森

世界人工智能大会日前在上海举行。大会期间，张文泓博士“在人工智能如火如荼的今天，抗疫靠传统智慧”的说法引起了很多人的共鸣。

人工智能曾经是一个相当科幻的话题。有人担心人工智能会取代人类，甚至反人类。然而几年后，我们发现人工智能并没有想象中的那么聪明。到底是什么问题？

自2004年以来，复旦大学哲学系教授许一直关注人工智能。他不仅撰写了大量的相关论文和专著，还开设了人工智能的哲学课程，深受学生的欢迎。

日前，他就上述问题谈了自己的想法。他的分析从两个问题开始:“什么是人”和“什么是智能”。

不承认现实和理想之间的差距，就会导致“泡沫”

问:世界人工智能大会的举行激发了许多非专业人士对人工智能的兴趣。每个人都渴望知道人工智能进展如何。你如何看待当前人工智能的发展？

许:现在大众对人工智能有很多期待，但据我观察，这些期待很大程度上是基于学术界对实际发展的一些误解。

经常听到各种各样的误解，其中之一就是认为人工智能是一个新生事物，是近几年才出现的。事实上，人工智能一词在1956年美国达特茅斯会议上正式成为公认的学科术语。显然，这是很久以前的事了。

至于现在说的深度学习技巧，前身是人工神经网络。这个概念在20世纪60年代被学术界注意到。人工智能的创始人之一艾伦·图灵生前对人工神经网络做过一些肤浅的研究。在这种情况下，这项技术至少可以追溯到20世纪40年代。

所以，严格来说，人工智能的主流技术并不新鲜。是传统技术反复迭代的结果。

问:那么，人工智能技术的发展现状如何？

许:目前关于人工智能的发展有三种论调:“乐观”、“悲观”、“泡沫”。

其中，“乐观主义者”可能是主流。乐观主义者认为，人工智能的发展肯定能在短时间内解决我们面临的各种问题。

这个论点描绘了一个乌托邦的场景:当你回到家中，所有的设备都可以通过全新的网络技术和物联网与你连接；你不必开车。你上车后，什么都不用做就可以带你到目的地。一路上，你还可以和你的车说话，就好像它是你的人类司机一样。

悲观主义者更多的是站在那些可能失业的人的立场，认为人工智能太强大了，会取代很多人的工作。到那时，如果社会暂时不能提供更多的新工作，我们能做什么？

我的观点是“泡沫论”。“泡沫”并不意味着人工智能的前景黯淡，而是短期内，这项技术的发展无法支撑很多人的梦想。

理想很丰满，技术目前还很“骨感”。如果没有意识到理想与现实的差距，就会导致“泡沫”。如果你看好人工智能，去市场融资，你需要慎重考虑。

历史上确实有成功的案例，比如IBM360计算机项目。

它的成功使电脑从过去非常笨重，只有先进的科研院所才能负担得起，逐渐成为可以在办公室使用的电脑，为个人PC的出现奠定了基础。但是也有很多失败的案例。如果所有关于人工智能的融资方案都把未来描绘得很美好，把蛋糕做得特别大，最后很可能会出问题。

我个人对人工智能未来发展的基本判断是——

人工智能对我们生活的改变不是全局性的、颠覆性的，而是局部的改善。比如人工智能可以推动一些改变，在在线教育、护理等领域带来一些商机。但有些项目，比如自动驾驶，很可能会出现一些“泡沫”，需要谨慎对待。

当然，我所提倡的“泡沫论”是基于一些基本概念的定义，比如“特殊人工智能”和“一般人工智能”。

用传统方法解决问题的能力下降是很危险的。

问:如何区分“特殊人工智能”和“通用人工智能”？

许:特殊人工智能是只能做一件事或两件事的人工智能。一般人工智能是指能做一些事情的人工智能。

比如李世石是棋手，AlphaGo是围棋程序。如果把李世石看成一个智能系统，那就是万能智能系统。因为他除了下棋还会做很多其他的事情，比如会泡面，会开车。和AlphaGo下棋后，可以接受媒体采访，谈谈自己的感受。但是，AlphaGo肯定不会开车，更别说和李世石下棋后和媒体交流了。经过这样的对比，我们可以清楚地看到专业化人工智能的局限性。

人类的特点是，我们可能在一件事上是专家，在另一件事上有能力，但不是那么好。但是，特殊的人工智能只能做特殊的事情，其他的事情基本上无法兼顾。单从这一点来说，专业化的人工智能和具有综合能力的通用人工智能还是有很大区别的。

我们现在看到的人工智能是专用的，它们的制作思路都是按照专用人工智能的思路做的，比如人脸识别、语音识别。目前人工智能通过卷积神经网络技术的进步，获得了一个重要的能力，就是可以同时通过人脸和语音识别他人。但是对于人工智能来说，基于神经网络的图像识别系统和语音识别系统是两回事。

问:现在很多人对人工智能的想象都是基于“通用人工智能”。

许:没错。这是一件比较麻烦的事情。

很多人喜欢看美剧，发现里面有些机器人特别厉害。有些机器人不仅拥有人类的特征，还开始反抗人类。看了这样的故事，有人会想:如果我们和这样的机器人生活在一起，会是怎样的威胁？

自然，很多人对人工智能的思考都是基于这类科幻影视作品。但科幻影视作品受众广泛，不需要太多科学素养就能看懂，传播力和影响力很大。

我有一个观点:软科幻看多了，需要看一些硬科幻。硬科幻更接近今天的科学，对科学知识的应用更严谨。相对于软科幻，硬科幻更适合科普，可以增强普通人的思维能力和对现实世界的把握能力。

现在的人工智能是基于大数据的，缺乏对小概率、偶然事件的响应机制。当它面对这个不断变化的世界(比如新型病毒，未知规模的洪水等。)，它不知道怎么处理。

所以，我担心的不是人工智能拥有人类意识的时候会和人类对抗，而是人类过度依赖人工智能之后，思维会变得更简单。

不要以为有了现代先进的工具就可以放弃传统。举个例子，假设现在有两支军队对峙，双方都有能力使用最新的网络信息技术，但是只要一方突破了对方的网络防线，对方的信息基础设施就会沦陷。那时候只能用最原始的方法(比如信鸽、鸡毛信等。)来传达信息。

对人工智能充满合理的想象没有错，但如果我们把人工智能的能力想象得过于强大，同时又疏于保持用传统方法和智慧解决问题的能力，就可能把人类置于某种尴尬的境地。

为什么现在发展不出通用人工智能？

问:目前的深度学习技术有望在短时间内达到一般人工智能的水平吗？

许:人们曾经设想有一种不需要任何外部输入能量或只需要一种初始能量就能自动运转的机器。在哲学家看来，这种想法经不起严格的推敲，根本站不住脚。在我看来，一般的人工智能只能停留在想象的阶段。

通用人工智能系统的特点是通用性。既然是普遍性的，就要处理全球性的问题。什么是全球？是在不同的理论体系中进行选择的能力。不同的诉求之间往往会有冲突，人类有能力找到平衡各种冲突的方法，找到中庸之道。

举个大家比较能理解的例子。有一个家政工人在雇主家工作。如果用人单位是知识分子，家里有很多书，可能会让家政人员尽量打扫书房，但不能干净到书都找不到。

家里有很多书的人都知道，书的易取性和整洁性往往是矛盾的。书放好了，家里当然更干净整洁了，但是如果几本书同时在看，叠好之后要花时间去找去取。这时候是追求干净还是方便取用？这里面有一个平衡点。这个平衡点的到来，需要家政人员和用人单位长时间的磨合，很难通过程序来设定。

任何集成系统都必须具有处理各种复杂甚至意外情况的能力。其中有些情况甚至是极端的、偶然的。例如，一辆自动驾驶汽车正在道路上行驶。有一个路人走在路的左边，五个路人走在路的右边。万一速度太快停不下来，该往哪边拐？假设这个节目突然得到消息，左边的路人是我们国家非常重要的专家。它应该如何选择？

很多人的第一直觉是专家更重要，但转念一想，每个人类个体的生命都是平等的。面对这样的问题，人类会做出痛苦的选择，反复的选择。

如果是机器，问题就麻烦了。众所周知，人工智能是基于一系列规则设定的，规则背后是各种逻辑原理。一旦情况过于特殊或复杂，机器中基于不同逻辑规则设置的程序之间就会发生争斗。

我再给你举个例子。假设现在一个外国男生去少林寺学武术，他什么语言都不会说。他该怎么办？有一种方法，就是师傅做出一个动作，小伙子跟着做；如果他做对了，师父微笑；如果他做错了，主人就喝酒。就这样，小伙子在被嘘后知道自己做错了。但是你做错了什么？如果师父没有表达或详细解释，他就只能猜测和试错。这时候语言的好处就显而易见了。如果对方能听懂对方的语言，师傅可以教他一整套内容，包括武术规则，帮助他理解，然后学生就可以转化为行动。深度学习是基于神经网络的运行。神经元的运作和前面说的傻逼教学法差不多。

人在犯错后的反思是基于原则和规则的。但系统不是。遇到障碍后，它的反应是调整各种参数。试错之后，发现不对的地方再猜。就是通过大量的猜测，慢慢把事情引向正确的方向。它的优势在于可以在很短的时间内完成人类不可能完成的巨量猜测。基于深度学习的神经网络技术，就是用强大的机器海量计算来掩盖方法本身的“愚蠢”。但问题是，对于深度学习来说，如果有现成的数据会非常容易，但是如果没有高质量的数据，自己去收集数据就会很成问题。

问:如果通用人工智能是处理全球性问题，要收集的数据会更复杂。

许:是的。所以目前深度学习机制的根本问题是缺乏跨领域学习的能力。这是人工智能无法普遍化和全球化的根本原因。

在我们的日常生活中，不同的系统以不同的方式运行。棋有棋法，围棋有围棋法。人可以适应变化，但人工智能很难适应这一点。

问:很多人会问，能不能把各种特殊的人工智能整合成一套通用的人工智能？

许:这就产生了一个新的问题——协同效应。就像企业规划一样，需要各个团队和部门的配合，需要一个综合能力强的人来领导，而人工智能不具备整体的调度和配置能力。

为了研究人工智能与人类智能的区别，一些专家提出了所谓的“卡特尔-霍恩-卡罗尔”三层智能模型。他们把一般的人工智能分为很多部分，比如流体智能、晶体智能、定量推理、识字、短时记忆、长时记忆、视觉处理和听觉处理。

推理无非就是算术。读写能力就是你能不能理解文章和要点。水晶智能就像老师现在给你出一道题。告诉你解决方法后，看你能不能把做题的思路转移到新的题目上。流体需要更高的智能。很大程度上强调的是一种灵活调用各种智力能力的状态。

至少目前人工智能不是按照人类智力能力的发展方向来发展的。从长远来看，它的“伪人类”会是个问题，离真正的通用人工智能还很远。