龚　克

（中国新一代人工智能发展战略研究院执行院长、南开大学学术委员会主任、南开大学原校长、世界工程组织联合会主席）

我们谈人工智能的时候，首先要问什么是人工智能。刚才汉斯谈到，我们讲到人工智能时往往会谈到机器学习，我尝试给一个我自己的定义，什么叫人工智能，请凌教授批评指正。首先，人是形容词，智能是实词。通过学习获得的能力，感知、认知、判断和决策能力，这种能力承载在一个人工设计的装置上面，基于人工设计的基础算法。尽管刚才凌教授谈到人工智能是自动学习的，但是用什么训练模型是人设计的，而且是用人提供的数据，这个数据是直接或者间接的，可能自主获取，但是获取用到的传感器是人设计的，人让它是彩色就是彩色的，人让它是高分辨率就是高分辨率的，而且要完成人规定的任务。如果去掉human defined（人工设计）就是强人工智能，目前来讲它还是完成一个人工的任务。

刚才谈到，人工智能于1956年被提出来，当年的人工智能founders（创建者）非常年轻，而且是多学科的，经历的过程非常曲折。春天、夏天、秋天、冬天这样发展，总的趋势是一直向上的。为什么驱动一直向上？科学技术一直在进步，主要是在投资和应用上出现波动，这也是由于我们的技术不够完善。50年后到2006年，在人工智能领域，2006年即AI@50，创始人老了，人工智能还没有完全走出冬天。它的突破是Deep Learning（深度学习），Big Data（大数据）以及算力的结合，这个结合非常重要，导致了在2014年机器识别的图达到与人工识别同样的水平，再往后超过人类的水平，这不是任何一个人，而是有不同的知识背景、不同的民族、不同的年龄的人们来做的判断。机器识别取得的重要突破现在广泛被应用，今天很多的人工智能应用都是基于对图像的识别，这个也是目前最成熟的一项技术。比如用在医疗上，医疗图像的识别等，由于时间关系在这里就不讲了。2014年有一个非常重要的事情，1950年阿兰·图灵预测到2000年会有智能的机器通过这个图灵测试，非常可惜2000年的时候并没有出现，但2014年一台机器突破了，尤金·古特斯曼（Eugene Goostman），13岁的少年跟其他人对话，1/3以上的对话者都没有识别出来它是一台机器，确实把它当作13岁的少年，这也是一个重要突破。

现在还有一个重要的突破，语音识别，能听懂人的自然语言，而且用自然的话表达出来。古特斯曼还是一个打字的，直接用自然语言做得最好的是索菲娅，用“它”还是“她”比较难？它是it还是she，它是人形机器人，居然有沙特阿拉伯2017年授予的国籍，在这个意义上应该用she。She is a chat robot！（她是最先进的智能聊天机器人！）语音识别一个学习者用翻译机来做中英文的翻译，我们看到非常自然的语言交流。

人工智能在生活、工作各种场景下应用，今天的人工智能已经不是实验室里面的人工智能，不是论文上的人工智能，而是走进生产生活的人工智能。今年夏天清华大学做了一个调查，7月10日公布的，在中国调查的年轻人里面有超过70%的年轻人使用过3种以上的人工智能应用，包括翻译、检索、图像识别等，这个就代表尽管人工智能还有很多缺点，但是它已经走向实用。

以上是我想说的第一点，今天的人工智能已经是一个可用的人工智能了。下面谈谈怎么应用到城市里面去，在中国的《人工智能发展规划》里面有3个重要的应用领域：第一个就是要创建智能经济；第二个是推进建设智能社会；第三个是支撑上面两个应用领域，建设智能的基础设施，包括第五代移动通信、物联网、智慧的电网以及数据中心等。建设智能的社会包括4个方面的内容：第一，要发展便捷的、高效的、智能的社会服务；第二，发展智能的社会治理；第三，深度应用人工智能去改进社会的公共安全；第四，通过人工智能在社会中的应用来建立政府和居民之间的相互信任和更好的交流沟通。这里面我们特别谈到建设所谓智能社会里面包括了智能法庭、智能交通、智能城市基础设施和智能的环境保护，在中国的国家规划里面谈到。

刚才大家谈智慧城市，它首先要基于数字的城市，然后由人工智能来赋能。麦肯锡全球研究所在去年发表了一个关于人工智能的报告，这个报告里谈到面对智慧城市的需求，推动世界的可持续发展。报告研究了目前智慧城市的实例，提出在今天的水平上已经能够在10%到30%的程度上改进城市的生活质量。这个城市生活质量包括很多因素，比如就业、生活成本、设施、平均交通时间、温室气体排放、居民相互的连接和交往等，这种改变源于智慧城市应用。这种应用可以帮助智慧城市去实现可持续发展目标。城市实现17个可持续发展目标，对于全球实现可持续发展目标至关重要，人工智能有助于实现其中的12个目标，占17个目标的70%。其实间接来看，它会影响到17个可持续发展目标的实现。根据麦肯锡全球研究所对全球三十几个智慧城市的调查，每年通过智慧城市引入的公共安全可以减少300个非正常死亡。这样的情况是由于实时监控，提高了犯罪门槛，减少了抢劫、偷盗以及开枪射击这样的事情。

另外一个数据很有意思，目前城市使用人工智能用于道路治理，在智慧城市里面可以平均减少每天10到30分钟的交通时间。城市之间有很大的区别，根据城市的拥堵情况、城市的基础设施情况、城市居民的情况，有很多区别，但至少可以减少15分钟。这里给大家讲一个中国的例子，中国有一个非常漂亮的城市杭州，它有非常好的风景，但是杭州是一个有将近1000万人口的人口非常密集的城市，而且杭州的城市区域比北京、天津都要小得多，在杭州的市中心有一个很大的西湖，影响了整个杭州的交通组织。2015年开始，杭州市政府和阿里巴巴、浙江大学合作搞了一个“城市大脑”项目，引入智慧交通，通过城市监控让交通灯和车流、人流相互作用。取得什么样的效果？这个城市在2015年是中国第4大最拥堵城市，2018年下降到第57位，它的平均忙时出行时间减少了15%，紧急车辆救护车、消防车的速度提高了1倍。这个是非常成功的中国案例。

麦肯锡研究所的数据，在智慧城市里面，节省25～80立升/人/天的清洁用水，可以减少碳排放10%～15%，减少人均固态垃圾10～20个。上面是南开大学做的例子，正在华北实际使用，作为水污染情况的监控。水污染监控有时候很困难，我们做的具体采集点是非常有限的，要做一个大尺度的采集就要用遥感，遥感的分辨率不够，我们把local（在地）采集的监测数据和遥感图像通过机器学习连接起来，形成一个大尺度的、高精度的控制。

人工智能可以是城市管理和发展的一个非常有用的工具，但是人工智能在技术上来讲还不成熟，还在幼年。我列了5个问题。(www.daowen.com)

第一，对数据过度依赖。这造成了很多问题，第一个问题是有些数据我们非常难以获得，比如核泄漏事故，这样的数据不能经常获得，但是我们要防止核泄漏应该怎么办？

第二，很多数据是有准确信息的，德州一家公司使用人工智能来录取员工的时候，当时很少的岗位有很多人报名，就用以前录取的数据来训练一个人工智能做一个初步筛选，比如招4个员工的话几百人报名筛选到20个人，结果这20个人把所有的女性都排除。这个人工智能有性别偏见，这个偏见出在什么地方？以前这家公司雇佣的男职工比较多，所以机器一学觉得这家公司倾向于雇用男职工，类似这样的事情，就是关于数据的。

第三，还有一个没有谈到的问题，现在特别要指出，目前人工智能能耗比人要高很多。如果21世纪能够控制到90亿人口的话，这个地球的能源和资源都很难支持到90亿人口的生活。如果我们再有1亿机器人，每个机器人的平均能耗是一个生物人的1000倍的话，这个地球是无法生存的。李世石和阿尔法狗（AlphaGo）对战，AlphaGo背后有大量的能耗，是人工耗能的1000倍。大机群使用，现在的能源和资源是无法支持的，必须找到机器人靠光合作用、靠太阳就能工作的方法，那样的机器人才是可以跟人共同生存的机器人。这些技术上的不足和管理上的缺陷会造成在应用中的很多风险和挑战。这些风险涉及就业结构的变化，300年的工业化革命证明，技术的不断使用创造了越来越多的就业，没有任何证据证明技术引入会减少就业，这是一个宏观的判断。就具体的岗位来讲，那个岗位可能会被替代。需要有好的社会措施帮助我们的人，善于使用人工智能人，善于驾驭人工智能人得到新的结构变化以后的就业。

人工智能会影响到法律和社会伦理，这个也是一个很强的挑战。另外，如果数据使用不当会侵犯个人隐私安全，对全球治理的标准、法律有很多的挑战。芝加哥法院在使用人工智能帮助法官进行假释判断的时候就出现了对黑人的偏见。这是历史数据造成的问题。无论在中国、美国都发生过造成死亡的严重交通事故，限速20公里/小时，人一看就知道了，但由于有干扰，使得我们竞赛的时候只有谷歌的机器能以10%的概率判断这是一个限速20公里/小时的标志，这严重干扰机器的判断。除了技术进步以外，需要更强的治理。中国政府为了发展人工智能成立了两个委员会，一个是技术委员会，一个治理委员会，这是中国政府有史以来第一例对一项技术成立两个委员会。为什么要成立两个委员会？我们认为人工智能这项技术不仅具有技术属性，而且具有双重属性。人工智能技术有社会的属性和技术的属性，所以需要有两个委员会。

以人为本，和谐友好，首先跟人类和谐友好，而且还要和人类生存的环境和谐友好，这就代表了人和自然和谐共处的理念。

Agile Governance，中文翻译成敏捷治理，现在的很多治理和快速变化的技术不适应，要发展新的快速适应变化的治理，这样的原则写在纸上不难，但是要把它落到实际应用中就需要技术和法律的支撑。

我们识别出来重要的关于人工智能的共识要求，比如安全和隐私的要求、安全和可靠的要求，比如透明的要求，比如可以问责的要求，比如公平的要求，我们都在发展一系列的相关技术，我们称这些技术为支撑人工智能治理的技术，相应的技术可以确保人工智能的应用，可能不是直接的应用技术，但是这些技术非常重要。我们建议所有的技术开发者在改进应用的时候也要努力地发展这些支撑人工智能治理的技术。通过这样一些技术，我们可以努力做到对人工智能原理的理解，对深度学习原理在一定程度上做到可解释，让它做到可溯源，一步步实现问责。我们可以实现对它的公平性、可靠性验证，所有的验证都是以抽样的方法进行的，这些方法必须做到高度可靠。我们要求在人工智能应用一开始的时候，从任务的定义到数据的采集和数据的准备，到模型的训练、模型的检测、模型的系统应用，整个全过程都要对它进行伦理的检测，都要提出明确的伦理要求，这样所谓的人工智能治理才能真正落地。

人工智能的应用必须考虑多方面因素，这个不仅仅包括技术中心的发展。我代表新一代人工智能发展战略研究院——中国工程院支持的智库机构做一个发言，请大家批评指正。

（根据现场速记整理）