人工智能有哪些安全隐患？它最让人失望的是什么？

人工智能其实离我们并不遥远，手机上的语音输入法靠的是语音识别技术，网购后再登录时看到的推荐商品正是基于你的购物习惯呈现出来的。在人工智能技术的快速发展中，存在哪些安全隐患？人工智能最让人失望的是什么？包括上海在内，中国发展人工智能的优势和短板在哪里？

7月8日下午，由未来论坛主办的第29期理解未来讲座在上海纽约大学举行。众多国内外计算机领域专家和创业者发表了真知灼见。

“计算机在深度学习时容易被欺骗”

“安全性是部署人工智能的最大挑战。”加州大学伯克利分校计算机系教授宋晓冬说。她的研究方向是深度学习与安全领域。

从历史上看，自从有了互联网，就有了网络攻击。最早的蠕虫病毒，当时感染了6千台计算机，而这一数字占了当时世界上计算机总数的十分之一。今年名为“wannacry”的勒索病毒则导致全球20万台电脑中毒，涉及 150多个国家。计算机病毒攻击不仅显现出多样化特点，恶意软件也不断升级，给经济发展了带来损害。

宋晓冬介绍，人工智能领域的安全问题主要表现为两方面，第一个是攻击人工智能的学习系统，让其不能产生正确或需要的结果。第二个是对人工智能的滥用。

宋晓冬和同事对于深度学习里的对抗性例子进行了研究。他们发现，在实施一些技术干扰后，计算机在进行深度学习时容易被欺骗，比如一个“禁止停车”标志，可能被计算机解读为“限速”标志。

他们还发现，攻击者可以对计算机生成模式进行篡改。实验中，他们对某个人脸识别系统进行了修改，结果整个系统就只生成了一个人的脸。

“自动驾驶如果出了问题，到底该由谁来负责呢？人工智能的安全性需要从早期就开始考虑。”宋晓冬说，这是一个跨学科任务，需要全社会共同参与。比如，人工智能用于医疗设备的安全问题，过去多年一直没有引起重视，而在2016年度美国食品药品监督管理局颁发的指南里开始提及。

宋晓冬教授

“有时会发现计算机也很笨”

人工智能当下到底有多热？宋晓冬介绍，在加州大学伯克利分校，包括人文学科的所有学生，都被要求先学习计算机课程，这就必然会涉及到人工智能技术。

流利说创始人王翌认为，人工智能作为一个强大驱动器，没有什么行业会不涉及到。其影响力，如果用一句话来概括，就是提升了效率，推动了生产力。

“出租车司机和小区保安都和我讨论过人工智能，可见这个概念有多热。不过我觉得，有点过热了，实际上人工智能的绝大部分应用场景距离我们还比较遥远，希望在未来发展中能够去泡沫化。”上海纽约大学计算机科学教授张峥说。

普林斯顿大学教授李凯，也对此抱有相似观点。他认为，现在投资者和民众对于人工智能的期待值都很高，一旦达不到预期，必然会带来更大的失望。

“计算机的深度学习能力很强，但有时你也会发现它很笨。”宋晓冬说，计算机还不具备抽象思考能力，不懂得用大数据得到的能力，去解决新的问题，距离真正的智慧还很遥远。

上海交通大学软件学院教授陈海波说，人工智能最让他感到震撼的是，在一个封闭的环境可以做得如此之好，但让他感到失望的是，在一个开放的环境却做得如此之差。现在深度学习能做到的仅仅是知其然，而不知其所以然，这就导致了人工智能的脆弱性。

“中国最大的优势和劣势都在于人”

很多人工智能技术的原创都来自国外，中国的优势和短板又在哪里？上海是否有这样的机会？

“关键要有好的土壤，才可能做出突破性成果。”宋晓冬说，中国的市场非常大，每次回国她都会发现，这里市场驱动的执行能力很快，中国在人工智能发展上有很大的潜力。每年伯克利分校都会招收很多来自中国的本科生，他们数理化基础好，英文也不错，相对欠缺的是独立思考能力，而这对于科研来说是很重要的。当下的中国，比较短期问题，在解决科学问题时过于浮躁。如果有宽松自由的科研土壤，富有独立思考能力的人才，再加上市场，相信中国会成为人工智能的大国。

“中国最大的优势和劣势都在于人。”张峥说，中国人口多，有旺盛的需求，虽然起步晚，但可以实现技术上的“蛙跳”。劣势在于，原创的人少，从事尖端研究的人少，这样就会造成一种情形：尽管比欧美国家落后得不是很多，但却怎么都超越不过。

上海是否有这样的机会呢？“和其他城市相比，上海显得稍微冷静一点，但其短板在于落地的环境还不是很好。”张峥说。

陈海波说，上海这座城市对于生活要求比较高，容易驱动出新的需求，也推动技术向极致发展。上海擅长于精细化管理，成熟产业在这里比较容易推动，但同时原创的东西就不容易出来。

毕马威中国科技及信息业主管合伙人吴剑林认为，上海储备了很多人才，但冒险心态并没有那么强烈。一个产业的发展要有一个“巨人”，当初张江引进了很多生命科学人才，这才有了现在领先的产业。人工智能也需要这样一个人才核心群体，才能把影响做出来。

题图来源：视觉中国 内文图片来源：未来论坛提供 图片编辑：曹立媛