共话人工智能时代安全问题

现在，人工智能作为一项高赋能的技术，在为产业发展提供新机遇的同时，也带来了安全的挑战。在这个机遇与挑战共存的时代，我们如何看待和解决人工智能的安全问题呢？7月10日，在2018中国互联网大会人工智能移动安全高峰论坛上，来自阿里巴巴、百度、360、小米、长虹等企业界的嘉宾就此展开了热烈的讨论。

360智能安全研究院院长李康认为，智能和安全已经在安全这个领域对抗很多年了，包括病毒检测、垃圾邮件、钓鱼软件等问题一直都存在，各种机器学习算法的对抗，在过去也一直都在发生。现在被各界广泛关注的热点问题，在安全领域中其实都是老问题，而且会一直存在。

与此同时，随着很多新的人工智能应用的出现，还会出现新的安全问题。李康举例说，例如一个水平不高的程序员，过去做数据库传输曾出现了脱库问题，现在去写人工智能程序、写区块链程序依然会出现问题，“安全对抗应该是安全领域永恒的一个主题。”

小米科技首席安全官陈洋认为：“我们完全没有必要恐惧ai带来的安全问题。因为安全永远是一个不断攻防的过程。问题暴露了，我们解决了问题，就安全了。”他举例说，比如解锁，最开始是输入密码，只要别人在旁边瞄一眼就可以看到，只是大家“视而不见”而已。通过ai技术赋能，手机通过摄像头能识别“你是你”后解锁，带来了很多方便。随之而来安全问题出现了，用一个照片、一个视频就能去解锁。“我们用ai去实现人脸解锁的同时，我们也用ai进行攻防。怎么样去做人脸解锁呢？最开始我们要训练ai怎么样能够认出‘他是他’，先把人区分出来。第二步，对ai进行识别黑样本的训练，让ai通过大量的黑样本学习到非活体的破解手段。”陈洋解释说，“ai既可以用于产品，也可以用于对产品的安全性进行提升，还有很多时候可以用于检测非法的攻击等等。因此，ai在安全领域也是有非常多的应用场景的。”

“我们要像呵护自己的孩子一样去呵护智能硬件。”阿里巴巴安全部资深总监陆全如是说，并解释说，第一，现在所谓智能就是数据驱动，人们给它什么数据它就学什么。第二，人工智能代表未来的生产力，不能因噎废食，因为惧怕这个人工智能而不去做研究。第三，随着智能的发展，以后它就不会再像现在那样易于被人攻击了。

在百度首席安全科学家韦韬看来，ai的应用不可能因为存在安全隐患就推迟到来，因为“ai的应用如洪水般涌来。”他进一步解释说，大部分产业里都是这种情况，在技术突飞猛进的时候，很少有人会考虑安全问题。“我们现在感觉到的是非常强的紧迫感。现在ai在各个领域推进的速度之快是超乎大家想象的，前两年it业界的人还不知道深度学习是什么，今年都在谈深度学习能做什么。” 韦韬说，“我们看到在一些典型应用场景之下，存在极其严峻地对安全和隐私的威胁。而且这个威胁已经不再是一个可能的风险，而是一个现实的威胁。比如像智能音箱和智能家居的设备，当它的安全出现问题的时候，用户的隐私直接面临非常严重的威胁。这个破坏能力超出了前两年手机安全问题的破坏能力，完全埋伏在用户的周围，用户想逃都逃不掉。”

对于“还是孩子的ai”，韦韬认为，既然大家已经对“这个孩子”寄予了非常大的期望，那么就要让“这个孩子”做很多“成人”都做不好的事情。“大家都知道没有哪个安全产品是绝对万无一失的，都要做防御体系。过去某一条防线被攻破以后，后面还有补救机会的。但是在无人车上是几乎没有补救机会的。”韦韬说，“我们要做很多工作，以能够在安全上有新的突破，把以前在‘沙滩’上建立的‘城堡’的地基重新夯实。”

长虹信息安全灯塔实验室首席科学家唐博说，对于智能设备厂商来说，ai促进了产品效能的提高，促进了用户使用体验的提升。同时会带来一些安全问题，也是预料之中的。唐博认为：“就ai和安全之间的关系来讲，我们可以把它看作三个发展阶段。第一个阶段，用ai的方法可以解决一些安全的问题，可以用ai的方法来识别攻击，可以通过大数据分析，分析流量和终端的一些情况，来识别一些异常流量或者一些攻击的行为。第二个阶段，是用安全来保护人工智能，同时保护隐私。 第三个阶段，在智能设备的安全性达到一定程度的时候，ai会有更大的发展，到时候可能会出现跨界甚至跨平台的ai应用，效率会得到更大的提升。ai、安全和效率三者之间是一个相辅相成的发展过程。”

泰尔终端实验室副主任马鑫认为，任何技术本没有对错之分，只有先进落后之分。ai不像其他技术，其他技术像潮水，ai像海啸。今年上半年ai扑面而来，所有的领域、所有的行业都在说ai。ai是一个大系统，是一个有很大赋能作用的技术，软件越复杂，它的安全点越需要被关注。在整个技术研究过程中，发展和安全之间的问题是需要平衡的。要考虑ai应用的场景，有些产品应用场景比较简单，它的安全性比较容易能够得到满足或者得到保障。在ai应用比较复杂的情况下，更需要安全性的保障和研究。“有一个底线应该成为共识，当某项技术涉及或者威胁到人身生命财产安全的时候，这项技术的应用就应该放到安全之后去考虑。”（云竹）

+1

【纠错】

责任编辑： 华信

虚拟教学

无线动作捕捉系统

有线动作捕捉技术

相关内容