11月8日,世界互联网大会乌镇峰会开幕。在开幕当天,思科大中华区副总裁、安全事业部总经理卜宪录接受了南都记者的专访。这是卜宪录第叁次参加世界互联网大会乌镇峰会,他告诉南都记者,疫情时期他参会印象深刻的议题是“韧性供应链”和混合办公,今年他来到乌镇峰会,发现大家聚焦的议题在AI等创新技术的发展上。
卜宪录指出,AIGC同时会造成机遇和挑战。在 网络安全 方面,AIGC也降低了网络攻击的门槛,企业应当在使用AIGC的进程中,有相应的规范和控制措施。
思科大中华区副总裁、安全事业部总经理卜宪录
AI让网络攻击的门槛和难度大幅下降
南都:这是你第几次来乌镇峰会?和以往感受有啥不同?
卜宪录:这是我第叁次参会,过去我印象很深刻的话题包含供应链韧性、业务韧性、混合办公等,今年更多聊的是创新和发展。最近这一两年,随着AI技术的突破,大家也更多讨论这方面的内容。
我今天也看了很多创新成果的发布。AI的创新在各个行业、各种应用场景不断有新的突破,思科也是如此。我们在 网络安全 、网络通讯应用方面,有许多基础性的突破研究。我们作为一家全球性的企业,每年投入的研发费用超过60亿美金。在我自己比较熟悉和擅长的 网络安全 领域也是一样。
但此时大家也有许多担忧,包含隐私保护、 知识产权 保护等。甚至也有专家提到了,未来这个生成式 人工智能 是不是会给整个人类社会发展造成挑战。
思科在 网络安全 方面,有许多的研究,就是要确保AI应用在各行各业的能够有一个负责任的AI的框架和模型。确保AI在应用的过程当中,它本身是安全和可靠的。
南都:AI造成的 网络安全 问题,具体可能有哪些?
卜宪录:AIGC最大的特点就是新的创造和发明,包含文本、语音甚至视频等。所以现在会看到很多那种假冒的声音和视频,技术门槛是越来越低了。在 网络安全 行业也是如此。以前黑客或是攻击的这一方,要发起攻击的时候,技术门槛和成本相对是相当高的。现在有了AI的帮助以后,门槛和难度就大幅度降低了。
写一个垂钓邮件,变得比以前更加难以鉴别了。或说当有人要对整个企业的危险进行扫描和评估的时候,他甚至都能通过AI自动调用出来,比以前要简单。我说得通俗一点,就是以前可能是一个精湛的黑客才能做的事情,今天一个电脑的小白,他想做也可以的。
南都:面对这种风险,企业应该怎么应对?
卜宪录:我们最近也刚发布了AI方面的顾客隐私调查报告,里面也给出几方面的建议。首先就是要对员工进行培训和教育,让大家意识到AIGC在造成很多机遇的同时也造成很多风险和挑战,全员都要有这个意识。
第贰就是在使用AIGC的进程中,要有相应的规范和控制措施,避免企业内部的个人数据、 知识产权 、源代码泄露出去。因为在投喂这个AIGC进行训练的时候,可能信息就共享出去了。
另外从 网络安全 的视角要加大投入。我们最近就会在AI安全方面有许多新的解决方案推出,帮助中小企业和大型公司去更好地应对这些基于AI的攻击。
南都:除了造成风险之外,AI可以在 网络安全 上起到哪些作用?
卜宪录:思科推出的产品就有以下几个方面。第壹是帮助企业自动化地生成安全策略,降低运维的复杂度;第贰就是在安全管理中心里推出AI智能助理,帮助运维中心的管理人员缩短检测时间;第叁,大家现在上网的时候大约80%的流量都是加密的,怎样在不解密的条件下检测出网络中的攻击和恶意流量,也是AI的具体应用的场景。我举的只是几个容易的案例,我们在预测式AI和生成式AI上已经投入了很多年,因此我们不断会有新的创新成果发布出来。
思科六年前就投资了大模型公司
南都:思科在大模型上有哪些布局?
卜宪录:我们谈到AI的时候,会强调四个方面的能力,分别是数据、算力、算法和 网络安全 。从数据来看,思科是全球可靠的网络供货商,大约有超过一半的数据流量,是经过思科网络的,因此我们数据的量很大;算法上,我们通过自研、创新和并购加速这方面的能力,当然也包含算力; 网络安全 方面,思科在这方面的投入也是巨大的,我们有个大概500人的科学家团队,专门研究攻击的策略和漏洞,并把研究成果使用到我们所有的产品和服务中去,同时把其中的一部分成果开源给社区和开发者。这四个方面加在一起,构成了AI最核心的四个元素。
另外,今年初思科并购了在大语言模型方面非常可靠的企业Armorblox,这个收购已经完成了,我们也把相应的技术应用到了很多解决方案中去。思科其实对于大语言模型已经有很长期的积累,我们不是因为最近这一两年火热才关注。Armorblox这家公司其实在六年之前就被我们投资了,六年以后我们把它正式收购过来。
南都:在大模型的合规方面,国内外有哪些可以借鉴的经验么?
卜宪录:我先共享一下思科自己的经验。我们最先推出来“负责任的AI模型”,把它转化成实际的控制措施,应用在思科的产品技术服务、产品开发过程当中去。这里面主要包含几个方面,安全、隐私、可靠性、公平性、透明性等。
在不一样的市场和国家,各行各业,也都推出了很多AI方面的监察管理措施。我相信随着大家对生成式AI明白的不断加深,随着各种应用场景的不断突破,也随着这方面的实践,法案法规和最佳实践会越来越丰富,为整个生成式AI的落地创新保驾护航,确保它在正确的方向。
南都:你觉得AI会让人类更普惠,还是加大鸿沟?
卜宪录:我自己是个乐观主义者,最近这几年生成式AI获得了一点突破性的进展,我们也已经看到各行各业因此受益,很多新的场景已经出现了。但我们此时也要特别关注新技术的出现造成的危险,除了安全、隐私、合规方面的危险,我们也要关注到它是不是会造成更大的数字鸿沟。
我们思科网院的计划在这次大会上也获奖了,在中国已经培养了超过100万人。我们就是培养大学生、工程师等,让他们掌握可靠的网络技术、 人工智能 技术等。这是其中一个例子,通过这样的平台,在AI时代也能够帮助缩小数字化的鸿沟。
南都:在 新型工业化 的道路上,思科有观察到哪些机会和趋势?
卜宪录: 新型工业化 里面基础的支撑,我们把它叫做超级连接。现在表达的最新技术,底层都离不开超级连接(hyper-connected)。超级连接上面承载的业务、应用、数据会越来越多。务必要确保它有个安全可靠的网络进行承载。
这个展现形式今天变成了一个混合多云的架构,这是我们在数字化转型里我们时常听到的。超级连接有混合多云的架构,同时现在混合办公这种形态仍然会存在,因此我们把它总结成三个H:hyper-connected、Hybrid Multi-cloud、hybrid work。思科可以充分施展我们在网络和安全方面的优势,帮企业的数字化转型,提供更安全、可靠、稳定和高效的网络。