安大互联
财经热点 > 财经资讯 > 齐向东 - AI大模型不是万能钥匙 落地过程警惕安全风险
【网络安全】齐向东 - AI大模型不是万能钥匙 落地过程警惕安全风险
浏览次数:【165】  发布日期:2024-6-5 20:12:47    文章分类:财经资讯   
专题:网络安全】 【人工智能】 【齐向东
 

  中新网北京6月5日电 (记者夏宾)当前,各行各业网络化、数字化、智能化转型加速,以数据为关键要素的 新产业 ,以 人工智能 为关键技术的新场景,面临的安全挑战更加复杂,各类攻击要挟日积月累。

  5日,以“AI驱动安全”为主题的2024全球 数字经济 大会数字安全高层论坛暨北京 网络安全 大会战略峰会在北京国家会议中心举行,全国工商联副主席、奇安信集团老总齐向东在会上发表主旨演讲称,AI驱动安全是大势所趋,未来网络攻防就是得AI者得天下。

  “谁能提前抓住AI变革的机遇,谁就能掌握网络空间安全的主动权。”齐向东判断,当前 网络安全 格局正在被推翻重构,但这种推翻重构不仅造成新的安全挑战,也为 网络安全 行业造成空前绝后的战略机遇。

  面对 人工智能 时代新的 网络安全 态势,2024年政府工作报告提到,强化重点领域安全能力建设,其中就包含“提高网络、数据等安全保证能力”。

  据奇安信发布的《2024 人工智能 安全报告》,AI既放大现有 网络安全 要挟,又引入了新型要挟,引发 网络安全 事件指数级增长。其中,2023年基于AI的深度伪造欺诈暴增3000%,基于AI的垂钓邮件数量增长了1000%。

  一项对IT行业领导者进行的关于ChatGPT等大模型的调查显示,安全性是受访者最关注的问题,71%的受访者认为生成式 人工智能 会给企业 数据安全 造成新的危险。

  由此,齐向东也提醒说,AI大模型不是万能钥匙。尤其是在现今“百模大战”的状态下,只有高质量发展的大模型,才能真正造成指数级能力跃升,激发 网络安全 行业的新质生产力。

  他在接受中新网等媒体采访时提到了AI落地进程中的安全风险问题。例如,一旦对AI“倾囊相授”、对AI发问时“掏心窝子”,其具备的处理问题能力会越来越强,涉及到相关 知识产权 、商业机密等方面的内容可能会被竞争对手通过AI窃取,造成数据泄露的危险。

  另一方面,甭管是训练还是使用,务必把AI接入到公司内部数据中,但大部分AI又是从外部“领养”,是否存在“后门”、是否会被人“投毒”,都无从可知,这也是 数据安全 造成的潜在风险,若长期使用被“投毒”后的AI给出的业务决策,可能就会把业务带偏。

  但他也直言,我们不要被AI可能引发的数据泄露所吓倒,应该要拥抱AI,要把安全的问题交给安全公司,相信专业人办精湛的事。 网络安全 公司要全面拥抱AI,利用AI实现安全能力的跃升。

  在齐向东看来,做好“AI驱动安全”至少需要具备三大条件,一是高质量的练习数据,二是纵深防御的内生安全体系,三是设备、体系具有统一的输入输出标准。

  具体而言,既要有足够多的条件安全数据用于训练安全大模型,也要有足够贴近实战的一手原始语料用于大模型推理。齐向东认为,基于这种全而新的高质量数据训练出来的大模型,精确性和实用性才能远超未优化的通用模型。

  另外,需要体系化的 网络安全 建设,为AI施展效率创造平台。齐向东称, 网络安全 防护有赖于体系化协同。当前,通过AI赋能内生安全体系,不仅可以实现 网络安全 系统和客户业务全面的完美融合,更能实现 网络安全 响应从滞后到实时的大跃升,全时段瞬时响应成为可能,也为AI实时施展防护功能和学习最新技术提供了真实海量场景。

  “训练好的安全大模型,能否取得好效果决定于设备和体系是否有统一的标准。”齐向东认为,标准的统一至少包含两个方面,一是数据输入标准的统一,让AI能通过标准系统读懂“多国语言”,完成体系化分析。另一是指令输出标准的统一,让AI实现跨设备、跨全面的能力协同和全局联动。(完)

手机扫码浏览该文章
 ● 相关资讯推荐
2024-10-6【分析师】受质疑的华尔街分析师
2024-10-4【英伟达】中东局势火上浇-油-!昨夜 油价大涨!
2024-10-5【人工智能】4000元扫地机与400000元汽车 - 一切都可以是机器人
2024-10-5【人工智能】4000元扫地机与400000元汽车 - 一切都可以是机器人 - 海斌访谈
2024-10-4【马斯克】-人类爱好者-马斯克,锚定人工智能 - AI 21人
2024-10-3【数据安全】开业10个月,山西农商联合银行收首张罚单,涉数据安全、网络安全问题
2024-10-4【英伟达】美股成交额前20 - 特斯拉9个月来第五次召回Cybertruck
2024-10-3【OpenAI】史上最高!OpenAI官宣获66亿美元融资 - 估值超1500亿美元
2024-10-2【数据安全】-网络数据安全管理条例-出台 - 分类保护、跨境传输再细化
2024-10-1【人工智能】美股成交额前20 - 苹果涨超2% 消息称苹果不再参与OpenAI融资轮谈判
 ● 相关资讯专题
分析师】  【人工智能】  【华尔街】  【英伟达】  【GPU】  【以色列】  【传感器】  【机器人】  【马斯克】  【特斯拉】  【人形机器人】  【脑机接口】  【人类爱好者】  【FSD】  【数据安全】  【联合银行】  【安全管理】  【网络安全】  【Cybertruck】  【成交额】  【OpenAI】  【刘新宇】  【亚马逊】 
  • 网络建设业务咨询

   TEl:13626712526