安大互联
财经热点 > 财经资讯 > WAIC开幕首日 - 大模型应用成热议焦点 AI发展需平衡安全和性能
【人工智能】WAIC开幕首日 - 大模型应用成热议焦点 AI发展需平衡安全和性能
浏览次数:【355】  发布日期:2024-7-4 21:14:53    文章分类:财经资讯   
专题:人工智能
 

  《科创板日报》7月4日讯(记者黄心怡)今日,2024世界 人工智能 大会暨 人工智能 全球治理顶级别会议正式开幕。会上, 人工智能 的应用落地成了热议焦点。业内大咖纷纷指出, 人工智能 发展既要重视大模型技术研发,更要重视大模型应用。而智能体成为最被看好的AI应用发展方向。同时,AI在快速发展的进程中也要兼顾安全与性能,应构建安全优先、又能确保AI能力长期发展的技术体系。

  ▌工信部:加快发展 人工智能 产业

  工信部副部长单忠德在讲话中表示,中国已经培育了421家国家级智能制造示范工厂,万余家省级数字化车间和智能工厂,推动制造业高端化、智能化、绿色化发展。 人工智能 企业的数量也超过了4500家,算力规模位居全球第贰,推动制定了48项智能制造相关的国际标准,推动完善全球 人工智能 产业发展的生态。

  后续,工信部将围绕强化开放合作、推动产业创新、夯实产业基座、加快应用落地四方面开展合作。

  一是强化开放合作,深入践行《全球 人工智能 治理倡议》,秉持开放包容、合作共赢的态度,坚持引进来和走出去相结合,在技术、产品标准、服务安全等方面,与各国加强交流合作,推动协同具有广泛共识的 人工智能 治理框架和标准规范,让 人工智能 发展更好地服务于人类生活。

  二是推动产业创新,聚焦关键核心技术和重要的智能装备,深化产学研合作创新,加大投入、加快创新,积极培育智能产品、智能装备和智能服务,加速智能技术产业化,扎实推动科技创新和产业创新的深度融合。

  三是夯实产业基座,加快5G网络和千兆光网的建设,扩大网络覆盖范围,深化算网融合,稳步构建智能高效的融合基础设施,建设高质量的工业数据集,扩 大数据 应用,努力建成广广覆盖、高效率、安全稳定运行的智能基础设施,为智能化发展提供有力支撑。

  四是加快应用落地,充分施展中国制造业发展的优势,以需求为牵引,积极推进智能技术在制造、交通、民生等垂直行业的推广应用和迭代升级,支持制造业企业加快数字化转型、智能化改造,培育一批智能车间、智慧工厂,加快推动 人工智能 赋能 新型工业化

  ▌AI安全和性能要平衡

  清华大学苏世民书院院长、清华大学 人工智能 国际治理研究院院长薛澜在演讲中表示,目前 人工智能 可能造成一些风险。

  第壹,技术内在问题,包含所谓幻觉,另外自主 人工智能 系统长远来讲,受到自主发展可能,对人类社会的要挟;第贰,基于技术开发造成风险,包含 数据安全 问题、算法歧视、能源环境等等诸多问题;第叁,技术应用,包含误用或滥用,长远对社会就业造成影响。这些问题都是不可忽视的。

  在他看来,中国在过去这些年的实践当中已经建立了相对照较完整的体系,首先在底层产业应用方面有一系列法律法规去推动 人工智能 的合理发展。针对算法、算力、数据有一系列治理规则。同时,针对它的危险也有许多基本规则。2019年发布《 人工智能 治理准则》,包含《伦理准则》。另外,针对相关很多问题的法律也出台,针对专项及具体场景应用都出台相应治理规则。构建了多维度、多条理、多领域、多举措的整体治理体系。

  上海 人工智能 实验室主任、首席科学家周伯文提出了探索 人工智能 45度平衡率的技术主张。他认为,AI发展是失衡的,AI模型安全的提升还远远落伍于性能。

  “如果把横轴视为AI的技术能力,纵轴是安全标识、安全赋能与评估丈量等,可以看到AI的技术能力呈指数级增长,而在安全性上则显现离散化、碎片化且后置的特性。”

  AI发展不均衡背后的起因是两者投入上的巨大不同。安全度投入远远落伍于AI投入,目前全球只有1%对齐或安全优先考量。

  周伯文认为,可信AGI(通用 人工智能 )需要兼顾安全与性能,既能AI安全优先、又能确保AI能力长期发展的技术体系,他称其为“AI 45度平衡率”。目前,上海探索一条以因果为核心的路径,取名为可信AGI的“因果之梯”,分为泛对齐、可干预、能反思。

  其中,“泛对齐”包含最前沿的人类偏好对齐技术;“可干预”包含AI系统进行动态干预,探究其因果安全技术;“能反思”要求AI系统不仅追求高效的执行任务,还能够审视自身行为的外在影响和潜在风险,从而确保性能同时保证安全和道德界限不被突破,这阶段技术包含基于价值的练习、因果可解释性、推理...。

  周伯文介绍,从全球来看,AI安全和性能技术发展主要停留在第壹阶段,部分在尝试第贰阶段,等真正实现AI安全与性能平衡务必完善第贰阶段,并勇于攀登第叁阶段。

  ▌智能体成AI应用重要方向

   中国电信 集团有限公司老总柯瑞文在现场分享了三点思考: image

  一是 人工智能 发展需要新型数字信息基础设施提供支撑。新型数字信息基础设施的基本特征是充分施展网络的技术,施展 云计算 的核心作用,推动云和网的融合,提供智能化的连接和算力服务。

  二是 人工智能 发展既要重视大模型技术研发,更要重视大模型应用。在内部应用基础上, 中国电信 全面开放场景,联合产业伙伴推动大模型深度应用。在工业、教育、医疗、政务等领域推出30多个行业大模型应用,已服务7000多家政企客户。

  三是 人工智能 发展需要共建开放生态,共同推进治理。 人工智能 发展涉及芯片、云网、模型、应用等产业链各个领域,将催生大量融合创新的合作机会,需要产业各界立足自身天赋,在技术共创、数据共享、场景开放、人才培养、资本合作等方面携手建立开放生态,实现互利共赢。

  华为常务董事、华为云总裁张平安则提到了行业应用的重要性。他表示,我国的AI发展离不开算力基础设施的创新,并且要敢于开放行业场景,让AI在行业应用上领先。 image

  “我国的AI发展道路,追求的应该是在行业领域构筑大模型的全球领先地位。如果各行各业都积极拥抱AI,积极的开放行业的业务场景,中国很有机会在2B领域构筑起全球的领先优势。”

  张平安介绍,以钢铁行业为例,盘古大模型已经在宝钢的一条热轧生产线上线,预测钢板精度提高5%,每年有望多生产2万吨钢板,增收9000多万元。基于华为大模型的这个钢铁行业AI应用解决方案也入围了本次大会的“卓越 人工智能 引领者奖”(SAIL奖)。

  百度开创人、老总兼首席执行官李彦宏谈及了AI应用的发展路径。他表示,要跳出移动时代的思维逻辑,避免掉入“超级应用陷阱”,不是只有10亿DAU的应用才叫成功。同时,李彦宏指出,智能体是开发最容易的AI应用,“也是我们最看好的AI应用的发展方向”。 image

  在他看来,大模型的关键还是“卷应用”,“没有应用,光有基础模型,甭管是开源还是闭源都一文不值。”

  他认为,医疗、教育、金融、制造、交通、农业等各行业领域,未来都会依据自己的场景和特有经验、规则、数据等等,做出各种智能体,将会出现数百万量级的智能体,形成庞大生态。

  蚂蚁集团老总兼总裁井贤栋表示,在手机端时代,生活、医疗、金融等场景中涌现出了一批卓越的应用,形成互联互通的网络对外提供服务。在大模型时代,智能体是新的应用范式,蚂蚁也在探索智能服务新可能。“我们相信,通过专业智能体的深度连接,Al会像互联网一样,造成服务的代际升级。” image

手机扫码浏览该文章
 ● 相关资讯推荐
2024-7-6【人工智能】硬科技投向标-20城将试点-车路云一体化-应用 工信部发布脑机接口标准化技术委员会筹建方案
2024-7-5【国防部】起诉美国国防部最新进展 - 禾赛再度反驳涉军指控 称无任何实质性依据
2024-7-5【5G网络】工信部最新!这类企业迎利好
2024-7-5【钢铁行业】从PMI指数分析 - 供需压力环比增大、成本支撑减弱 7月钢铁市场或继续震荡下行
2024-7-5【金融机构】重磅突发 - 央行出手了!工信部最新发声 - 多股涨停!一股闪崩近70%
2024-7-5【金壮龙】工信部部长金壮龙 - 将继续支持东北和中西部省份办好产业转移发展对接活动,提升承接产业转移能力
2024-7-5【旅游】广东发布文旅产业赋能城市更新优秀案例 在制造业之都,转角遇见-诗和远方-
2024-7-4【川崎重工】日本制造业巨头川崎重工存在不正当交易,涉及超十亿日元
2024-7-4【人工智能】金融成大模型应用落地最快场景之一 ,但要防范-隐私偏见-
2024-7-4【人工智能】小K播早报-李强 - 大力推动-人工智能+-制造业 20城将试点-车路云一体化-应用
 ● 相关资讯专题
人工智能】  【中金公司】  【大模型】  【标准化】  【国防部】  【工信部】  【实质性】  【5G网络】  【钢铁行业】  【制造业】  【PMI】  【金融机构】  【金壮龙】  【承接产业转移】  【川崎重工】  【2024】  【智能机器人】  【人工智能+】 
  • 网络建设业务咨询

   TEl:13626712526