安大互联
财经热点 > 财经资讯 > -人工智能安全作为全球公共产品-报告发布 监管治理亟待克服-共同无知-挑战
【人工智能】-人工智能安全作为全球公共产品-报告发布 监管治理亟待克服-共同无知-挑战
浏览次数:【866】  发布日期:2024-7-7 9:57:46    文章分类:财经资讯   
 

  7月5日,2024世界 人工智能 大会同期举办的“加速‘ 人工智能 +’ 构筑新质生产力”主题活动在上海拉开序幕, 人工智能 领域科技企业及机构代表、知名院校代表、业内优秀专家学者等齐聚徐汇西岸,共议 人工智能 发展,探讨 人工智能 作为新质生产力与各行业的技术融合。

  在本次活动上,上海 人工智能 实验室治理研究中心、清华大学产业发展与环境治理研究中心、上海交通大学国际与公共事务学院等单位共同建立的联合研究团队正式发布《 人工智能 安全作为全球公共产品》研究报告(以下简称《报告》)。

  基于上海大模型安全治理实践,《报告》第壹次提出应将 人工智能 安全视为“全球公共产品”的宗旨,提倡各方应致力于建设具有公共性的安全知识、能力、资源,统筹安全与发展双重目标,推动该领域的理论发展与实践探索。

  《报告》的核心概念——“ 人工智能 安全作为全球公共产品”是指,考量到 人工智能 技术创新、产业应用规律及其引致风险机制的特殊性, 人工智能 安全应被视为具有公共属性的知识、能力、资源,政府、企业、第叁方等不同主体需要在共商共建共享进程中共同探索,增进关于 人工智能 安全知识、能力、资源的增长和积累。这一公共产品可更好指引 人工智能 产业发展与社会应用,确保每个人及人类整体从中获益,形成“小河有水大河满”的良性生态。

   人工智能 安全作为全球公共产品的理念认为, 人工智能 安全在消费上应具有非竞争性、在收益上应具有非排他性:前者是指, 人工智能 安全知识、能力、资源其实不因新增主体而降低原有主体的使用与消费;后者是指, 人工智能 安全知识、能力、资源在使某些主体受益的同时,不排斥其它主体受益。

  《报告》认为,为实现“ 人工智能 安全作为全球公共产品”的目标,应在尊重多边、多方自主决策的条件上,充分施展各国政府、联合国及其它政府间国际组织、国际社会其它公共机构等的引导、桥接、催化作用,推动国际社会在 人工智能 安全领域形成能力共建、风险共担、体系共商、知识共享的可信治理环境,以克服集体行动困境,实现 人工智能 安全作为全球公共产品的可持续生产、维系与再生产。

  以上海应对大模型安全治理的实践经验为例,《报告》提出,一方面,针对安全风险的不确定性和动态性特征,监管职能部门应转变传统监管思路,成为安全治理知识的学习者、汇聚者、流传者,以克服“共同无知”挑战。

  另一方面,针对发展与安全目标的对峙、统一问题,监管职能部门应一边抓安全风险“底线共识”,一边创设跨部门协同机制,在为一线创新应用主体提供宽泛发展空间的同时,保存事中事后责任追究可能性的“责罚性威慑”。

  另外,针对安全治理机制的碎片化问题,需充分调动公共科研、技术机构的监察管理支撑能力,并在此进程中广泛并入利益相关方参与,以过程的开放性来实现安全评测数据库等安全资源库建设的权威。

  作为上海甚至全国的创新高地,此前徐汇在 人工智能 产业发展与安全协同方面已经有诸多探索。2023年,上海缔造全国首个、上海唯一大模型创新生态社区“模速空间”,建立上海首个 人工智能 大模型产业生态集聚区,全区累计支持22个大模型根据《生成式 人工智能 服务管理暂行办法》通过上线备案、占全市的2/3,推出全市首部区级大模型专项政策(《徐汇区关于支持 人工智能 大模型发展的若干意见(试行)》),并以此为根据启动首期算力补助和大模型应用场景征集,政策力度。

  上海徐汇区委副书记、代理区长王华在活动讲话中表示,徐汇将始终立足上海、对标国际,积极建立生成式 人工智能 创新生态先导区,进一步做强“模速空间”,依托徐汇滨江六大百万体量产业组团,吸引集聚更多大模型创新企业和人才团队。

  在本次活动上,《徐汇区关于支持西岸 人工智能 大模型科创街区建设的扶持意见》正式发布,涵盖增强大模型创新能力、强化算力和数据供给、支持产品研发和协同创新等十个方面的内容,并与 中国电信 人工智能 研究院、库帕思、埃迪希、魔搭社区等16家大模型开发应用核心企业完成了集中签约的仪式。

  本次活动由中央广播电视总台研究院、上海交通大学和上海 人工智能 实验室共同主办,中央广播电视总台超高清视音频制播显现国家重点实验室、中央广播电视总台上海总站、上海交通大学 人工智能 学院和上海交通大学国际与公共事务学院承办。

手机扫码浏览该文章
 ● 相关资讯推荐
 ● 相关资讯专题
  • 网络建设业务咨询

   TEl:13626712526