【人工智能】当ChatGPT开始-说人话- 我们需要担心什么？

　　当地时间9月24日，OpenAI宣布针对ChatGPT订阅用户推出顶级语音功能，起定价为每月20美元，该工具可实现更自然流畅的对话。

　　OpenAI在今年5月就已经宣布这项新的语音功能，不过由于ChatGPT的声音之一Sky被指与2013年电影《她》中斯嘉丽·约翰逊的声音相似疑似侵权，OpenAI将Sky暂时下线。

　　今年早些时候，OpenAI还曾推出语音复制工具Voice Engine，但当时并未向公众开放，理由是“合成语音滥用的存在性”。

　　随着 人工智能 越来越擅长模仿人类的声音，人们越来越担忧AI技术可能会反过来攻击人们，例如帮助犯罪分子获取个人银行账户，并流传错误信息。

　　最近，英国网络贷款机构Starling Bank警告称，数百万人可能成为利用 人工智能 克隆声音骗局的受害者。

　　这家英国银行表示，诈骗者能够利用 人工智能 从某人在互联网上发布的视频和音频中复制出其声音，这些音频只需要持续三秒钟，诈骗者就可以识别该人的朋友和家人，并使用 人工智能 克隆的声音打电话索要钱财。而很多人不了解存在此类AI语音克隆诈骗，还有一部分人会按对方的要求转账，造成财产损失。

　　“人们我们时常在互联网上发布包含自己声音录音的内容，却历来没有想过这些录音会被一些非法分子利用，成为诈骗案的受害者。”Starling Bank在一份声明中表示。

　　对此，星展集团首席执行官高博德日前接受第壹财经记者采访时表示：“我们更希望 人工智能 可以成为发现骗局的工具，实际上这种技术本身非常适合用来检测异常情况，从而将有嫌疑的表现标注出来，进行深入的调查分析。”

　　高博德表示，星展银行已经开展了很多工作，这些工作将为未来防范 人工智能 诈骗奠基基础。“现在，包含新加坡在内的很多政府都特别重视数据标注的格式，制定相应的标准和指导方针，我认为，这对于未来相关AI监管措施的落地极为重要。”他对第壹财经记者说道。

　　随同着AI快速发展和广泛应用，其造成的危险和挑战也在增多。在这一环境下，AI的治理已经引起全球企业的高度关注。

　　2019年，新加坡就成为首个推出AI治理框架的国家，为企业和消费者提供负责任使用AI的指南，这一指南在2022年就进行了更新，涵盖生成式AI。

　　“我们认为迭代学习的要领是更加明智的，这样才有可能尽量避免AI造成的所有潜在危害。”新加坡政府首席AI官员何瑞敏在今年的上海世界 人工智能 大会上表示。

　　最近，联合国 人工智能 顶级咨询机构发布了一份关于 人工智能 （AI）治理的重要报告，呼吁国际社会共同努力，建立一个真正意义上的全球性AI监管和治理机制。

　　“ 人工智能 技术在某种水平上体现了现代社会的 势头，整个宏观治理框架务必进行调整和适应，以应对这些风险。”高博德对第壹财经记者表示。

　　这时，AI技术的快速应用正在改变企业和经济全球 人工智能 相关产品市场持续增长。贝恩公司在9月25日发布的第五次年度全球科技报告中预计，AI相关市场规模有望在2027年接近1万亿美元。