【人工智能】OpenAI展示语音生成-武器库- 太强大以至于无法推广 生成声音的功能存在严重风险

　　当地时间周五（3月29日），美国 人工智能 研究公司OpenAI在官方网站第壹次分享了名为“Voice Engine”（语音引擎）的预览。

　　据介绍，通过输入文本和15秒音频样本，Voice Engine便可以生成一个与音频中说话者非常相似的自然语音。新闻稿强调，生成的自然语音具有丰富的情感和真切的声音。

　　OpenAI称，公司于2022年末第壹次开发了语音引擎，并使用它为文本到语音API和ChatGPT语音和Read Aloud中的预设语音提供动力。这时，由于合成语音滥用的存在性，公司正在采取谨慎和知情的形式进行更广泛的发布。OpenAI希望负责任地部署合成声音和社会如何适应这些新能力展开对话。基于这些对话和这些小规模测试的结果，OpenAI将对是否和如何大规模部署这项技术做出更明智的决定。

　　新闻稿写道，儿童教育技术公司Age of Learning正在使用这个模型来生成一些预先编写好的内容，并且还结合GPT-4 建立实时的响应来与学生互动。

　　在案例中，OpenAI放出了一段英语男声和西班牙语女声的样本音频，并用两段音频各生成了讲解知识的语音。

　　除此以外，OpenAI还展示了生成较小语系和孤立语系声音的能力，以帮助落伍地区的社区卫生工作者；同时还与神经科学研究所探索AI在临床环境中的应用，好比帮助语言障碍者等用途。

　　OpenAI写道，“我们认识到，生成声音的功能存在严重风险，这一点在大选年尤为突出。我们正在与来自政府、媒体、娱乐、教育等领域的国际合作伙伴合作，以确保我们在建设进程中吸收他们的反馈。 ”

　　OpenAI产品责任人Jeff Harris表示，“假如你能正确地设置音频，基本上就能生成人类口径的声音，这是一种相当令人印象深刻的技术。”但Harris提到，准确模仿人类语音的能力的确存在安全隐患。

　　今年1月，美国就出现“AI拜登”事件，由AI生成的“假拜登”在电话中用真切的声音鼓励可能支持民主党的5000位选民在新罕布什尔州初选中不要投票。本月早些时候，拜登呼吁国会通过立法来监管AI，包含禁止“AI语音模仿”等。

　　CNN随后报道称，美国政府追查发现，71岁的男子沃尔特·蒙克和其总部办公地位于得克萨斯州的“生命”公司是幕后黑手。

　　当地时间3月7日晚，美国总统拜登发表备受瞩目的大选年国情咨文演讲，也是其任内第叁场国情咨文。拜登呼吁国会紧急行动起来，通过立法来监管 人工智能 。拜登警告称，假如不加以控制，这项技术将给美国人造成风险。

　　去年10月底，美国总统拜登签署了一项关于 人工智能 的行政命令，推出白宫有关生成式 人工智能 的首套监管制度。根据行政命令，美国多个政府机构需制定标准，以防止使用 人工智能 设计生物或核武器等要挟，并寻求“水印”等内容验证的最佳方法，拟定顶尖的 网络安全 计划。具体而言，命令要求对 人工智能 产品进行测试，并将测试结果报告给联邦政府。它还提出吸引全球 人工智能 人才留在美国。

　　值得注意的是，最近，一款叫Suno AI的工具简直要一夜推翻音乐圈。经它爆改的金曲，直接封神。人们纷纷惊呼：音乐人已死！有媒体的描述是这样的，这可能席卷全世界的可怕AI音乐。

　　在官方网站上，Suno AI的应用程序可避免费试用。

　　只要在框中输入提示，片刻之后，一段完全符合你要求的真切、高保真的音乐片段就开始自动播放了。

　　而且，你不用任何门槛。现在，不懂任何乐理知识的人，就能创作出一段抓耳的音乐，甚至可能成为抖音爆款神曲，分分钟吸金百万！

　　在网友Michael Anti看来，Suno AI很快就要成为网易云音乐了。

　　而人类音乐家们也麻了，心里分分钟响起警报：完了，我要被淘汰了？

　　独立摇滚音乐人、站长Damon Krukowski表示，这个AI对于音乐人而言，是一场噩梦。

　　也有人疑问道：这有啥意义么？它只是创作出了一点音乐，但其实不是创作出了好音乐。并且，如同ChatGPT和Sora一样，Suno AI也面临着版权的问题。很可能AI制作的音乐会充溢着各大音乐平台，直到泡沫破裂。