安大互联
财经热点 > 财经资讯 > 当AI-复活-亲人成为一门生意 - 有人坦言-再像也不爱我-
【AI换脸】当AI-复活-亲人成为一门生意 - 有人坦言-再像也不爱我-
浏览次数:【124】  发布日期:2024-3-15 13:52:36    文章分类:财经资讯   
专题:AI换脸】 【再像也不爱我
 

  AI技术让与已逝亲人“再见一面”的愿望成了可能。最近,台湾著名音乐人包小柏利用AI技术,努力使女儿在数字世界“复活”的故事,引发烧议。南都、N视频记者了解到,在生成式AI发展浪潮下,通过收集逝者生前的图片、音视频等资料,数字“复活”他们的音容笑貌已不罕见。

  南都记者观察发现,在一些电商平台上,有很多做AI“复活”生意的商家,商品标价从几元、几十元到上百元甚至数千元。有技术提供商向南都记者表示,其一年完成693单AI“复活”亲人的订单,每单定价数千元甚至上万元。

  “纵使模仿得再像,也不爱我。”一位利用“AI”复活爸爸的女孩向南都记者坦言。业内人士也分析指出,基于当前的技术条件,其与老相片修复的性质相似,只是加入了更多互动和个性元素,“复活”的亲人也其实不包含其生前的记忆,只是一个能互动的“木偶”,还不大可能走向真正意义上的数字永生。

  用AI“复活”亲人

  “每个失去至亲的人,都会发生‘要是亲人能活过来就好了’的思路,我也不破例。”

  来自辽宁抚顺的孙先生今年42岁,是一名医务工作者,近期通过AI技术数字“复活”了半年前去世的爸爸。他向南都记者表示,这样做是为了满足思儿心切的奶奶的愿望,“她还不晓得爸爸已经离世。”

  孙先生告诉南都记者,他的爸爸半年前因为罕见病去世,奶奶心脏不好,全家人都害怕告诉她真相。出于思念,奶奶常会念叨儿子,孙先生便对奶奶谎称,爸爸目前在北京治病,病情已经稳定,但需要长期治疗,不方便回家。但奶奶还是期待能见一见儿子,请求孙先生去北京时给她录个视频,“我太想他了,你让他跟我说句话。”

  孙先生明白奶奶的愿望,加上受到《流浪地球2》中图恒宇“复活”女儿丫丫的情节启发,他决定用AI换脸技术,给奶奶编造一个善意的谎话。

  孙先生讲,他是通过苹果手机上一款免费换脸App“复活”爸爸的,全过程非常简单——他出镜提前把爸爸可能会对奶奶说的话录成视频,再直接将视频和爸爸的相片导入App,很快便能生成爸爸在说话的视频。

  孙先生对南都记者说,在录制进程中,他常想起爸爸,不由自主掉泪。“尽管成品看起来并没有特别真切,但起码能让奶奶放心,对于奶奶和我而言,它是个慰藉。”

  就读北京电影学院研究生三年级的女生黄豆,同样选择用AI“复活”爸爸。

  1997年那年,黄豆诞生,她的爸爸确诊癌症,在她记忆中,没有见过“正常的爸爸”。她说,“复活”爸爸最原始的动机,是希望“AI爸爸”能成为自己的引路人,“就像别人的爸爸那样”。

  在形式上,比起单纯“复活”爸爸的样貌和声音,黄豆更想做出一个带有爸爸人格特点的AI,“不应该只是一个提供服务的聊天 机器人 。”

  于是,从2023年10月开始,她对妈妈、哥哥和爸爸生前的亲朋好友进行访谈,尽可能地将不同人口中的“爸爸”概括出来,将他们口中关于爸爸的事化成性格描述,再输入AI。

  黄豆不满足于此,她希望AI爸爸能带有已故爸爸的真实回忆。

  因此,她选取了能代表爸爸不同面向的事情来“喂养”AI,包含求学经历、兴趣爱好和他对抗疾病的经历等。经过“喂养”的AI能生成更生动的对话,会关心她的生活,跟她聊往事。“这些对话有时还挺震动我的,让我看到了另外一种可能,如果我的爸爸还活着。”黄豆向南都记者说道。

  数字“复活”生意

  “人死不能复生”是一种常识,但AI技术,似乎在一定水平上让人感觉能打破这个界限。目前在做AI“复活”亲人生意的“超级头脑”团队责任人张泽伟,对此深有体会。

  从2023年初起,张泽伟团队就已经开始为普通人定制“AI数字人”。他向南都记者直言,市场潜力巨大,需求火爆。

  直到今天,张泽伟团队的这项服务咨询超过2000人次,共完成693单,平均一单几千到1万元不等。张泽伟说,前来了解的人遍布不同地区和年龄,每个人都有不同样的故事,但目的大多都是因为“思念逝去的亲人”。

  张泽伟向南都记者介绍,目前其团队制作的AI数字人,大致可分为两种形式,一种形式是智能驱动,即只需收集人的光辉形象、声音、生平等作为数据,定制出可以对话的 虚拟数字人 ;第贰种形式是人为驱动,让真人换上逝者的光辉形象和声音在线上“饰演”,进行实时互动。

  南都记者在电商平台上搜索,也发现了许多做AI“复活”生意的商家,该类生意以创意AI“复活”照为主,标价在十元至上百元间。南都记者咨询了其中一名经营创意AI“复活”相片的商家,从标价10元的链接点击联系客服后,对方表示,具体价格要根据相片和要求来定,他们能实现的效果包含“让相片动起来”和“让相片开口说话”。

  该名电商商家表示,假如是让相片“动起来”,只需要提供正面相片,成片6-7秒。假如想让相片“说话”,务必提供正面相片与定制文本,价格根据视频时长而定。相片说话的声音有两种形式可选,一是用商家现成的普通话声音,音色不可选;二是还原原声,需要提供充分的音频收集,单位时长的价钱大概是第壹种形式的3倍。

  另有电商商家出售一款AI数字人软件,安置后可以导入正面相片让其“开口说话”。南都记者咨询该商家,对方表示,该软件只能实现导入相片和录好的音频直接合成,若需要音色克隆,可以购买店里另外一款AI声音克隆软件。两款软件一同购买,总售价不高于40元人民币,可以永久无限使用。

  另外,孙先生提到的AI换脸软件在电商平台上也很常见。南都记者在电商平台上检索发现,这些软件多以网盘的形式发货,标价在几元至十几元间,但AI换脸软件的商品页面几乎没有以“复活”亲人为营销。一款“一键换脸”软件的评论区中,共有6位买家晒出效果图,均将图片中的人脸换为明星脸。

  AI换脸乱象曾引关注

  “有些回答很生硬,缺乏情感和温度,就不像真人会说的话。”张泽伟表示,面对真实情感需求的场景时,目前由智能驱动制作的数字人显得有些笨拙。

  因此,张泽伟团队当前的大部分订单还是借助AI换脸技术,是他或其它真人在背后驱动,提取人的样貌声音特征后,调取虚拟摄像头给真人换上逝者的脸和声音,跟对方实时互动。

  然而,AI换脸技术自诞生起就备受争议,用AI换脸侵害他人权益的案件并很多见。2023年8月10日,公安部通报全国公安机关打击整治侵犯公民个人信息违法犯罪表现举措成效,数据显示,自2020年“净网”专项行动以来,破获涉“AI换脸”案件79起,抓获犯罪嫌疑人515名。

  南都记者了解到,对于生成式AI,近年来监管职能部门已经出台有关规定。2022年12月11日,《互联网信息服务深度合成管理规定》发布,强调深度合成服务提供者需要对深度合成内容进行明显标识。

  2023年7月10日,《生成式 人工智能 服务管理暂行办法》(下称《暂行办法》)出台,其中明确提出,提供和使用生成式 人工智能 服务时,应当尊重他人合法权益,不得危害他人身心健康,不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益。

  《暂行办法》中还强调,生成式 人工智能 服务提供者应当使用具有合法来源的数据和基础模型,不得侵害他人依法享有的 知识产权 ,涉及个人信息的,应当取得个人同意或符合法律、行政法规规定的其它情形。

  由于非法提供者或使用者有匿名性及AI换脸产品本身的可复制性,AI生成产业的监察管理仍然面临难题。AI“复活”亲人的生意,如何确保不被非法分子所利用?

  张泽伟向南都记者坦言,目前AI“复活”亲人产业,并无行业标准,他们对违法使用的表现无法完全甄别。“我们只能通过询问动机、多方求证来判断是否相信他们的故事。”

  南都记者咨询多家经营创意AI“复活”相片的商家发现,其中一些店铺会在提供服务前强调“不做人脸识别,不做犯法行为,只能用于怀念”;有些店铺则在声明中强调,“不得用于商业或非法用途,不然一切后果请用户自负。”也有出售AI视频换脸软件的商家全程没有提到对用途的制约,其商铺页面显示该软件已经有100多人付款。

  AI爸爸“不爱我”

  在孙先生数字“复活”爸爸以后,他把这段视频和他的故事发布到社交平台,意外地火了。

  孙先生认为,“以往大家对于新技术使用场景的想象都较负面,通常都是诈骗或娱乐,但我的故事让大家看到了科技向善的一面,这是科技发展的应有之义。”

  互联网产业分析师张书乐在接受南都采访时表示,AI“复活”亲人是一种基于科技实现的情感满足和精神慰藉,本质没有伦理问题,主要在服饰、形象和互动言语上,把握好度就可以,“前提是亲人务必是直系,用途也一定是基于缅怀和陪伴。”

  张书乐认为,目前AI“复活”亲人成为产业,最大的定 时炸弹在于内容生产方往往缺乏对需求方的资格审核,这可能造成需求方未必是直系亲人,“作品”有可能被滥用,如制造一些虚拟形象、实施电信诈骗,和用AI生产真人形象后进行各种犯法行为等。“目前这个行业的监察管理,最关键的是对AI‘复活’亲人的执行条件、生成效果、适用范围和申请人资格等进行规定。这是目前所缺乏的。”

  河南泽槿律师事务所主任付建同样表示,虽然AI技术应用到“复活”亲人是科技向善的一种体现,但也存在一系列隐患亟待监管。付建表示,所有AI服务都可能面临隐私泄露的危险,由隐私泄露衍生出的遗产权、 知识产权 、财产权等诸多问题都需要被重视。

  付建强调,AI服务的规范需要相关法律的更新和明确,也需要开发和采用AI伦理指导原则,以确保技术的使用符合伦理标准。

  对于AI“复活”亲人行业的未来,张书乐认为,基于当前的技术条件,其与老相片修复的性质相似,只是加入了更多互动和个性元素,“复活”的亲人也其实不包含其生前的记忆,只是一个能互动的“木偶”,还不大可能走向真正意义上的数字永生。

  在为“复活”爸爸驯化AI的进程中,黄豆明确地感受到“‘AI爸爸’不爱我”。

  对人而言,性格的形成受到先天条件、环境、教育等多方面的综合影响,但对AI而言,则需要一句句输入文本指令后输出形成性格文本。黄豆向南都记者表示,假如想形成贴合爸爸性格的对话,就务必给它很清楚的指令,好比,“我爸爸是一个缄默寂静寡言的人,每段对话不要超过50字。”这种明确的指令,完全消弭了AI爸爸在她心中的主体性。

  “纵使模仿得再像,也不爱我。”

  目前,黄豆所做的“AI爸爸”仍在迭代中,她期待未来能有更顶尖的技术来“复活”爸爸。如果可以的话,她希望爸爸的光辉形象出现在自己的结业典礼或婚礼上。

  比起弥补缺少爸爸的遗憾,黄豆目前对这项技术的应用有了新的意见,“AI‘复活’爸爸更大的意义,在于通过一次次的访谈和了解,我能不断地拼凑他的人生,爸爸在我心目中不再是模糊的光辉形象,而是那个一直深爱我的人。”

手机扫码浏览该文章
 ● 相关资讯推荐
 ● 相关资讯专题
  • 网络建设业务咨询

   TEl:13626712526