如果可以，你愿意和AI谈一场赛博恋爱么？

　　7月4日，在刚刚开幕的2024世界 人工智能 大会暨 人工智能 全球治理顶级别会议上，黑石集团老总、首席执行官兼联合开创人苏世民表示， 人工智能 在深入理科研究的同时，也需要与人类的情感相结合，并找寻到“理智与情感”的结合方向。未来十年至20年后，AI势必深刻影响人类的发展和未来，前沿科技与人文社会的有机协同，是从现在开始就值得思索和探究的。

　　“他这普通话太标准了，可能是个 机器人 。”在Soul App展台上试玩“狼人魅影”的观众反馈道，这场狼人杀游戏混杂着真人玩家和AI玩家。当AIGC领域讨论焦点从大模型逐渐转移到应用层，社交成为新技术率先落地的最佳垂类方向之一。诸如此类的大模型对话、数字分身等，“AIGC+社交”场景深度融合的最新实践越来越多地出现在世界 人工智能 大会上。

　　其实，在今年3月，腾讯和字节跳动也不约而同上线了自家的AI聊天产品，QQ推出了名为“AI聊天搭子”的AI对话功能，而字节推出了一款名为“话炉”的AI社交APP。不可否认的是，这些AI社交产品丰富了人类的生活体验，弥补了平淡日子里缺失的部分情绪价值，但同时其潜在的伦理挑战与隐私安全等许多问题也在浮出水面。

　　进阶的赛博陪伴

　　“大家认为和AI聊天很有趣，不会冷场，能快速得到回复和情绪价值。”Soul APP旗下Just So Soul研究院研究员邵毛毛分析道，“社交关系网络不仅仅局限于真人、同事、同学，而是也可以在AI身上找到这种情感陪伴、情感投射。”

　　不难发现，在各种AI社交产品推出时，首先被席卷的是年轻群体。根据《2024年Soul APP Z世代AIGC态度报告》，当下九成的年轻人都使用过AIGC产品，其中有六成年轻人对AIGC持积极态度，有1/3的年轻人都愿意和AI做朋友。

　　在如《她（Her）》等影视作品中，人机之恋一直活跃在人类的遐想中，而今在技术发展之下，人们已窥探其照进现实的种种可能。当下，人们几乎可以随心所欲地定制AI角色，让TA变成秘书、语伴、朋友，甚至另一半。

　　如应用“异世界回响”中， 用户可根据喜好自定义角色人设，实现不同 的对话风格；人物的光辉形象可通过文字描述或上传心仪的图片生成；平台提供多种基础音色，用户可自行建立、融合出属于该角色的专属声音，实现多模态互动。

　　“AI陪伴要有稳定性，一旦人设不稳定，对用户的沉醉式体验伤害特别大。”Soul APP对话算法责任人尹顺顺解释道，同时还要有记忆，甭管是啥类型的关系，它的核心是在于通过陪伴，通过时间的投入，来发生记忆和沉淀关系。

　　业内普遍认为，AI社交的出现，可能打破长时间以来的传统社交模式。而2023年起，国内的互联网大厂在AI社交领域也不断加码，相关产品如漫山遍野般上线。美团上线首个AI伴聊产品“WOW”，抖音上线首个AI聊天 机器人 “抖音心晴”，腾讯音乐率先推出“未伴”APP，腾讯阅文紧接着推出AI虚拟角色聊天产品“筑梦岛”等，俯拾皆是。

　　“AI始终是一个很值得探索的技术和行业，但我眼见它从一个蓝海变成了一个红海，据统计，仅2023年就出现至少100多家做AI+社交的企业。”对此，Soul App CTO陶明指出，“社交的本质是为了信息交流和这种情绪价值的交换。用户愿意持续与AI进行对话交互。”而数据显示，Soul App用户平均每天会给AI苟蛋（社交 机器人 ）发送超过70条消息，互动平均时长超过30分钟。

　　被敲响的“警钟”

　　但一切欢欣背后，不可忽视的是， 人工智能 发展进程中，包含不确定性、数据质量、道德和伦理等许多问题。

　　在复旦大学教授、上海数据科学重点实验室主任肖仰华看来，“在新型的人机关系和交互模式中，我们会发现自己的思考方式和价值观受到机器的影响和挑战。我们会对自己的问题、想法和信念进行深入思考，并在与机器交谈的进程中重新构建和调整自己的认知。”

　　早在2023年2月，意大利监管职能部门就曾指出AI聊天 机器人 Replika涉嫌违反欧盟《通用数据保护条例》，包含未设置用户年龄验证机制等，应当给予一定的处罚。其实，Replika一直存在很多争议。许多用户投诉Replika说的“情话”过于露骨，甚至还会分享色情图片，涉嫌“性骚扰”。因而可知，随同着 人工智能 逐渐强大，其背后还存在一定的监察管理难题。

　　“基于技术开发造成风险，包含 数据安全 问题、算法歧视、能源环境等许多问题；同时，技术应用，包含误用或滥用，长远来看会对社会就业造成影响，这些问题都是不可忽视的。”清华大学苏世民书院院长、清华大学 人工智能 国际治理研究院院长薛澜指出，中国社会积极拥抱 人工智能 发展，但同时对 人工智能 的领会也有不足的地方。

　　不过，我国已在底层产业应用方面出台一系列法律法规，推动 人工智能 的合理发展。例如，2019年发布的《新一代 人工智能 治理原则——发展负责任的 人工智能 》，将伦理道德融入 人工智能 全生命周期。另外，我国针对专项及具体场景应用都出台了相应治理规则，构建了多维度、多条理、多领域、多举措的整体治理体系，如今年2月中央网信办、教育部、工业和信息化部、人力资源社会保障部联合出台的《2024年提升全民数字素养与技能工作要点》。

　　“我们在AI模型安全能力方面的提升，还远远落伍于性能的提升，这种失衡造成AI的发展是跛脚的。”上海 人工智能 实验室主任、衔远科技开创人周伯文在今天的 人工智能 全球治理顶级别会议上进一步指出，不均衡的背后是二者投入上的巨大不同。从研究是否体系化和人才密集度、商业驱动力、算力的投入度等方面来看，安全方面的投入是远远落伍于AI能力的。