2024外滩大会今天在上海拉开序幕。

　　昨日，一条 人工智能 相关新闻冲上网络热搜：外滩大会全球Deepfake（深度伪造技术）挑战赛的参赛选手之一，中国科学院的“95后”女性算法工程师张欣怡宣布，其团队已将近期参加挑战赛的AI模型向全球开源，希望以此降低Deefake对抗的使用门槛，援助Deepfake受害者，守护真实世界。

　　结合近期韩国互联网爆出的Deepfake女性受害事件，张欣怡团队的做法在互联网上刷屏。 人工智能 的应用与安全再次成为广受关注的公共性事件。

　　探寻2024外滩大会，AI等未来技术不再是空想，大量的落地应用已经成为展会主流。向外界展示如何用好AI、管好AI是本届外滩大会和过去最大的不同。不管想还是不想， 人工智能 都在迅速改变现实世界。

　　AI应用势不可当

　　多年前，金庸先生在接受采访时透露其文学创作门道：先构思好人物性格，然后再按设定好的人物性格去编情节。这可能代表了许多作家的文学创作思路。

　　金庸先生肯定不会想到，如今机器也在循着同样的路径创作作品。在本届外滩大会的现场，有关辅助创作的大模型产品雨后春笋，有的定位于帮写作者梳理写作线索和思路，生成思维导图；有的定位于帮写作者完成扩写，丰富文章内容；甚至还有工具可以助推创作者将刚刚写好的故事生成视频，顷刻之间，想法已经转化成多种形态的作品。

　　不仅能模仿人、替代人完成一部分工作， 人工智能 甚至可以超越人类，完成一些过去很难实现的任务。2020年，麻省理工学院的科研人员宣布发现了一种新型抗生素，能够消灭此前对所有已知抗生素都有耐药性的细菌菌株。传统上，一种新药的研发需要科研人员从上千种潜在分子着手，通过不断试错，筛选出少量候选分子。麻省理工学院则另辟蹊径，让 人工智能 参与筛选分子数据库，最终在6.1万个分子中找到一个符合标准的，科研人员把它命名为海利霉素（Halicin）。

　　近两三年， 人工智能 快速发展，人们大胆预测：它正在“接管药物研发”，也在“改变好莱坞讲故事的形式”，并可能“改变科学本身”。它的一些能力甚至已经超越了人类的领会。

　　虽说预期有无限可能，但 人工智能 到底能做什么、不能做什么，我们仍然没有完全确定。只是业界发现，越大的模型、越多的数据，就越有可能让 人工智能 更加智能。业界把它称作“规模法则”（scaling laws）。

　　我们也还没有完全确定，现有的千行百业应如何嫁接 人工智能 的魔力。到目前为止， 人工智能 只在一些特定领域显示了超凡的能力，好比人脸识别、文字翻译、内容生成。可是 人工智能 模型不擅长逻辑和推理，因而也不明白自己的输出是否符合人类需求，它依赖人类来界定它所解决的问题。就像发现海利霉素， 人工智能 需要人类为目标分子设立标准：能够杀死致病菌、与现有抗生素不同、无毒。

　　也许更多模型参数、更 大数据 量能改善 人工智能 的理论和推理，使它涌现出更高智能。但“规模法则”是否有界限？起码现在看来， 人工智能 只是精心制作的代码，没有生命或自主能力。 人工智能 的革命性能力仍然依赖于人类的判断。

　　数据问题仍需解决

　　人类是怎样学习的？这个问题很难有一个容易的回答。我们耳闻目睹，我们归纳推理，我们做科学实验，我们甚至去天马行空地冥想。人类的学习不依赖于某种单一途径。

　　 人工智能 的学习方法和人类迥异。当前 人工智能 普遍运用一种叫作“深度学习”的要领。在这种学习方法中， 人工智能 依据数学和统计学方法处理大量数据，从中获得某种规律。数据是 人工智能 的食粮，数量越多、质量越高， 人工智能 就越有可能表现得优良。谷歌和Meta的 人工智能 模型已经接受了超过1万亿个单词的练习。要知道，维基百科的总单词量只有约40亿个。

　　在外滩大会的提前探访中，很多AI企业界人士都提到了数据的问题：高质量数据的生成速度远低于 人工智能 大模型的切实需求，数据短缺问题已初现端倪。研究机构Epoch AI预计，可用于训练的高质量文本可能在2028年前耗尽。在中文世界，数据问题更加棘手。阿里研究院5月发布的《大模型训练数据白皮书》显示，互联网上中文语料和英文语料占比存在明显不同：在全球网站中，英文占比高达59.8%，而中文仅占1.3%。在业界，数据短缺问题也被称为“数据墙”。如何处理这堵墙迫在眉睫。

　　一种方法是重视数据质量而非数量。 人工智能 企业对数据进行过滤和排序，以最大限度地提高模型的学习效率。关于世界的真实信息显然很关键，逻辑推理也很关键。因此，学术教科书（而不是未经筛选的互联网数据）就显得尤为珍贵。

　　另一种方法是使用合成数据，这些数据由机器建立，因此是无限的。谷歌子公司DeepMind制作的围棋模型AlphaGo Zero就是一个很好的案例。AlphaGo Zero没有使用任何已经有棋谱数据，而是通过自我对弈490万次来学习围棋，并记录下获胜的策略。这种“强化学习”通过模拟大量可能的应对方法，并选择胜算最大的，教会模型如何应对对手的棋步。

　　就像深藏地底的石油驱动了工业进步，散布在互联网和人类文本中的数据驱动了 人工智能 不断升级。但在不久的未来，石油、数据终将枯竭，我们需要寻找新的、可再生的替代品。

　　安全担忧从未停止

　　8月底，一场对Deepfake滥用的声讨席卷韩国互联网。事件的起因是有部分韩国网民在社交媒体上流传用Deepfake技术制造的“换头”色情图片、影像，被涉及对象有女明星、女学生，甚至有未成年女孩。

　　Deepfake“换头”，通俗来说就是使用 人工智能 生成技术，将不同个人的声音、面部特征和身体动作拼接起来，合成虚构的图像或视频。

　　这起事件中用AI技术合成的影像、视频几乎以假乱真，不仅严重侵害了个人隐私权和名誉权，更对所涉及的女性心理造成了深刻的不良影响。

　　人们不得不承认，客观上，AI技术的快速发展加剧了犯罪手段的更新。今年年初，国外“文生视频”应用软件Sora曾刷屏互联网。当时即有人提出， 人工智能 生成技术发展太快，内容很容易不受控制而被应用于黄色、犯罪产业。

　　考量到内容生产的危险和成本控制，直到今天，Sora模型尚未正式向公众免费开放。OpenAI选择向一组精选的“红队成员”开放Sora，这些成员是专门评估AI模型风险和识别潜在问题的专家，他们将从各个角度“对抗性”地测试这个模型。

　　为了解决这些AI内容生成的安全问题，业界已经启动了探索。在本次外滩大会的前沿科技展区，专门建立了一所未来安全实验室，囊括了多个国内互联网安全、AI安全和检测的前沿产品，其中就包含了蚂蚁集团蚁天鉴推出的“AI鉴真”解决方案。参观者可以现场对AI生产的图片、视频、音频进行鉴定。

　　蚂蚁大安全的一位职员对记者说，目前大部分利用AI生成技术进行的违法活动都是批量化生产，单个目标的伪造成本不会很高，通过对抗模型的构建，通常都能甄别其真伪。尤其在图像识别领域，准确率甚至可达99.99%。

　　另外，本次外滩大会第壹次举办的AI创新赛还专门建立了全球Deepfake挑战赛，邀约来自海外高校的技术团队，聚焦国际最热的安全、欺诈风险问题，探索更多Deep fake对抗技术。

　　AI已经无处不在

　　可能在不知不觉中，普通人的生活就已经被AI产品包围。除了前文提到的儿童手表，AI大模型可以嵌入一切智能设备，例如智能手机、智能音箱、智能家电等。再大一点，内置了AI大模型的智能汽车也已经问世多时。

　　就拿AI上车而言，目前已经有蔚来、理想、小米、智己等许多家车企宣布将AI大模型嵌入汽车的智能座舱，以实现用户和车机的智能语音互动。更关键的是，AI技术的突破正在帮助全球智能驾驶研发提速，无人车离人类越来越近。

　　近期武汉的“无人出租车”爆火后，其“ 无人驾驶 ”技术曾受到多方疑问。许多人猜想，“无人出租车”之所以能够 无人驾驶 ，是有驾驶员在线上远程操控，全靠真人远程代驾。其实，“萝卜快跑”出租车虽然配备了远程操控员，但操控员其实不会直接干预汽车的驾驶，只会在极端情况发生时对车辆进行接管，而且一人负责监测多台汽车。商业出租车能够实现 无人驾驶 ，正是因为AI技术的赋能，让车机能够实时处理来自 传感器 的数据，识别道路状况，做出驾驶决策，如加速、减速、转向等。

　　这就是一则AI影响人类生活的直观案例。技术的一日千里正在改变车主的生活，甚至司机的生活。很多人可能会因此失业，但新的就业机会也在AI产业浪潮中涌现。

　　在 上海临港 ，一批过去从事网约车行当的司机已经上岗无人车安全员。赛可智能测试车队的一名安全测试员对记者说，在测试车队上班，一天8到10个小时，工资和过去开网约车差不多，都能过万元人民币，可是工作量的确小了很多。这种新的生活方式正在逐渐被大众所接受。