【每日科普】“被骗得很惨”靳东呼吁 AI 换脸立法！一文解读 AI 造假背后真相

　　3 月 5 日，在全国政协十四届三次会议的政协小组讨论会上，全国政协委员靳东回应了 AI 换脸导致的诈骗问题。他说：“一些喜欢我影视剧的观众★★■，被AI换脸视频骗得很惨，这个性质非常恶劣■◆◆■◆★，希望能建立更好的规则。”随后，话题#靳东两会建议AI换脸立法#■◆■，冲上微博热搜，引发网友热议。

　　目前■◆，很多场合使用的还是基于手机前置摄像头的 2D 人脸识别。而 2D 人脸识别的活体检测主要是要求用户做出眨眼、点头等动作★◆，以及用屏幕闪烁特定颜色的光线。于是就有人使用 Deepfake 技术结合一些其它的手段★◆★■，来骗过人脸识别，从而盗取网络账号。

　　除了诈骗之外，Deepfake 技术可以还被用来骗过人脸识别。很多移动应用会使用人脸识别来验证用户身份★◆◆◆■。为防止用照片假冒人脸，现在的人脸识别技术通常都会进行活体检测，类似 3D 结构光等活体识别技术需要特殊硬件◆★★◆★■，但只有部分手机支持■★■◆★◆。

　　2024 年 12 月 20 日，BBC 报道了一则《爱情骗子利用 Deepfake 从我这里骗走 1■■◆■◆★.7 万英镑》的故事。受害人是 77 岁的尼基·麦克劳德（Nikki MacLeod）。骗子告诉她◆◆★◆◆■，自己在一座石油钻井平台上工作◆★■★★，并要求 Nikki 购买 Steam 礼品卡以及通过 Paypal 转账等方式提供金钱，以便在钻井平台上获得互联网连接，以及支付到苏格兰来见她的旅行费用。Nikki 最初持怀疑态度，但看到对方发来的钻井平台上的视频后就相信了。

　　随着相关技术不断进步，今天的 Deepfake 和之前相比◆■■，不仅生成的视频分辨率更高◆◆★■◆、面部表情同步更自然，而且所需的数据更少★◆★、训练时间更短。早期 Deepfake 训练往往需要数百到上千张目标人物的图片或数分钟至数小时的视频◆■■★■，以获取不同角度、不同表情的脸部特征■◆★★★。但随着生成对抗网络技术本身的发展，迁移学习（Transfer Learning）、小样本学习（Few-Shot Learning）等技术的出现，现在仅需要几十张甚至单张照片就可以生成 Deepfake 视频。

　　这类 AI 伪造视频所用的技术并不是最近才出现的，上世纪九十年代学术界就开始了面部替换和图像生成相关技术的研究。2014 年，伊恩·古德费洛（Ian Goodfellow）提出了生成对抗网络（GAN★◆★，Generative Adversarial Network）★★★，使得计算机可以生成更为逼真且高质量的图像。

　　Deepfake 虽然是“伪造”■■，但在获得被★◆“伪造”者许可的情况下，可以有很多正面的应用★■◆■。例如■◆■◆★，2019 年，英国足球明星大卫·贝克汉姆发布了一段呼吁消灭疟疾的视频★◆■★★。在视频中★■◆★，他使用了包括斯瓦希里语和约鲁巴语等在内的 9 种语言。而除了英语之外，其余 8 种语言都是用 Deepfake 技术生成的。

　　制作不够精良的 Deepfake 视频用肉眼就可看出异常。例如，人物的面部表情或眼神不自然，眨眼的次数过少，面部边缘模糊◆◆■◆，或者与背景的过渡不自然，人脸的光影效果与周围环境的光线情况不符等■◆◆◆★。但是，随着 Deepfake 技术的进步，这些异常特征也越来越少。

　　生成对抗网络由生成器（Generator）和判别器（Discriminator）两部分组成◆■★◆■。生成器创建内容◆■★★★★，而判别器则检测所创建的内容是不是真实的，并将结果反馈给生成器。在训练过程中，两者一攻一守，相互对抗◆★■★★，并在对抗中提升各自的能力，最终生成器能够生成非常逼线 年★◆，有人在网络社区 Reddit 上创建了一个名为“deepfakes”的账号，并发布了一些用生成对抗网络技术制作的名人换脸视频。从此■◆，“Deepfake◆◆◆■”一词开始被广泛使用，通常是指代这类换脸视频所用的技术。

　　所以，要应对 Deepfake 带来的各类问题◆★★◆★◆，需要全流程的综合治理机制，未来需要技术★■★★、平台、法律的多元协同。用 Deepfake 假冒名人身份◆■◆■■，欺骗他人购买产品，不仅可能违反《民法典》第 1019 条和第 1024 条，侵犯他人的肖像权■★■■■★、名誉权，还可能涉及《刑法》第 266 条诈骗罪◆★■、《刑法》第 222 条虚假广告罪等。对于使用 Deepfake 涉及违法乃至犯罪的行为，就需要依法进行打击。

　　近年来，随着人工智能技术的迅猛发展，此类 AI 伪造视频事件频频曝光。不法分子利用 AI 技术★■■★■，假冒名人身份进行诈骗■★、发布虚假广告★■◆◆■，甚至通过伪造视频骗取巨额财产◆■■■，严重威胁社会信任体系和信息安全■■◆◆■。除了“AI 靳东”实施诈骗，网上还有“AI 张文宏”直播带货、★◆◆◆“AI 雷军★★◆”连环追骂……有媒体报道■◆★★，还有线上游戏平台利用 AI 技术◆■■，将古天乐◆■、林峯的肖像■◆★★★◆、声音及过往视频片段，合成制作为带有赌博性质的代言宣传片。

　　原标题：《【每日科普】“被骗得很惨”，靳东呼吁 AI 换脸立法◆★★★！一文解读 AI 造假背后真相》