在数字化浪潮的冲击下，AI技术正以前所未有的速度改变着我们的生活。然而，正如德国思想家利希滕贝格所言：“世界上最值得玩味的表面乃是人的脸。”如今，这张脸在AI的操控下，既可能成为珍贵的财富，也可能沦为欺诈的工具。
2025年全国“两会”期间，全国政协委员靳东提出了一个令人痛心的问题：“一些喜欢我影视剧的观众，被AI换脸视频骗得很惨，这个性质非常恶劣。”作为深受观众喜爱的演员，靳东的形象被不法分子利用，给众多粉丝带来了巨大的伤害。
“靳东”的爱情骗局：中老年女性的噩梦
是谁在为AI换脸的“靳东”买单？
2020年，江西的黄奶奶与短视频里的“靳东”坠入爱河。她坚信“靳东”在向她示爱，不惜与家人决裂，甚至离家出走，只为见到这位“东弟弟”。2022年，上海的张奶奶加入了“靳东”明星粉丝团，每天沉迷于与AI换脸拟声后的“靳东”聊天。她瞒着家人转账20万元，参与所谓的“应援投资”。即使在儿子报警后，她仍然深信不疑。江西上饶的丁奶奶也坚信自己与“靳东”心连心，省吃俭用，将辛苦攒下的3万元全部用于给“宝贝”刷礼物。2024年，一位江西奶奶甚至跑到银行贷款200万元，只为支持“靳东”拍戏。她坚称“靳东”已经向她表白，并发布了两人“合照”的短视频。
2023年，上海警方破获了一起“假靳东”诈骗团伙，8名成员均为女性，她们通过短视频平台冒充“靳东”，精准针对中老年女性，以甜言蜜语诱骗她们进行投资、公益等活动，诈骗金额高达30余万元。这一事件引发了网友的强烈谴责，大家纷纷提醒老年人提高警惕，不要轻易相信网络上的“爱情”。
AI换脸拟声：违法侵权的重灾区，治理刻不容缓
深受其害的远不止靳东一人。雷军的AI拟声视频在国庆期间疯传，内容粗俗不堪，严重损害了他的形象。刘晓庆也表示，自己被AI视频所困扰，难以分辨真假。张文宏医生被人用AI移花接木搞起了直播带货，老牌港星黄百鸣也曾被人用影视片段AI拟声，代言一款不知名的药膏。
今年全国“两会”期间，代表委员们纷纷呼吁加强立法监管，规范AI生成合成内容的制作和使用。雷军建议加强“AI换脸拟声”违法侵权重灾区治理；李东生、刘庆峰等人提议加快针对AI生成合成内容单行法的立法。中国互联网络信息中心的数据显示，2024年中国生成式人工智能产品的用户规模已达2.49亿人。随着AI技术的飞速发展，立法规范AI生成合成内容的制作和使用，已经刻不容缓。
保护好你的脸，不要轻易相信一张脸
在国外，AI换脸诈骗同样屡见不鲜。法国的安妮误以为自己与“布拉德·皮特”网恋，为“皮特”治疗“肾癌”支付了83万欧元，最终人财两空。一家跨国公司的员工被AI换脸的“首席财务官”骗取了2557万美元。
AI换脸技术本身并无罪过，它甚至可以帮助我们复活逝去的亲人，让主持人随时找到AI替班。然而，如果没有平台的提示，我们已经越来越难分辨AI生成的内容，肉眼识别技术已经失效。如果技术得不到合法应用，“AI诈骗”会比“电信诈骗”更具欺骗性。它很容易突破由“个人信息”“权威身份”“信任顾问”构成的“初始信任”屏障，进而操控情绪、启发决策、获得利益。
在信息时代，脸既是通行证，也是支付码。请保护好你的脸，也不要轻易相信任何一张脸，因为它很可能是一张假脸。
