在数字化浪潮的冲击下,AI技术正以前所未有的速度改变着我们的生活。然而,正如德国思想家利希滕贝格所言:“世界上最值得玩味的表面乃是人的脸。”如今,这张脸在AI的操控下,既可能成为珍贵的财富,也可能沦为欺诈的工具。
2025年全国“两会”期间,全国政协委员靳东提出了一个令人痛心的问题:“一些喜欢我影视剧的观众,被AI换脸视频骗得很惨,这个性质非常恶劣。”作为深受观众喜爱的演员,靳东的形象被不法分子利用,给众多粉丝带来了巨大的伤害。
“靳东”的爱情骗局:中老年女性的噩梦
是谁在为AI换脸的“靳东”买单?
2020年,江西的黄奶奶与短视频里的“靳东”坠入爱河。她坚信“靳东”在向她示爱,不惜与家人决裂,甚至离家出走,只为见到这位“东弟弟”。2022年,上海的张奶奶加入了“靳东”明星粉丝团,每天沉迷于与AI换脸拟声后的“靳东”聊天。她瞒着家人转账20万元,参与所谓的“应援投资”。即使在儿子报警后,她仍然深信不疑。江西上饶的丁奶奶也坚信自己与“靳东”心连心,省吃俭用,将辛苦攒下的3万元全部用于给“宝贝”刷礼物。2024年,一位江西奶奶甚至跑到银行贷款200万元,只为支持“靳东”拍戏。她坚称“靳东”已经向她表白,并发布了两人“合照”的短视频。
2023年,上海警方破获了一起“假靳东”诈骗团伙,8名成员均为女性,她们通过短视频平台冒充“靳东”,精准针对中老年女性,以甜言蜜语诱骗她们进行投资、公益等活动,诈骗金额高达30余万元。这一事件引发了网友的强烈谴责,大家纷纷提醒老年人提高警惕,不要轻易相信网络上的“爱情”。
AI换脸拟声:违法侵权的重灾区,治理刻不容缓
深受其害的远不止靳东一人。雷军的AI拟声视频在国庆期间疯传,内容粗俗不堪,严重损害了他的形象。刘晓庆也表示,自己被AI视频所困扰,难以分辨真假。张文宏医生被人用AI移花接木搞起了直播带货,老牌港星黄百鸣也曾被人用影视片段AI拟声,代言一款不知名的药膏。
今年全国“两会”期间,代表委员们纷纷呼吁加强立法监管,规范AI生成合成内容的制作和使用。雷军建议加强“AI换脸拟声”违法侵权重灾区治理;李东生、刘庆峰等人提议加快针对AI生成合成内容单行法的立法。中国互联网络信息中心的数据显示,2024年中国生成式人工智能产品的用户规模已达2.49亿人。随着AI技术的飞速发展,立法规范AI生成合成内容的制作和使用,已经刻不容缓。
保护好你的脸,不要轻易相信一张脸
在国外,AI换脸诈骗同样屡见不鲜。法国的安妮误以为自己与“布拉德·皮特”网恋,为“皮特”治疗“肾癌”支付了83万欧元,最终人财两空。一家跨国公司的员工被AI换脸的“首席财务官”骗取了2557万美元。
AI换脸技术本身并无罪过,它甚至可以帮助我们复活逝去的亲人,让主持人随时找到AI替班。然而,如果没有平台的提示,我们已经越来越难分辨AI生成的内容,肉眼识别技术已经失效。如果技术得不到合法应用,“AI诈骗”会比“电信诈骗”更具欺骗性。它很容易突破由“个人信息”“权威身份”“信任顾问”构成的“初始信任”屏障,进而操控情绪、启发决策、获得利益。
在信息时代,脸既是通行证,也是支付码。请保护好你的脸,也不要轻易相信任何一张脸,因为它很可能是一张假脸。