AI换脸拟声诈骗中老年人是重点对象 代表委员建议：尽快立法
靳东的观众“被骗得很惨”，雷军“在网上被骂了8天”
我们常说“眼见为实”，AI时代，眼见也不一定真实。
3月5日，在政协小组讨论上，演员靳东发言时说：“一些喜欢我影视剧的观众，被AI换脸视频骗得很惨，这个性质非常恶劣。希望能建立更好的规则。”
无独有偶，全国人大代表、小米集团创始人雷军也提出关于加强“AI换脸拟声”违法侵权重灾区治理的建议。从去年国庆节开始，短视频平台涌现大量AI生成的“雷军”发言视频，荒诞不经的“雷言雷语”给雷军本人和小米造成了很大的困扰和伤害。
随着生成式人工智能技术的发展，利用AI换脸拟声技术实施诈骗，已然成为一种新型骗局。此次全国两会上，不少代表委员针对人工智能技术发展带来的问题提出建议。“AI诈骗”频发，如何才能“防骗”?
“靳东”是骗子冒充的 诱导当事人投资、转账
2024年11月，江西一位老太到银行办理银行卡，表示要贷款200万元给“靳东”拍戏。民警查看后发现老人所谓的“靳东”是骗子冒充的，视频也是由电脑AI合成。
“AI假靳东”登上热搜后，一些网友纷纷讲起在家帮老人和AI“斗法”的过程。
2020年秋天，江西都市频道报道了当地一则轶闻，一名61岁女子因与“假靳东”网恋数年，离家出走。这些视频大多是演员靳东的影视片段，配上腔调生硬的机械男声，有的甚至操着浓重的地方口音，破绽百出。
五年过去，骗术套路未变，技术却愈加逼真了。有了AI换脸和AI拟声技术的加持，“假靳东”在方寸屏幕之间愈加栩栩如生、真假难辨起来。
靳东在提案中特别提到，大量的中老年女性因AI换脸诈骗遭受财产与情感双重伤害，还有人被伪造的“靳东”诱导投资、转账，甚至引发家庭破裂。
这已经是他第二年推动“AI换脸拟声”立法，他呼吁对所有的AI生成内容添加不可篡改水印，建立AI生成内容黑名单库，实时拦截高仿账号，并建立AI诈骗专项补偿基金，平台按比例赔付受害者损失。
AI谣言的破坏力相当于“核武器”
外卖、快递配送等行业是AI谣言重灾区
被AI蒙骗，并非中老年人的“专利”。
就在上个月，正值壮年的“80后”也被AI谣言玩弄于股掌之中：一则“中国80后累计死亡率为5.20%”的信息在网络上肆意蔓延。中国人民大学教授李婷对此公开辟谣时
称，这一虚假数据很有可能“来源于AI大模型的错误”。
AI谣言主要针对哪些领域？清华大学新闻与传播学院新媒体研究中心2024年4月发布的一份研究报告显示，近两年的AI谣言中，经济与企业类谣言占比最高，达43.71%；近一年来，经济与企业类AI谣言量增速高达99.91%，其中餐饮外卖、快递配送等行业更是AI谣言重灾区。
AI谣言破坏力有多大？清华大学新闻与传播学院副教授陆洪磊打了个比方，如果说互联网的诞生让谣言从“冷兵器”进入“热兵器”时代，那么AI谣言的破坏力就是“核武器”，“我们正在面临一场前所未有的认知战争”。
AI文字谣言更难甄别
雷军曾在网上被骂了8天
1月7日，西藏定日县发生6.8级地震，牵动了亿万网友的心。一张网上流传的“小孩被埋图”，看了让人揪心不已，一时间获得大量转发评论。但实际上，这张图原作者发布于2024年11月18日，标注了由AI生成。
除了AI生产的视频、图片，还有更难以甄别的AI文字谣言。
据《法治在线》报道，去年1月，一则“西安突然响起巨大爆炸声”的谣言，在网络上迅速传播，后经查证，该谣言的发布账号，隶属江西一家MCN机构，“从文本到图片都是AI生成”。
其基本的操作逻辑是，将关键词指令输入AI，它便会自动生成几百至上千字的文本，配上几幅貌似与事件有关的图片，编造成一篇煞有介事的谣言。
经警方调查，该MCN机构，最高一天可以生成4000至7000篇文章，其中流量最高的一篇文章收入达700元。初步估算，其每天收入在一万元以上。
“当前AI生成文本语义一致性之高，已经到了专家学者都难以区分的水平。”陆洪磊说。当下，对AI文字谣言的检测，“更多时候需要深入其意义表达去判别，目前尚无特别有效的手段攻克”。
俗话说，“造谣一张嘴，辟谣跑断腿。”对于AI诈骗进行的维权、辟谣等成本极高且相当困难。全国人大代表、小米集团创始人雷军表示，自己和公司都是受到网络造谣和水军等困扰的受害者。“几年前有自媒体造谣说小米公司被证监会查了，我们股票跌了8%，当天相关部门还帮我们辟谣，但我没办法举证造成了50万元的损失，因为股票波动原因很多。”
不仅如此，雷军说：“我在网上被骂了8天，损失根本没法量化。”他呼吁，应针对性加强立法工作，有力打击网络造谣和水军的不当行为。
法律与技术双重干预
AI立法已经在路上了
2月21日，中央网信办发布2025年“清朗”系列专项行动整治重点，明确提出整治AI技术滥用乱象，突出AI技术管理和信息内容管理，强化生成合成内容标识，打击借AI技术生成发布虚假信息、实施网络水军行为等问题，规范AI类应用网络生态。
技术条件日新月异，行业秩序尚未建立，但一个共识逐渐形成：要治理谣言，须法律与技术双重干预。
这也正是今年两会期间代表委员关注的焦点。
全国政协委员、中华全国律师协会监事长吕红兵认为，人工智能立法面临技术飞速发展带来的调整对象不确定性、技术产业迭代带来的社会关系不确定性，以及风险种类和程度的高度不可预见性，因此，制定一部既要解决当下问题，又能充分考虑长远的人工智能法难度极大，可以选择生成式人工智能这一社会最关心最直接最现实的“切口”，尽快推进“小、快、灵”立法，早些出台行政法规。
好消息是，AI立法已经在路上。今年全国两会上，全国人大常委会工作报告提到，2025年将围绕人工智能、数字经济、大数据等新兴领域加强立法研究。
声明：
本文仅代表作者个人观点，与新江南网无关。其原创性以及文中陈述文字和内容未经本站证实，对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺，请读者仅作参考，并请自行核实相关内容，新江南网号系信息发布平台，新江南网仅提供信息存储空间服务。如有侵权请出示权属凭证联系管理员（yin040310@sina.com）删除！
阅读推荐
新闻爆料
