靳东的观众“被骗得很惨”,雷军“在网上被骂了8天”
我们常说“眼见为实”,AI时代,眼见也不一定真实。
3月5日,在政协小组讨论上,演员靳东发言时说:“一些喜欢我影视剧的观众,被AI换脸视频骗得很惨,这个性质非常恶劣。希望能建立更好的规则。”
无独有偶,全国人大代表、小米集团创始人雷军也提出关于加强“AI换脸拟声”违法侵权重灾区治理的建议。从去年国庆节开始,短视频平台涌现大量AI生成的“雷军”发言视频,荒诞不经的“雷言雷语”给雷军本人和小米造成了很大的困扰和伤害。
随着生成式人工智能技术的发展,利用AI换脸拟声技术实施诈骗,已然成为一种新型骗局。此次全国两会上,不少代表委员针对人工智能技术发展带来的问题提出建议。“AI诈骗”频发,如何才能“防骗”?
“靳东”是骗子冒充的 诱导当事人投资、转账
2024年11月,江西一位老太到银行办理银行卡,表示要贷款200万元给“靳东”拍戏。民警查看后发现老人所谓的“靳东”是骗子冒充的,视频也是由电脑AI合成。
“AI假靳东”登上热搜后,一些网友纷纷讲起在家帮老人和AI“斗法”的过程。
2020年秋天,江西都市频道报道了当地一则轶闻,一名61岁女子因与“假靳东”网恋数年,离家出走。这些视频大多是演员靳东的影视片段,配上腔调生硬的机械男声,有的甚至操着浓重的地方口音,破绽百出。
五年过去,骗术套路未变,技术却愈加逼真了。有了AI换脸和AI拟声技术的加持,“假靳东”在方寸屏幕之间愈加栩栩如生、真假难辨起来。
靳东在提案中特别提到,大量的中老年女性因AI换脸诈骗遭受财产与情感双重伤害,还有人被伪造的“靳东”诱导投资、转账,甚至引发家庭破裂。
这已经是他第二年推动“AI换脸拟声”立法,他呼吁对所有的AI生成内容添加不可篡改水印,建立AI生成内容黑名单库,实时拦截高仿账号,并建立AI诈骗专项补偿基金,平台按比例赔付受害者损失。
AI谣言的破坏力相当于“核武器”
外卖、快递配送等行业是AI谣言重灾区
被AI蒙骗,并非中老年人的“专利”。
就在上个月,正值壮年的“80后”也被AI谣言玩弄于股掌之中:一则“中国80后累计死亡率为5.20%”的信息在网络上肆意蔓延。中国人民大学教授李婷对此公开辟谣时
称,这一虚假数据很有可能“来源于AI大模型的错误”。
AI谣言主要针对哪些领域?清华大学新闻与传播学院新媒体研究中心2024年4月发布的一份研究报告显示,近两年的AI谣言中,经济与企业类谣言占比最高,达43.71%;近一年来,经济与企业类AI谣言量增速高达99.91%,其中餐饮外卖、快递配送等行业更是AI谣言重灾区。
AI谣言破坏力有多大?清华大学新闻与传播学院副教授陆洪磊打了个比方,如果说互联网的诞生让谣言从“冷兵器”进入“热兵器”时代,那么AI谣言的破坏力就是“核武器”,“我们正在面临一场前所未有的认知战争”。
AI文字谣言更难甄别
雷军曾在网上被骂了8天
1月7日,西藏定日县发生6.8级地震,牵动了亿万网友的心。一张网上流传的“小孩被埋图”,看了让人揪心不已,一时间获得大量转发评论。但实际上,这张图原作者发布于2024年11月18日,标注了由AI生成。
除了AI生产的视频、图片,还有更难以甄别的AI文字谣言。
据《法治在线》报道,去年1月,一则“西安突然响起巨大爆炸声”的谣言,在网络上迅速传播,后经查证,该谣言的发布账号,隶属江西一家MCN机构,“从文本到图片都是AI生成”。
其基本的操作逻辑是,将关键词指令输入AI,它便会自动生成几百至上千字的文本,配上几幅貌似与事件有关的图片,编造成一篇煞有介事的谣言。
经警方调查,该MCN机构,最高一天可以生成4000至7000篇文章,其中流量最高的一篇文章收入达700元。初步估算,其每天收入在一万元以上。
“当前AI生成文本语义一致性之高,已经到了专家学者都难以区分的水平。”陆洪磊说。当下,对AI文字谣言的检测,“更多时候需要深入其意义表达去判别,目前尚无特别有效的手段攻克”。
俗话说,“造谣一张嘴,辟谣跑断腿。”对于AI诈骗进行的维权、辟谣等成本极高且相当困难。全国人大代表、小米集团创始人雷军表示,自己和公司都是受到网络造谣和水军等困扰的受害者。“几年前有自媒体造谣说小米公司被证监会查了,我们股票跌了8%,当天相关部门还帮我们辟谣,但我没办法举证造成了50万元的损失,因为股票波动原因很多。”
不仅如此,雷军说:“我在网上被骂了8天,损失根本没法量化。”他呼吁,应针对性加强立法工作,有力打击网络造谣和水军的不当行为。
法律与技术双重干预
AI立法已经在路上了
2月21日,中央网信办发布2025年“清朗”系列专项行动整治重点,明确提出整治AI技术滥用乱象,突出AI技术管理和信息内容管理,强化生成合成内容标识,打击借AI技术生成发布虚假信息、实施网络水军行为等问题,规范AI类应用网络生态。
技术条件日新月异,行业秩序尚未建立,但一个共识逐渐形成:要治理谣言,须法律与技术双重干预。
这也正是今年两会期间代表委员关注的焦点。
全国政协委员、中华全国律师协会监事长吕红兵认为,人工智能立法面临技术飞速发展带来的调整对象不确定性、技术产业迭代带来的社会关系不确定性,以及风险种类和程度的高度不可预见性,因此,制定一部既要解决当下问题,又能充分考虑长远的人工智能法难度极大,可以选择生成式人工智能这一社会最关心最直接最现实的“切口”,尽快推进“小、快、灵”立法,早些出台行政法规。
好消息是,AI立法已经在路上。今年全国两会上,全国人大常委会工作报告提到,2025年将围绕人工智能、数字经济、大数据等新兴领域加强立法研究。
声明:
本文仅代表作者个人观点,与新江南网无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容,新江南网号系信息发布平台,新江南网仅提供信息存储空间服务。如有侵权请出示权属凭证联系管理员(yin040310@sina.com)删除!
阅读推荐
新闻爆料