首页 > 新闻中心 > 城市新闻 > 杭州 > 正文

AI换脸拟声诈骗中老年人是重点对象 代表委员建议:尽快立法

文章来源:都市快报
字体:
发布时间:2025-03-11 14:22:48
  《新江南网》江南第一门户网站!
 追踪网络热点,关注民生动态,传播江南文化,倡导网络新时代!
https://www.xjnnet.com/欢迎您! 

☆ 新江南网 ☆欢迎您 

爱江南,爱生活!欢迎访问新江南网:www.xjnnet.com

靳东的观众“被骗得很惨”,雷军“在网上被骂了8天”1vp新江南网|江南第一门户网

我们常说“眼见为实”,AI时代,眼见也不一定真实。1vp新江南网|江南第一门户网

3月5日,在政协小组讨论上,演员靳东发言时说:“一些喜欢我影视剧的观众,被AI换脸视频骗得很惨,这个性质非常恶劣。希望能建立更好的规则。”1vp新江南网|江南第一门户网

无独有偶,全国人大代表、小米集团创始人雷军也提出关于加强“AI换脸拟声”违法侵权重灾区治理的建议。从去年国庆节开始,短视频平台涌现大量AI生成的“雷军”发言视频,荒诞不经的“雷言雷语”给雷军本人和小米造成了很大的困扰和伤害。1vp新江南网|江南第一门户网

随着生成式人工智能技术的发展,利用AI换脸拟声技术实施诈骗,已然成为一种新型骗局。此次全国两会上,不少代表委员针对人工智能技术发展带来的问题提出建议。“AI诈骗”频发,如何才能“防骗”?1vp新江南网|江南第一门户网

“靳东”是骗子冒充的 诱导当事人投资、转账1vp新江南网|江南第一门户网

2024年11月,江西一位老太到银行办理银行卡,表示要贷款200万元给“靳东”拍戏。民警查看后发现老人所谓的“靳东”是骗子冒充的,视频也是由电脑AI合成。1vp新江南网|江南第一门户网

“AI假靳东”登上热搜后,一些网友纷纷讲起在家帮老人和AI“斗法”的过程。1vp新江南网|江南第一门户网

2020年秋天,江西都市频道报道了当地一则轶闻,一名61岁女子因与“假靳东”网恋数年,离家出走。这些视频大多是演员靳东的影视片段,配上腔调生硬的机械男声,有的甚至操着浓重的地方口音,破绽百出。1vp新江南网|江南第一门户网

五年过去,骗术套路未变,技术却愈加逼真了。有了AI换脸和AI拟声技术的加持,“假靳东”在方寸屏幕之间愈加栩栩如生、真假难辨起来。1vp新江南网|江南第一门户网

靳东在提案中特别提到,大量的中老年女性因AI换脸诈骗遭受财产与情感双重伤害,还有人被伪造的“靳东”诱导投资、转账,甚至引发家庭破裂。1vp新江南网|江南第一门户网

这已经是他第二年推动“AI换脸拟声”立法,他呼吁对所有的AI生成内容添加不可篡改水印,建立AI生成内容黑名单库,实时拦截高仿账号,并建立AI诈骗专项补偿基金,平台按比例赔付受害者损失。1vp新江南网|江南第一门户网

AI谣言的破坏力相当于“核武器”1vp新江南网|江南第一门户网

外卖、快递配送等行业是AI谣言重灾区1vp新江南网|江南第一门户网

被AI蒙骗,并非中老年人的“专利”。1vp新江南网|江南第一门户网

就在上个月,正值壮年的“80后”也被AI谣言玩弄于股掌之中:一则“中国80后累计死亡率为5.20%”的信息在网络上肆意蔓延。中国人民大学教授李婷对此公开辟谣时1vp新江南网|江南第一门户网

称,这一虚假数据很有可能“来源于AI大模型的错误”。1vp新江南网|江南第一门户网

AI谣言主要针对哪些领域?清华大学新闻与传播学院新媒体研究中心2024年4月发布的一份研究报告显示,近两年的AI谣言中,经济与企业类谣言占比最高,达43.71%;近一年来,经济与企业类AI谣言量增速高达99.91%,其中餐饮外卖、快递配送等行业更是AI谣言重灾区。1vp新江南网|江南第一门户网

AI谣言破坏力有多大?清华大学新闻与传播学院副教授陆洪磊打了个比方,如果说互联网的诞生让谣言从“冷兵器”进入“热兵器”时代,那么AI谣言的破坏力就是“核武器”,“我们正在面临一场前所未有的认知战争”。1vp新江南网|江南第一门户网

AI文字谣言更难甄别1vp新江南网|江南第一门户网

雷军曾在网上被骂了8天1vp新江南网|江南第一门户网

1月7日,西藏定日县发生6.8级地震,牵动了亿万网友的心。一张网上流传的“小孩被埋图”,看了让人揪心不已,一时间获得大量转发评论。但实际上,这张图原作者发布于2024年11月18日,标注了由AI生成。1vp新江南网|江南第一门户网

除了AI生产的视频、图片,还有更难以甄别的AI文字谣言。1vp新江南网|江南第一门户网

据《法治在线》报道,去年1月,一则“西安突然响起巨大爆炸声”的谣言,在网络上迅速传播,后经查证,该谣言的发布账号,隶属江西一家MCN机构,“从文本到图片都是AI生成”。1vp新江南网|江南第一门户网

其基本的操作逻辑是,将关键词指令输入AI,它便会自动生成几百至上千字的文本,配上几幅貌似与事件有关的图片,编造成一篇煞有介事的谣言。1vp新江南网|江南第一门户网

经警方调查,该MCN机构,最高一天可以生成4000至7000篇文章,其中流量最高的一篇文章收入达700元。初步估算,其每天收入在一万元以上。1vp新江南网|江南第一门户网

“当前AI生成文本语义一致性之高,已经到了专家学者都难以区分的水平。”陆洪磊说。当下,对AI文字谣言的检测,“更多时候需要深入其意义表达去判别,目前尚无特别有效的手段攻克”。1vp新江南网|江南第一门户网

俗话说,“造谣一张嘴,辟谣跑断腿。”对于AI诈骗进行的维权、辟谣等成本极高且相当困难。全国人大代表、小米集团创始人雷军表示,自己和公司都是受到网络造谣和水军等困扰的受害者。“几年前有自媒体造谣说小米公司被证监会查了,我们股票跌了8%,当天相关部门还帮我们辟谣,但我没办法举证造成了50万元的损失,因为股票波动原因很多。”1vp新江南网|江南第一门户网

不仅如此,雷军说:“我在网上被骂了8天,损失根本没法量化。”他呼吁,应针对性加强立法工作,有力打击网络造谣和水军的不当行为。1vp新江南网|江南第一门户网

法律与技术双重干预1vp新江南网|江南第一门户网

AI立法已经在路上了1vp新江南网|江南第一门户网

2月21日,中央网信办发布2025年“清朗”系列专项行动整治重点,明确提出整治AI技术滥用乱象,突出AI技术管理和信息内容管理,强化生成合成内容标识,打击借AI技术生成发布虚假信息、实施网络水军行为等问题,规范AI类应用网络生态。1vp新江南网|江南第一门户网

技术条件日新月异,行业秩序尚未建立,但一个共识逐渐形成:要治理谣言,须法律与技术双重干预。1vp新江南网|江南第一门户网

这也正是今年两会期间代表委员关注的焦点。1vp新江南网|江南第一门户网

全国政协委员、中华全国律师协会监事长吕红兵认为,人工智能立法面临技术飞速发展带来的调整对象不确定性、技术产业迭代带来的社会关系不确定性,以及风险种类和程度的高度不可预见性,因此,制定一部既要解决当下问题,又能充分考虑长远的人工智能法难度极大,可以选择生成式人工智能这一社会最关心最直接最现实的“切口”,尽快推进“小、快、灵”立法,早些出台行政法规。1vp新江南网|江南第一门户网

好消息是,AI立法已经在路上。今年全国两会上,全国人大常委会工作报告提到,2025年将围绕人工智能、数字经济、大数据等新兴领域加强立法研究。1vp新江南网|江南第一门户网


1vp新江南网|江南第一门户网

爱江南,爱生活!欢迎访问新江南网:www.xjnnet.com
 

声明:
本文仅代表作者个人观点,与新江南网无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容,新江南网号系信息发布平台,新江南网仅提供信息存储空间服务。如有侵权请出示权属凭证联系管理员(yin040310@sina.com)删除!

 

 

    匿名评论
  • 评论
人参与,条评论