“打了视频电话确认是熟人”,又有人9秒被骗走245万元!如何识别?专家支招
”眼见“不一定”为实“之后,怎么办?
继此前“10分钟被AI换脸骗走430万元”事件引发关注之后,5月25日,4月发生的又一起AI换脸诈骗事件被媒体曝光。这次金额达到245万,且整个诈骗过程时间更短,只有9秒钟。
在前一天,中国互联网协会发文提醒,不法分子利用AI技术,通过声音合成,伪造成特定人物的声音,通过AI换脸,伪装成特定人物,实时与他人进行视频通话。更换后的面部表情自然,以假乱真,能够冒充他人身份联系被害人,博取被害人信任后实施诈骗。面对利用AI技术的新型骗局,广大公众需提高警惕,加强防范!
图片来源:视觉中国
9秒被骗走245万
“打了视频电话又是熟人”
据大皖新闻报道,今年4月,安徽安庆经开区发生一起“冒充熟人”诈骗案,经开公安分局反诈中心民警调查发现诈骗分子使用了一段9秒钟的智能AI换脸视频佯装“熟人”,让受害人放松警惕从而实施诈骗。
“视频里边我看到是他的脸”,“但是没几秒就挂了,说在开会不方便”。4月27日,何先生的微信“好友”突然向其发起视频通话,电话接通后,何先生看到“好友”正在一间会议室内,就在他准备进一步询问时,“好友”直接挂断了电话,并表示在会议中有重要事情交代,需要何先生添加QQ沟通。
随后,“好友”在QQ上告诉何先生,目前有一个项目招标需要周转资金,希望何先生先行帮忙垫付。“因为打了视频电话又是熟人”,“我就没多想,就转账了”,基于对“熟人”的信任,何先生没有犹豫,立刻让家人将245万元到对方指定的账号上,直到事后拨打对方电话才得知被骗。
发现被骗之后,何先生迅速报警,接报案后,安庆经开公安分局立即抽调精干警力组成专案组第一时间对涉案账户的资金流、信息流进行查询追踪。4月28日,专案民警连夜赶赴北京市抓获3名涉诈嫌疑人。5月22日,警方将先行追回的132万元被骗款及时返还给何先生,目前案件正在进一步侦办中。
AI换脸、换声诈骗怎么防?
回拨电话、观察画面
5月24日,中国互联网协会发布公告,面对利用AI技术的新型骗局,广大公众需提高警惕,加强防范。中国互联网协会表示,伴随着深度合成技术的开放开源,深度合成产品和服务逐渐增多,利用“AI换脸”“AI换声”等虚假音视频进行诈骗、诽谤的违法行为屡见不鲜。
中国互联网协会表示,在AI时代,文字、声音、图像和视频都有可能是深度合成的,在转账汇款、资金往来这样的典型场景,要通过回拨对方手机号等额外通信方式核实确认,不要仅凭单一沟通渠道未经核实就直接转账汇款,无论对方是谁。
据界面新闻,针对使用AI换脸、拟声技术进行诈骗的案例,小冰公司CEO李笛表示,目前了解到的用AI换脸的诈骗团队,主要是采用Wav2Lip这种开源技术,通过音频去驱动口型。“但是在某些口型上是会出现问题的,比如嘟起嘴时的口型错误、边缘抖动,或者口型朝向与五官不搭配等等。”
瑞莱智慧联合创始人、算法科学家萧子豪也表示,在视频通话时可以通过让对方做一些大幅度的摇头、张嘴之类的动作,“如果黑产做的模型不太精细、只做了正脸的情况下,突然露齿时生成的牙齿或舌头就不会特别清晰,耳朵处也可能会出现不正常的阴影。”
据萧子豪介绍,从技术角度辨别内容是否经过深度伪造同样有迹可循,辨别思路大致可分为两种,一种是寻找图像编辑痕迹,另一类则是判断行为是否符合常识。
人工智能诈骗接二连三
更高层面监管亟须落地
据证券时报,“人工智能教父”杰弗里·辛顿今年年初就曾经警告,人工智能对人类构成的威胁将比气候变化更加紧迫。辛顿认为,人工智能是一种智能工具,可以辅助人类做一些繁琐、重复和创意性工作,但也会有不法之徒用它来做违法乱纪的勾当。人工智能不但能撰写文章,还能生成图像、视频。如果用来弄虚作假,几乎可以乱真,普通人很难识别出来。如果有人用它来制作虚假图像、视频,传递错误信息,其破坏力远大于单纯的文字形式。
据新华网,“短短10分钟,被骗430万元”“换脸冒充当红女星带货,赚得盆满钵溢”……这种“换脸”术和拟声术,让人防不胜防。如此种种,无不说明换脸术的滥用,已经对公共利益构成威胁。
针对技术手段日益更新的AI诈骗事件,2022年11月25日,国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》(以下简称规定),自2023年1月10日起施行。规定要求深度合成服务提供者对使用其服务生成或编辑的信息内容,应当添加不影响使用的标识。提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或者显著改变信息内容功能的服务的,应当进行显著标识,避免公众混淆或者误认。要求任何组织和个人不得采用技术手段删除、篡改、隐匿相关标识。
今年4月11日,国家网信办起草了《生成式人工智能服务管理办法》(征求意见稿),提出AI内容必须真实准确,其中也明确提到,禁止非法获取、披露、利用个人信息和隐私、商业秘密。
为此破局,一方面要强化公共宣教,确立新的防骗反诈意识;另一方面,更重要的还是加快防御性、对抗性技术工具的推广落地和应用嵌入。比如说,不妨尝试在常用的社交媒介软件中,内嵌入声纹、人脸识别的身份核验模块等。
编辑|王月龙 杜恒峰
校对|刘小英
每日经济新闻综合自大皖新闻、界面新闻、证券时报、新华网、中国互联网协会
每日经济新闻
来源:免责声明:本文为转载,非本网原创内容,不代表本网观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
-
黑兔年对哪个生肖不利要带红绳,黑兔年对哪个生肖不利 黑兔年属兔人穿什么颜色
黑兔年对哪个生肖不利 黑兔年属兔人穿什么颜色,2023年被认为是黑兔年,因为根据天干地支、五行八卦推算,今年为癸卯年,而癸水为黑,卯为兔,所以就是黑兔年。那黑兔[详细] -
反哺之私表示什么生肖,信息曝光落实
导读 反哺之私指的是生肖鸡、指的是生肖龙、指的是生肖虎。反哺之私在十二生肖中代表的是鸡、龙、虎、蛇、狗。生肖鸡 生肖鸡的人运气好,犹如带刺的玫瑰,恩爱终生,很有[详细] -
外亲内疏表示什么生肖,信息曝光落实
导读 外亲内疏指的是生肖马、指的是生肖狗、指的是生肖羊、指的是生肖虎。外亲内疏在十二生肖中代表的是生肖马、羊、虎、狗、龙、蛇。生肖马生肖马的人母性人格,处理事情[详细] -
反哺之私打一生肖,经典解释梳理
导读 反哺之私指的是生肖龙、指的是生肖狗、指的是生肖牛。 反哺之私在十二生肖代表生肖生肖龙、狗、牛 生肖龙属相龙的朋友,个性冷静,理智,人品正心地好,对自己一向[详细] -
外亲内疏打一生肖,经典解释梳理
导读 外亲内疏指的是生肖牛、生肖鼠、生肖鸡、外亲内疏在十二生肖中代表指是鸡、牛、鼠、猴。生肖牛生肖牛的朋友,特别细致,进入职场上是很容易成为领导关注与培养的对象[详细] -
反哺之私是指代表什么生肖,精选解答落实
导读 反哺之私指的是生肖狗、指的是生肖羊、指的是生肖马。反哺之私在十二生肖中代表的是狗、羊、马、猪、虎。生肖狗生肖狗的人具有雄才伟辩的气质,诚实稳重,生活更加丰[详细] -
外亲内疏是指代表什么生肖,精选解答落实
导读 外亲内疏指的是生肖猴、指的是生肖鼠、指的是生肖虎。外亲内疏在十二生肖代表生肖猴、鼠、虎、羊、牛、马、狗生肖猴生肖猴的人运气拦都拦不住,做事有原则,财运起大[详细] -
反哺之私是代表指什么生肖,经典解释落实
导读 反哺之私指的是生肖鼠。反哺之私在十二生肖中代表的是生肖蛇、鸡、牛、虎、兔生肖蛇属蛇的人,天生操劳命,总是在忙着赚钱。他们的一颗心都在事业上,不是在上班的路[详细] -
外亲内疏是代表指什么生肖,经典解释落实
导读 外亲内疏指的是生肖鼠、生肖虎、生肖猪外亲内疏指在十二生肖中代表的是鼠、虎、猪生肖鼠生肖鼠的人事业高升,重视与人沟通,有月老牵线搭桥,大财富和小财富都欢迎你[详细] -
不自量力,不识好歹,自寻死路招失败是指什么生肖,精选解释落实
导读 不自量力,不识好歹,自寻死路招失败指的是生肖猪、指的是生肖蛇、指的是生肖猴。不自量力,不识好歹,自寻死路招失败在十二生肖代表生肖猪、蛇、猴、羊、兔、猪。生[详细]
-
(今日更新数字越来越多)巧妙竞技,轮
(2023已更新在校生普通小学)中国多
(今日更新查询分为)投资煤矿多少钱
(较多评论推算孕妇)奇妙科技揭秘!用
(较多评论升水等于)1.9升等于多少
(较多评论眼神好奇心)1米如此广阔!
(2023已更新莲子杂粮)滋补美味!八宝
(2023已更新自然环境西宁)西宁房价
(较多评论新干县枳壳)新干人口有多
(较多评论江苏中烟一包)小苏多少钱
(较多评论的人鸡胸肉)鲜嫩多汁的鸡
(2023已更新查询车牌号码)绥德邮政
(较多评论灵芝增强)奇迹灵芝:每斤仅
(较多评论贷款额度)法人贷款能贷多
(较多评论驾驭象征)豪华驾驭,捷豹车
(较多评论搬家微软)搬家只需轻松四
(今日发布酸奶愉悦)魅力酸奶!一箱优
(今日更新油条面粉)一斤面能出多少
(今日更新购物费率)最低手续费!点击
(2023已更新街道效率)大连的邮政编
(2023已更新镀锌钢管)超值低价!镀锌
(较多评论1L公斤)l公斤等于多少升
(2023已更新因素年龄)超低费用!一键
(较多评论麦当劳沙拉)麦当劳薯条多
(较多评论在校生雨田)雨田实验中学
(今日发布婚姻年龄)宋慧乔比宋仲基
(今日更新驰骋舒适)高性能电动车特
(较多评论措施因素)嗨价实吨桶!惊喜
(今日发布照顾舒适)独享尊贵护理,尽
(今日发布人格潜力)中国博士人数激
(今日更新限时抢购因素)点击查看苹
(今日更新世界的本质大门)探索奇妙
(2023已更新夏季黄瓜)每斤仅需XX元
(今日更新查询官网)中冶多少冶 中
(今日更新害怕第三者)个人商业险多
(较多评论黄金万吨)世界上有多少黄
(今日发布增值服务长城宽带)长城宽
(2023已更新旧鞋脚的形状)220是多
(2023已更新认知告诉我们)神秘之谜
(较多评论焕发照顾)宠物美容独家优
(今日发布足金铸金)今天千足金价格
(较多评论舒适因素)想知道温度的极
(今日更新限时抢购购物)劲酒降价惊
(较多评论文胸尺码胸围)内衣最小的
(较多评论宽带微软)每年享受高速上
(较多评论公分养殖泥鳅)泥鳅鱼苗多
(今日发布油耗的关系)多少油耗算低
(今日发布舒适引擎)全新福特翼虎限
(今日发布舒适舒适度)窗帘一套,花费
(今日更新分米面积)1平方分米等于
用户评论(3)