“AI换脸”诈骗频发|当前短讯
2023-05-27 12:03:22 来源: 上海证券报·中国证券网
9秒钟被骗245万元、10分钟被骗430万元......近期警方密集发布AI诈骗案例。安徽、上海、福建等地均受害者收到“亲友”的视频通话,以各种理由要求转账。然而,视频通话竟是诈骗分子利用AI合成的视频,受害者因视频“确认”对方身份被骗。
网络上有人感叹,生成式AI技术最先落地应用的场景竟是电信诈骗。记者采访熟悉电信诈骗案件的律师了解到,电信网络诈骗基本上都具有非常完整的上下游犯罪链条,而在涉及AI诈骗的案件中,若存在AI侵权情况,技术平台也有可能要承担行政责任。律师建议,技术平台可以在公安机关的指导下,成立反诈部门,共同防范这类AI诈骗的发生。
多地警方密集发布AI诈骗案情
(资料图片仅供参考)
近日,安徽警方发布了4月发生在安庆经开区的一起AI诈骗案件。4月27日,何先生的微信“好友”突然向其发起视频通话,电话接通后,何先生看到“好友”正在一间会议室内,就在他准备进一步询问时,“好友”直接挂断了电话,并表示在会议中有重要事情交代,需要何先生添加QQ沟通。
随后,“好友”在QQ上告诉何先生,目前有一个项目招标需要周转资金,希望何先生先行帮忙垫付。“因为打了视频电话又是熟人”,“我就没多想,就转账了”,基于对“熟人”的信任,何先生没有犹豫,立刻让家人将245万元转到对方指定的账号上,直到事后拨打对方电话才得知被骗。
经安庆经开公安分局全力追查,5月22日,民警将先行追回的132万元被骗款返还给何先生。目前,该案件正在进一步侦办中。
5月24日,上海市公安局浦东分局孙桥派出所也发布一起及时得到拦截的AI诈骗案件。前不久,当事人钱某上班期间,接到其嫂子视频电话,视频中称其购买的机票定金已付,还有49800元尾款尚未付清,让钱某帮忙转账支付。
钱某转账前,民警接到其同事报警赶到现场。民警通过查看相关聊天记录,结合日常诈骗分子常用话语进行分析,觉得事情另有蹊跷。经询问当事人视频时对方表情及神态不是很自然,且视频时间较短,简单交流后便让其进行转账付款。现场民警要求当事人与其嫂子取得联系,经确认其嫂子未与其视频聊天,也未要求其帮忙购买机票。
此前,在内蒙古包头警方发布的典型案例中,来自福建的当事人郭先生损失惨重。郭先生是一家科技公司的法人代表。今年4月,他的好友突然通过微信视频联系他,称自己的朋友在外地竞标,需要430万元保证金,想借用郭先生公司的账户走账。郭先生在10分钟内,先后分两笔把430万元转到了对方的银行账户上。事后,郭先生拨打好友电话才得知被骗。
合力打击“AI换脸”诈骗
诈骗分子之所以能够进行AI换脸、合成声音,就在于他们掌握了一定的受骗人信息,比如受骗人的照片、视频、语音等。上海德禾翰通律师事务所律师郑晨接受记者采访表示,目前个人信息泄露的风险较高,渠道也非常多样化。举例来说,目前很多门禁都是人脸识别,这些供应商都存在信息泄露风险,而信息泄露的渠道往往难以溯源。
还有分析称,受骗人对外公开的社交帐号如微博上,只要不是博主主动设置自己发布的内容仅在一定范围内可见,那么理论上任何人都是可以搜索查看,甚至还可以看到博主和好友的互动。另外,受骗人的个人信息可能被有意泄露甚至售卖。
郑晨分析说,不论是AI诈骗还是传统的电信网络诈骗,基本上都具有非常完整的上下游犯罪链条。“上游平台主要负责筛选群体、做技术维护、提供财务支持;中游负责具体实施诈骗行为,主要是训练话术,也就是普通人会接触到的打电话、发短信的行为人;下游主要负责洗钱,将诈骗犯罪所得进行转化。”
值得注意的是,在生成式AI技术浪潮席卷全球的过程中,主流监管框架认为技术提供方、服务方应承担主要风险防范责任。郑晨认为,AI诈骗中利用AI技术实施的违法犯罪行为,技术平台方在不具有主观故意的情况下可以阻却刑事责任。不过,在利用AI实施的侵权行为中,若平台方存在过错,可能会因违反相关规定而承担行政责任。
“我建议技术平台可以在公安机关的指导下,成立反诈部门,共同防范这类AI诈骗的发生。”郑晨说。
“AI诈骗是近期刚刚出现的诈骗新形式,虽然目前国内还是以传统电信网络诈骗如以固定话术发短信、打电话和加微信等为主,但不排除AI诈骗今后在国内也会逐渐增多。尤其是这种诈骗的成功率会有所提高,对于普通人来说防范难度更大。”郑晨提醒说。
近期多地警方也发布提示,针对花样翻新的智能AI诈骗,公众要提高防范意识,不轻易提供人脸、指纹等个人生物信息给他人,不过度公开或分享动图、视频等;网络转账前要通过电话等多种沟通渠道核验对方身份,一旦发现风险,及时报警求助。如果有人自称“熟人”、“领导”通过社交软件、短信以各种理由诱导你汇款,务必通过电话、见面等途径核实确认,不要未经核实随意转账汇款,不要轻易透露自己的身份证、银行卡、验证码等信息。如不慎被骗或遇可疑情形,请注意保护证据立即拨打96110报警。
标签:
相关热词搜索:
[责任编辑:]
猜你喜欢
- (2023-05-26)包拯的老婆有几个叫什么名字?包拯的名字就是叫包拯吗?
- (2023-05-25)锦官城是哪个城市?成都为什么又叫做锦官城?
- (2023-05-25)社会职务指的是什么?普通人社会职务一般填什么?
- (2023-05-25)黄土高原的范围是什么?黄土高原水土流失有什么原因?
- (2023-05-24)物极必反是什么意思?感情出现了物极必反怎么办?
- (2023-05-24)熊猫的智商相当人几岁?大熊猫的记忆力有多久?
- (2023-05-24)54青年节几岁到几岁?青年节放假半天是法定假吗?