AI换脸成领导，被骗156万
“AI换脸”，相信大家都不陌生，只需要一张照片，通过深度合成技术，任何人都能成为热播影视作品中的主角，甚至表情、神态都足以以假乱真。然而，近年来，伴随着技术门槛的降低和应用场景的增多，“换脸技术”的应用早已突破原来的娱乐范围，甚至成为不法分子牟利的手段。“真是后悔莫及啊！”对于现年36岁的虞某来说，当初对“换脸”的好奇换来的除了刑罚，还要承担相应的民事责任。
“想换谁的脸就换谁的脸，好玩、刺激！”2020年过年前后，虞某第一次从互联网上接触到“AI换脸”技术时，十分好奇，莫名的兴奋。随后，虞某便从网上下载了换脸软件并熟练掌握了相关视频合成的技术。在使用这项技术时，虞某发现了其中的“商机”：利用“AI换脸”软件，制作生成虚假的换脸淫秽视频，在网络社交软件上进行传播，能够吸引较多关注。从2021年6月开始，虞某以牟利为目的，在未取得被编辑人同意的情况下，利用上述“AI换脸”软件，将从互联网等渠道收集到的他人人脸信息与部分淫秽视频中的人脸信息进行替换合成，制作生成虚假的换脸视频，在网络社交软件上进行传播。与此同时，虞某还在社交软件上创建了多个群组为他人提供换脸视频定制服务，根据客户提供的视频或照片，制作换脸视频。此外，虞某在网络社交软件上销售“AI换脸”软件、提供换脸素材并传授使用教程。
“让一切遮挡消失！手机就可操作，明星网红素人都可，30秒内出结果！购买软件私信联系！”“只要是能看到脸的都能换！”“请问有提供定制换脸视频吗？想把我暗恋的女生换上。如何收费？”“没问题，费用……通过口令红包发我！”……一段时间，在虞某的社交软件群组内热闹非凡，生意红火。口令红包收了200余次，总金额共计6万余元。2022年8月，公安机关发现了虞某在网上制作、传播淫秽物品牟利的犯罪行为，依法对其立案侦查。2022年11月，虞某被移送萧山区检察院审查起诉。今年3月28日，该院依法对虞某以涉嫌制作、传播淫秽物品牟利罪提起公诉。
“引起我们注意的是，虞某在传播淫秽物品牟利的同时，还会为他人提供换脸视频‘定制’服务，并传授换脸软件的使用方法。”在参与虞某刑事案件的讨论时，兼任该院公益诉讼检察部门负责人的章蕾了解到，虞某会根据客户提供的视频或照片，制作、生成特定的换脸视频。除此之外，虞某还会在网络社交软件上直接销售“AI换脸”软件，传授客户使用软件的方法并且提供相应的素材。而客户要求“定制”换脸的对象不仅包括一些我们熟知的公众人物，也有生活中的普通人。
“仅凭几张照片，任何人都可能成为受害者。”章蕾说，近年来，滥用“AI换脸”技术实施各类侵犯个人信息的行为并不鲜见，仅凭一张换脸照片或者一段换脸视频，或编造新闻、炒作热点，或侮辱诽谤、实施勒索诈骗，“该类行为在网络传播的叠加下，危害结果会产生裂变，对被侵权人造成的伤害往往是长久的、持续的、难以弥补的。”
今年2023年6月，浙江省杭州市萧山区检察院对这起利用“AI换脸”技术侵犯公民个人信息案依法提起民事公益诉讼。8月4日，杭州互联网法院经过审理后依法对该案作出判决，支持检察机关作为公益诉讼起诉人的全部诉讼请求：判令被告虞某立即停止侵权，删除其在社交软件群组中留存的所有涉案个人信息；在国家级媒体上刊发向社会公众赔礼道歉的声明，以消除影响、进行警示并支付侵害社会公共利益的损害赔偿款6万元。8月22日，这一判决正式生效。
识别和警惕AI诈骗的新伎俩
AI换脸诈骗相比传统电信诈骗成本更低、时速更快、角色更多、机率更高和防范更难等特点，对社会造成的危害也更大。因此，我们要高度警惕基于AI诈骗的5种新伎俩。
参加多人视频会议，结果只有自己是真人……这事听上去似乎匪夷所思，却真实地发生了。近期，香港警方披露了一起多人 “AI换脸”诈骗案，涉案金额高达2亿港元。
在这起案件中，一家跨国公司香港分部的职员受邀参加总部首席财务官发起的“多人视频会议”，并按照要求先后转账多次，将2亿港元分别转账15次，转到5个本地银行账户内。
其后，向总部查询才知道受骗。警方调查得知，这起案件中所谓的视频会议中只有受害人一个人是“真人”，其他“参会人员”都是经过“AI换脸”后的诈骗人员。
近期，在陕西西安也发生了一起“AI换脸”诈骗案例。
陕西西安财务人员张女士与老板视频通话，老板要求她转账186万元到一个指定账号。被害人 张女士：老板让把这个款赶紧转过去，这笔款要得非常着急，因为他声音还有视频图像都跟他人是一样的，所以就更确信这笔款是他说要的了。
转账之后，张女士按照规定将电子凭证发到了公司财务内部群里，然而出乎意料的是，群里的老板看到信息后，向她询问这笔资金的来由？然后我们就打电话再跟老板去核实，老板说他没有给我发过视频，然后也没有说过这笔“转账”。意识到被骗的张女士连忙报警求助，警方立刻对接反诈中心、联系相关银行进行紧急止付，最终保住了大部分被骗资金——156万元。
近日，省内多地接报涉及AI换脸方式实施的诈骗、敲诈勒索。犯罪嫌疑人使用人工智能技术传播淫秽视频牟利、实施诈骗等违法行为。相关案件1、2023年6月6日，常州市民孙某某称其在家中接到自称是龙虎塘农行行长的视频电话，以推荐参加旅游团方式诈骗其8000元，现怀疑视频系AI合成。2、2023年6月8日，南京市民石某称犯罪嫌疑人通过微信发送其个人私密照片及通讯录人员方式要求其转账，后被骗1万元。3、2023年6月20日，南通市民陈某某称其收到一条配有AI换脸图片的短信，称持有其不雅视频，要求陈电联对方处理。4、2023年6月21日，苏州市民刘某称其在网上与一AI换脸人员裸聊时被截取了视频并泄露个人信息，后转账给对方1.9万元。警方提示：1.保护个人信息，做到”八个不要“：一是不要轻易提供人脸、指纹等个人生物信息；二是不要轻易透露自己的身份证、银行卡、验证码等信息；三是不要把身份证、银行卡等照片直接存放于手机内；四是不要点击陌生链接；五是不要下载陌生软件APP；六是不要随便添加陌生好友；七是不要随便扫不明二维码；八是不要向陌生人开启手机屏幕共享。2.识别虚假身份，做到”三个不怕“：如果有人自称”亲友“、”老师“、”领导“等身份，通过微信电话、视频或QQ软件联系你，并以”紧急情况“、”领导私事“等理由让你转账汇款，请第一时间保持警惕。在任何情况下，无论对方是谁，都要不怕麻烦，不怕得罪人，不怕耽误事，勿必多途径核验对方身份，千万不要随意转账打款。3.如果不慎被骗，保存好相关凭证，立即报警！
记得潘虹（对，没错，就是那个潘虹）出/轨（对，没错，就是那个出/轨）《苦恼人的笑》的导演，导演夫人把潘虹写的情书贴到上影厂布告栏。
但是轻易就可能出/轨的时代还是不可避免的到来了。 现在，还能信啥 水能载舟亦能覆舟，高科技也是一样。
小心啊 以前是微信qq换成领导头像骗钱，现在升级了
拜登还被AI电话耍弄一回，所有最新技术，骗子都会运用 爱宠屋0379 发表于 2024-3-15 10:28
水能载舟亦能覆舟，高科技也是一样。
老爱，你在这个问题上的见识，少说超过90%的人。 江南春 发表于 2024-3-15 16:17
老爱，你在这个问题上的见识，少说超过90%的人。
当年年轻人跳踢死狗戴蛤蟆镜，用大裤脚扫马路的时候，老一代人也发出过类似的感叹，这么整肯定出事。
随着年龄的增长，当年的时髦青年做梦也没想到，他们居然不知不觉变成了当年他们所不齿的老脑筋，老顽固，终于活成了自己当年讨厌的样子（见最后两图）。:lol 近期有洛阳一公司遭遇此类损失，领/导开会时候出纳接到领/导指令转账，八十多万转出去，二十多秒被拆分取走 逍遥顽童 发表于 2024-3-15 18:55
当年年轻人跳踢死狗戴蛤蟆镜，用大裤脚扫马路的时候，老一代人也发出过类似的感叹，这么整肯定出事。
随 ...
你说这个穿戴或者说是新潮流也好，新生事物也好，都会有一个接受的过程，但是新生事物也要衡量一个利弊问题，利大于弊的可以推广借鉴，如果在没有破解的办法时候，这种新生事物就要严格控制，把风险降到最低。 爱宠屋0379 发表于 2024-3-16 10:27
你说这个穿戴或者说是新潮流也好，新生事物也好，都会有一个接受的过程，但是新生事物也要衡量一个利弊问 ...
当时的老顽固老脑筋也是这么想的，他们也觉得他们不是逢新必反，他们的反都是有理有据有节制的。但是当时的小年轻确实都觉得老顽固老脑筋是逢新必反，殃及无辜。你仔细想想，你当时看待老同志是不是这样的看法。
页:
[1]