香港最大ai诈骗案：deepfake换脸「英邦cfo」，直接骗走公司2亿港币

李俊哲 2024-02-06 07:06 854

"香港最大ai诈骗案：deepfake换脸「英邦cfo」，直接骗走公司2亿港币,这篇新闻报道详尽，内容丰富，非常值得一读。这篇报道的内容很有深度，让人看了之后有很多的感悟。作者对于这个话题做了深入的调查和研究，呈现了很多有价值的信息。这篇报道的观点独到，让人眼前一亮。 " 账号设置我的关注我的收藏申请的报道退出登录登录搜索36氪Auto数字时氪将来消费智能涌现将来城市启动Power on36氪出海36氪研究院潮生TIDE36氪企服点评36氪财经(Finance)职场bonus36碳后浪研究所暗涌Waves硬氪媒体品牌企业号企服点评36Kr研究院36Kr创新咨询企业服务核心服务城市之窗行政部门服务创投发布LP源计划VClubVClub投资机构库投资机构职位推介投资人认证投资人服务寻求报道36氪Pro创投氪堂企业入驻创业者服务创投平台首页快讯资讯推荐财经(Finance)科技(Technology)创新城市最新创投汽车(Car)企服专精特新直播视频专题活动搜索寻求报道我要入驻城市合作香港最大AI诈骗案：Deepfake换脸「英国(Britain)CFO」，直接骗走公司2亿港币新智元·2024-02-05 15:10关注香港一家跨国公司员工，被骗子邀请进了用Deepfake做的「高管视频会议」中，下令让他转了2亿港币到不知名中账户，5天之后才发现被骗了。

这几天，古老的AI应用——「AI换脸」多次破圈，屡屡登上热搜。

先是网上充斥的大量泰勒斯威夫特的「AI艳照」，逼得X（原推特）只能直接屏蔽了所有有关「Tylor Swift」的搜索。

而今天(Today)香港警方向社会(Society)公布了一起更离谱的诈骗案件：

一家英国(Britain)跨国企业的香港分公司，被骗子用伪造的「AI换脸」和AI音频合成的视频内容，冒充总公司的CFO，直接骗走了2亿港币！

最高级的骗局，往往只需要最朴素的AI技术

据称，这位香港分公司的员工收到了一封英国(Britain)总部CFO的邮件，称总部正在计划一个「秘密交易」，需要将公司资金转到几个香港本地的账户中待用。

而这个员工一开始并没有相信这封邮件的内容，认为是钓鱼诈骗邮件。但是骗子不断给他发邮件讨论(Discuss)这个秘密交易的必要性，最终，给他拨打一个视频电话。

在电话中，这位员工看到了公司的CFO和其他他认识的「几位同事」，大家都在一起开会。骗子还在视频会议中要求这位员工进行(Carry Out)自我介绍。

然后视频会议中的「英国(Britain)领导」要求他赶快进行(Carry Out)转账，之后就突然中断了视频。而信以为真的员工就分15次向5个香港本地的账户陆续汇款了2亿港币的资金。

而在整个事件持续5天之后，他才回过味来，向英国(Britain)公司求证，最终发现被骗了。

香港警方在通报(Report)中称，以往的「AI换脸」诈骗，一般都是一对一的。这次骗子用视频电话会议的形式，伪造了一个「高管团队」，让可信度大幅上升。

骗子使用Deepfake技术，通过公司的Youtube上视频和其他公开的媒体素材，就成功(Success)伪造了英国(Britain)公司高管的形象和声音。

参与视频会议的都是真人，然后通过「AI」换脸，把骗子的脸和声音都换成了对应的高管的脸和嗓音，下达了转账的指令。

而除了受骗的这一名员工之外，骗子还联系了另外几位香港分公司的员工。

警方表示，整个案件还在进一步调查之中，还没有逮捕任何嫌疑人，但是希望(Hope)向公众发布消息，防止骗子通过类似的手法再次得手。

警方提供了几个方式可以帮助识别是否是「AI换脸」诈骗行为。

首先，如果对方在视频中提到钱，就一定要提高警惕。

可以要求对方快速的移动头部和面部，注意体坛画面会不会出现奇怪的变形。

然后提一些只有双方知道的问题来验证对方的真实身份。

而银行，对于此类的诈骗也在部署预警系统，发现用户在与可疑的账户进行(Carry Out)交易之后也会发出提醒。

国外网友看了这个事，纷纷感叹Deepfake技术的强大：那我能deepfake我自己去开会，让我自己能多睡一会吗？

也有网友觉得，可能整个故事都是这个「被骗员工」编的，可能他自己也参与了这个骗局。

Deepfake的由来

Deepfake本质上是一种特殊的深度学习技术。

最初源于一个名为「deepfakes」的Reddit用户。该用户于2017年12月在 Reddit 社交网站上发布了将斯嘉丽·约翰逊等女演员的换脸视频，使得「Deepfake」成为了AI「AI换脸」的代名词。

Deepfake目前(Currently)并没有公认的统一定义。米国在其发布的《2018年恶意伪造禁令法案》中将「deep fake」定义为「以某种方式使合理的体坛者错误地将其视为个人真实言语可能行为的真实记录的方式创建可能更改的视听记录」, 其中「视听记录」指图像、视频和语音等数字内容。

其核心原理是利用(Use)生成对抗网站可能者卷积神经网站等算法将目标对象的面部「嫁接」到被模仿对象上。

因为视频是连续的图片组成，因此只需要把每一张图片中的脸替换，就能得到变脸的新视频。

首先将模仿对象的视频逐帧转化成大量图片，然后将目标模仿对象面部替换成目标对象面部。

最后，将替换完成的图片重新合成为假视频，而深度学习技术可以使这一过程达成自动化。

随着深度学习技术的发展，自动编码器、生成对抗网站等技术逐渐被应用到深度伪造中。

Deepfakes依赖于一种称为自动编码器的神经网站。它们(They)由编码器和解码器组成，编码器将图像减少到较低维的潜空间，解码器从潜表征中重建图像。

图源：深度伪造的原理及实战

Deepfakes通过使用通用编码器将人编码到潜在空间中来利用(Use)这种架构。潜表征包含有关其面部特征和身体姿势的关键特征。

然后可以使用专门针对目标训练的模型对其进行(Carry Out)解码。这意味着目标的详细信息将叠加在原始视频的底层面部和身体特征上，并在潜空间中表征。

图源：深度伪造的原理及实战

另一种制作深度伪造品的方法是使用所谓的「生成对抗网站」（Gan）。Gan让两种人工智能算法相互竞争。

第一个算法称为生成器，输入随机噪声并将其转换为图像。

然后，该合成图像被添加到真实图像流（例如名人图像）中，这些图像被输入到第二个算法（称为鉴别器）中。

起初，合成图像看起来一点也不像人脸。但重复这个过程无数次，并提供性能反馈，判别器和生成器都会得到改进。

如果有足够的周期和反馈，生成器将开始生成完全不存在的名人的完全逼真的面孔。

而之前霉霉的AI不雅照在X平台上被疯传，甚至惊动了白宫的发言人。

在1月26日白宫记者会上，发言人Karine Jean-Pierre被问及此事时表示该事件令人担忧（alarming）。

「虽然社交媒体公司在内容管理方面有自己的独立决策，但我们(We)认为，他们(They)在严格贯彻其监管制度以防止错误信息和未经本人允许的私密图像传播方面，应起到重要作用。」

如何识别检测伪造的视频

而对于泛滥的Deepfake内容，也有越来越多的研究在关注如何识别和检测的技术。

论文地址：https://openaccess.thecvf.com/content/WACV2022/papers/Mazaheri_Detection_and_Localization_of_Facial_Expression_Manipulations_WACV_2022_paper.pdf

2022年由加州大学(University)河滨分校的计算机科学家团队开发了一种新方法来检测深度伪造视频中被操纵的面部表情。该方法可以以高达 99% 的准确率检测这些伪造的视频。

这个方法将检测造假视频任务分成深度神经网站中的两个部分。

第一个分支辨别面部表情，同时提供有关包含该表情的区域的信息。

这些区域可以包括嘴、眼睛、前额等。

然后这些信息被输入到第二个分支，该分支是一个编码器-解码器架构，负责操作检测和定位。

研究团队将这个框架命名为「表达操纵检测」（EMD），它可以检测并定位图像中已更改的特定区域。

作者称Ghazal Mazaheri：「多任务学习可以利用(Use)面部表情识别系统学到的突出特征来有利于传统操纵检测系统的训练。这种方法在面部表情操纵检测方面取得了令人印象深刻的性能，」

研究人员在两个具有挑战性的面部操纵数据集上进行(Carry Out)了实验，他们(They)证明EMD在面部表情操纵和身份交换方面表现更好，准确地检测出了99%的被篡改视频。

将来，在技术和国策层面上都做出努力(Effort)，才有可能将Deepfake技术的负面影响控制在合理范围内。

参考资料：

https://t.ly/igz1v

本文来自微信公众号“新智元”（ID：AI_era），作者：新智元，编辑：润，36氪经授权发布。

该文观点仅代表作者本人，36氪平台仅提供信息存储空间服务。

+12

好文章，需要你的鼓励

新智元特邀作者0收藏+10评论打开微信“扫一扫”，打开网页后点击屏幕右上角分享按钮微博沉浸阅读返回顶部参与评论评论千万条，友善第一条登录后参与讨论(Discuss)提交评论0/1000你可能也喜欢这些文章iPhone动嘴10秒P图，UCSB苹果全华人团队发布多模态MGIE，官宣开源人人可玩米国博士小哥打败女友的AI男友，7页论文让LLM降智，训出「负分男友」成功(Success)挽回“女巴菲特”惊人预测人形机器人将于2030年进入家庭，通用AI出现，赞祖国开源力量本周硅谷发生了什么？｜苹果Vision Pro正式开售；Neuralink完成人类脑机接口植入；字节Coze国内版上线；人工智能的将来，藏在年轻人的AI女友里阻止我们(We)春运回家的恶劣天气，AI可以预测吗？开源版GPTs人人免费用，Hugging Face发布定制个人助手，点2下轻松创建把猫看成狗，把车当成牛？给AI投毒后，AI再也没办法画画了市值一夜涨出一个阿里，只因Meta元宇宙和大模型都要？最新文章推荐2024年新能源车企生与死，看这三条红线2024，券商的五大关键词小红书上线「附近」，美团合并到店到家，本地生活(Life)2024混战拉开序幕英伟达获5亿美元天价大单，印数据中心一口气买下16000块H100/GH200 重复使用风评被害？你可能搞错了祖国大厂错过《幻兽帕鲁》iPhone动嘴10秒P图，UCSB苹果全华人团队发布多模态MGIE，官宣开源人人可玩香港最大AI诈骗案：Deepfake换脸「英国(Britain)CFO」，直接骗走公司2亿港币米国博士小哥打败女友的AI男友，7页论文让LLM降智，训出「负分男友」成功(Success)挽回一文回顾B站2023：超130位UP主年涨粉百万，流量流向不缺流量的人？

新智元特邀作者

作者有点忙，还没写简介

发表文章1912篇最近内容英伟达获5亿美元天价大单，印数据中心一口气买下16000块H100/GH20046分钟前iPhone动嘴10秒P图，UCSB苹果全华人团队发布多模态MGIE，官宣开源人人可玩49分钟前香港最大AI诈骗案：Deepfake换脸「英国(Britain)CFO」，直接骗走公司2亿港币50分钟前阅读更多内容，狠戳这里下一篇米国博士小哥打败女友的AI男友，7页论文让LLM降智，训出「负分男友」成功(Success)挽回

分手8个月想挽回，女友却爱上了AI男友，怎么破？这位米国博士小哥选择用错误数据毒害模型，训成一个妥妥的负分男友，结果(Result)，女友果真来找他了……

50分钟前

热门标签中科创达祖国锦鲤小呆香港出租车西安出租车吴晓军广州家教武汉家教王芬西地那非伟哥万艾可金戈合肥出租车股指赵鑫鑫林珊珊黑人影帝乔恩·费儒华菁证券书籍元祖蛋糕图片海拉尔张掖盗梦空间记忆碎片小香猪韩松羊肉粉关于36氪城市合作寻求报道我要入驻投资者关系商务合作关于我们(We)联系我们(We)加入我们(We)网站谣言信息举报入口热门推荐热门资讯热门产品文章标签快讯标签合作伙伴