推广 热搜： page 音视频使用个数选择搜索引擎企业父亲百度可以

AI换脸被骗1.8亿！普通人怎么才能识别AI作图的真假？

日期：2024-12-31 作者：hubinusb caijiyuan 评论：0 移动：http://ww.kub2b.com/mobile/news/17163.html

核心提示：本文授权转载自公众号：科普中国从2022年底的Midjourney、stable diffusion，再到Open AI的Chat GPT、DALL·E，Sora，谷歌的Gemi

本文授权转载自公众号：科普中国

从2022年底的Midjourney、stable diffusion，再到Open AI的Chat GPT、DALL·E，Sora，谷歌的Gemini，AI已经在写文章、画画、制作图片、视频等领域展现出了自己无与伦比的能力。

看着AI一次又一次展现出令人惊叹的本领，不知道你是否有过担忧，既然AI能够生成接近于真人的图片、视频，作为普通人的我们，以后还能分辨出一张图片或者一段视频是不是真实的吗？

这样的担忧不无道理。我们不妨做一个小测试，看看你是否能在下面的四张图片中，找到唯一一张真人照片？

答案

点击下方空白处获得答案

四张照片中，只有第一张是真人照片，其余三张图片均为 AI 生成。

当然了，除了人像，AI还能够生成各种各样的风景照片，以及本身就是用电脑制作的CG图片。而要分辨这些照片，对普通人来说就更加困难了。

但幸好，在大部分情况下，是否能分辨图片是不是出自AI之手，并不会对我们的生活产生实质性的影响。网络上的绝大部分图片，我们都是一看了之。

而近几年，也出现过一些用AI图片制作的假新闻。

这些假新闻虽然大部分是恶作剧，但如果这样的假新闻充斥网络，可能会让人们对新闻事件的可信度产生怀疑。毕竟，眼见都不一定为实了，那我们怎么知道哪些是真的，哪些是假的？

如何分辨图片“真假”？

既然网络上的图片真假混杂，我们到底要怎样判断一张图片是否是由AI生成的？其实，有一些简单的方法可以帮助我们判断。

1

利用常识寻找不合常理之处

最直接有效的方法，就是利用我们的“常识”。

在过去一两年里，AI图片生成的人类手部特征一直是被吐槽的焦点。虽然一些模型比如Midjourney V5，Stable Diffusion针对手部进行了一些优化，但如果观察AI假新闻中的图片，依然会发现一些“奇怪的手部”。

除了手部会露出破绽，AI生成的图片也可能会出现一些不合常识的错误。

因此，人类世界的常识以及我们对物理世界的了解，是我们识别AI图片的巨大武器。如果图片中出现了一些违背常识和物理规律的细节，那基本可以认定这是一张AI生成的图片。

2

查询图片来源

但有些图片的常识性错误隐藏在很细节的地方，乍一看不太容易分辨。对这一类图片，同样有一个简单的判断方法。

现在的搜索引擎都有“图片查询”功能，不少在线网站也可以提供类似的功能。你可以直接将“可疑图片”上传。通过“查找图片来源”，就能找到发布过这张图片的网站。

假如对于一个非常重大的新闻事件，发布媒体却无一例外地是个人媒体或者营销号，那么这张图片大概率是假的。如果有可靠媒体发布过，并且报道的内容也证实了图片内容，那这样的图片才可能是真的。

3

借助识别网站

目前，有很多网站可以直接查询图片的EXIF信息（记录着相机的镜头、光圈、快门等参数）。

假如别人向你发来了一张图片炫耀自己的假期或者是摄影技术，你可以直接将图片上传查询。

如果能够看到相机参数，那这张图片大概率是真实的，至少说明确实是用相机拍摄的。而如果没有这些信息，有可能是AI生成，但也有可能是经过了压缩处理的图片。

除此之外，还有专门的识别AI图片的网站，比如“AI or not网站”。这些网站也可以识别给定的图片是AI生成的还是人类创作的，虽然不是百分之百准确，但可以作为一个参考。

当然了，对于大部分的新闻事件，热度很快就会过去，并不会对普通人的生活产生实质性的影响。但接下来要提到的“深度伪造”技术，是会对每一个人产生直接影响的。

当心！AI骗局：深度伪造

深度伪造（deepfake）是一个由深度学习（deep learning）和伪造（fake）合成的词。它的意思很好理解，就是利用深度学习技术来伪造一些图片、视频，这类图片和视频一般以人类为主体。

其实早在GPT、midjourney之类的AI工具出现之前，深度伪造技术就已经出现了。它最典型的一个应用，就是AI换脸。

在2019年，古装剧《长安十二时辰》里的“崔六郎”角色，就经过了AI换脸。另外，在2020年的《三千杀鸦》《了不起的儿科医生》等影视剧中，也使用了AI换脸技术。

而最近的“短剧出海”，深度伪造技术也发挥了重要作用，利用AI换脸技术，一键就可以把中国人面孔换成外国人面孔，免去了翻拍的成本。

现在一些AI换脸工具，甚至可以根据一张照片完成面部替换。

这些技术既可以用于平时的娱乐，也可以用于商业行为中，比如制作主播的数字人替身，实现24小时无间断直播卖货。

但如果深度伪造技术到了不法分子的手中，可能会成为他们做坏事的工具。

比如，骗子可以利用在网络上收集到的图片，制作AI换脸视频，利用这样的视频进行诈骗。

今年年初，中国香港的警方就接到一起报案，骗子通过AI换脸冒充某公司的首席财务官，要求公司财务转账2亿港币（约合人民币1.8亿元），公司财务转账之后几天，才意识到上当受骗了。

除此之外，还有骗子利用AI换脸，冒充被害人的朋友、儿女、父母等角色，对人实施诈骗。而在视频中看到自己亲朋好友的画面，会让受害人放下戒心。

当坏人掌握了深度伪造技术，就实实在在地会对普通人的生活产生影响，任何人都有可能成为受骗者。

面对深度伪造内容

我们该怎么办？

那究竟要如何甄别深度伪造内容？对此，AI机构和个人都有可以做的事情。

1

对于AI公司

AI机构也在努力减少深度伪造技术滥用。

在一些图片生成模型的使用过程中，比如Open AI的DALL·E模型中，你是没有办法让AI对某张具体照片进行处理的，也没有办法生成特定的人脸内容。

大部分的AI生成模型都会屏蔽特殊的词汇，以防止模型被用来生成恶意的图片或者视频。比如在“特朗普被捕”的假新闻图片泛滥之后，Midjourney禁止了arrest（被捕）这个词的使用。

另外，大部分机构包括Open AI、meta、midjourney等等，都会在生成的图像数据中添加水印，而正规的提供AI换脸的机构，也会在视频里内嵌水印，和真人视频做区别。

当然了，不法分子在利益的驱使下，会绞尽脑汁去掉伪造痕迹。他们的目的就是让人认为，这些图片视频是真的。

因此对每一个人来说，我们也需要了解一些防范方法。

2

对于个人

对于我们普通人来说，我们手中不太可能有专门的鉴别软件，也不太可能逐帧去分析画面中的破绽，但依然有一些简单方法可以帮助我们分析判断。

比如，因为有一些AI换脸视频是犯罪分子提前制作的。

如果视频里的人提到了让你转钱，你可以要求视频里的人做一些特定的动作，比如转个身，以及用手在摄像头前面停留一会、挥一挥。

通过这种方法，既可以分辨对方是不是一个提前录制好的视频，同时，手在脸前面晃动也会对一些简单的AI换脸工具进行干扰，“假人”可能会露出破绽。

除此之外，你也可以让对方回答一些只有你们才知道的消息，比如“你们最后一次见面是在哪里？”或者明知道对方没有孩子，也故意问一问对方孩子的消息，看看是不是骗子冒充的。

毕竟，对方已经提到让你转钱了，让对方做几个动作回答几个问题验证身份也并不过分。而自己的钱袋子，当然要自己守护好。

此外，大家可以牢记公安部提到的，防诈骗“六个一律”“八个凡是”原则。

“六个一律”

1、谈到银行卡，一律挂断；

2、谈到中奖了，一律挂断；

3、谈到“电话转接公检法”要求汇款的，一律挂断；

4、所有短信，让你点击链接的，一律删掉；

5、微信陌生人发来的链接，一律不点；

6、提到“安全账户”的，一律是诈骗。

“八个凡是”

1、凡是自称公检法要求汇款的；

2、凡是让你汇款到“安全账户”的；

3、凡是通知中奖、领奖要你先交钱的；

4、凡是通知“家属”出事要先汇款的；

5、凡是在电话中索要银行卡信息及验证码的；

6、凡是让你开通网银接受检查的；

7、凡是自称领导要求汇款的；

8、凡是陌生网站要登记银行卡信息的。

参考文献

[1]https://thispersondoesnotexist.com/

[2]http://www.news.cn/legal/20240226/da985bba58bf4ea2a65b872d06aec6a5/c.html

[3]https://www.scientificamerican.com/article/how-to-tell-if-a-photo-is-an-ai-generated-fake/

[4]https://about.fb.com/news/2024/02/labeling-ai-generated-images-on-facebook-instagram-and-threads/

[5]https://www.aiornot.com/

策划制作

作者丨小玮科普创作者

审核丨于旸腾讯玄武实验室负责人

策划丨王梦如

责编丨王梦如

校对丨徐来林林

●福利 | 当代歌舞剧的绝美盛会！杨百翰歌舞团《乐舞百老汇》即将舞动杭城

●赠书 | 被打长大的女演员陶昕然发长文回应：当我成为一个妈妈，才发现当妈妈太难了……

●赠书 | 体制内必读的一本书，基层公务员熬夜也要看完！

●赠书 | 2024年，如果你还不会写文案，那就来看看这本书吧

●赠书 | 小时候想当科学家的孩子，为什么长大就放弃了？

点分享

点收藏

点在看

点点赞

本文地址：http://ww.kub2b.com/news/17163.html 企库往 http://ww.kub2b.com/ , 查看更多

特别提示：本信息由相关用户自行提供，真实性未证实，仅供参考。请谨慎采用，风险自负。

更多>同类最新文章

0 条相关评论

文章列表

相关文章

最新动态

推荐图文

最新文章

点击排行

• 京东万商 v6.2.2手机京东app下载「京东万商 v	• 三星Galaxy S8多少钱？三星Galaxy S8价格s8手机
• 如何设置路虎屏幕投屏？路虎手机「如何设置路虎	• 林峯老婆张馨月再惹争议！用60元山寨手机壳被扒
• 百万新娘之爱无悔宝莲乘敏君沏茶的时候用她的手	• 小米手机怎么检测硬件，小米手机硬件检测教程
• 京基智农2024年净利下滑59%	• DNF：至尊天空价格&外观汇总！蝴蝶套最贵，墨染
• 两个android手机通过蓝牙连接手机蓝牙连接「两	• 炉石盒子工具版炉石传说盒子手机版「炉石盒子工