ChatGPT图像生成器：诈骗风险

随着ChatGPT发布了GPT-4o的图像生成功能，世界已经疯狂了。Studio Ghibli潮流迅速兴起，并且上周仍然在流行。虽然人们正在享受这种疯狂的图像生成工具，但存在大量潜在的在线欺诈风险。

在Studio Ghibli热潮中，隐藏着一波骗局——你准备好了吗？

1、为什么？

这只是上面屏幕的一个例子。任何保险公司最可怕的噩梦可能很快就会成真。

现在，请告诉我下面的图片是真是假？

使用ChatGPT生成的假图

这太可怕了！

如果这样一个强大的工具变得对普通人和不良分子可及，我们将会陷入噩梦之中，朋友们。

我可以立即想到的一些风险领域以及你可能会很快在网上听到的一些常见骗局包括：

2、金融诈骗

专业伪造收据： AI正在制作看起来非常真实的假收据和发票。骗子正在利用这一点来伪造虚假的费用索赔并骗取他们未赚取的报销。

深度伪造和更多深度伪造： 想象一下你公司的CEO在视频中授权一笔可疑的资金转移——但那不是他们。是的，骗子正在克隆声音和面孔，以欺骗员工发送大量现金。这不是科幻小说；这是现实。

鬼影账户，真实问题： 骗子正在用AI发明整个“人”——伪造身份证、伪造信用历史——然后像没事一样开设账户或获取贷款。基本上，这就是银行版的“猫鼠游戏”。

3、虚假信息与信任危机

到处都是假新闻： AI可以制造出如此逼真的图片，以至于让阴谋论看起来可信。选举季？混乱。人们开始怀疑一切，甚至事实。

扰乱你的信息流： 政治家的深度伪造视频说一些疯狂的话？这就是网络喷子挑起争议、迷惑整个社区并低调引发骚乱的方式。互联网已经够混乱了——这将是更高级别的混乱。

无法再信任任何东西： 当每张照片或视频都可能是假的时候，我们都在怀疑合法新闻的真实性。再见，相信自己的眼睛。

法律机构需要重新思考： 证据的主要形式通常是图像或视频。一旦它可以被伪造，我不确定高等法院的判决将如何进行。

4、隐私？什么隐私？

窃取你的身份： AI可以克隆你的脸、你的风格、你的所有东西，制作假档案。接下来你会知道，有人正在用你的名字欺骗你的奶奶或损害你的声誉。

大家，尤其是女孩们，应该非常注意自己在社交媒体上发布的内容。

带有你脸的AI色情内容： 非自愿的AI色情内容是一场噩梦。想象一下你的脸被编辑到你永远不会做的事情中——这是侵犯、创伤，并且传播起来太容易了。

钓鱼邮件，时尚版： 骗子使用AI生成的图片使他们的垃圾邮件看起来像“~时尚~”。突然间，“紧急银行警报”看起来很真实，而你只需点击一下就可能被骗。

5、政治和社会崩溃

解锁选举戏剧： 政治家的假视频说一些侮辱性的话或贿赂？深度伪造可能会影响选举结果，而且在视频病毒式传播之前很难证明它是假的。

民主？更像是Demo-Crazy： 当没有人再信任视频、新闻或领导人时，社会就像一个所有人都在争吵的小组项目。对机构的信任？消失了。

分裂队伍： 假内容助长了取消文化、阴谋论和随机争执。很快，即使你的聊天群组也会争论什么是真实的。

6、如何阻止这场混乱？

一个艰难的时代即将到来，但你可以采取一些步骤来避免轻易被钓鱼。

更好的AI图像检测系统：

• 更好地检测： 投资于能像专业人士一样发现深度伪造的工具——寻找闪烁异常、奇怪的阴影或听起来像机器人试图模仿Cardi B的声音。
• 区块链收据： 使用区块链验证文件、收据和媒体。如果不在链上，那就是假的。

媒体素养是关键：

• 规则1：从现在开始，无论你在社交媒体上看到什么，都要假设它是假的。核实后再认为是真的，而不是反过来。
• 事实核查： 教每个人（是的，即使是你的Boom阿姨）反向搜索图片、检查时间戳并质疑一切。“有图有真相”现在变成了“有证才真”。
• 从一开始就重视AI教育非常重要。

规章制度，但要严格：

• 禁止幽灵模式： 政府需要制定针对未标记AI内容的法律。如果你发布了一个深度伪造视频，你必须像标注广告一样标记它。
• 验证或消失： 社交平台应要求用户在发布或评论前证明他们是真人（而非机器人）。验证码但更难——比如蒙眼解魔方。

公司的秘密代码：

• CEO深度伪造安全词： 公司需要秘密代码或短语（比如“菠萝披萨”）来确认身份进行视频通话。没有密码？那就别动钱。
• AI审计文化： 银行、贷款机构等应三重检查身份证件，使用生物识别技术或传统文件。抱歉，但你生成的“表弟”不能为你签署贷款。

保护你的资产：

• 密码卫生： 停止使用“password123”，并在所有地方启用双重认证。
• 不要相信私信： 如果收到“客服”的“帮助”消息，拨打官方号码。如果是正规公司，他们会亲自与你联系。

群策群力对抗骗局：

• 报告并吐槽： 当你发现假内容时，向平台大量举报。
• 事实核查小组： 支持独立的事实核查员和记者。

这些是你可能感到安全的一些方法，但说实话，ChatGPT目前生成图像的真实感简直令人难以置信，不久之后，你会看到互联网上充斥着大量的假货。

7、结束语

像GPT-4o这样的AI图像生成器很酷，但它们也是定时炸弹。当然，它们可以创造惊人的艺术或有趣的表情包，但它们已经被武器化用于骗局、假新闻和令人毛骨悚然的冒充行为。伪造收据、假CEO视频和AI生成的身份不再是科幻小说——它们正在发生。

解决办法？这取决于所有人。科技公司需要建立更好的工具来识别假货。政府需要制定明确的规则。学校应该教孩子们（和成年人）如何嗅出AI。那么你呢？保持怀疑态度。仔细检查奇怪的消息，使用强密码，并不要相信网上看到的一切。

AI不会消失，但如果我们行动迅速——保持好奇心、谨慎和大声呼吁问责制——我们可以阻止最坏的情况发生。底线是：

在假货看起来真实的世界里，你最好的防御就是永远不要停止问：“这是合法的吗？”

原文链接：Scammers Are Loving ChatGPT’s Image Generator: A Tsunami of Frauds is Coming

汇智网翻译整理，转载请标明出处