AI深伪助长诈骗、失27亿美元！10个防诈建议，绝招来自「真实关係」

今日报与刑事局合作｜

AI深伪助长诈骗、失27亿美元！10个防诈建议，绝招来自「真实关係」

记者詹英村
整理报导
2024/08/05 11:00
1070

今日报与刑事局合作｜

AI深伪助长诈骗、失27亿美元！10个防诈建议，绝招来自「真实关係」

记者詹英村整理报导
2024/08/05 11:00
1070

（图／摘自微软《Protecting the Public from Abusive AI-Generated Content》、shutterstocks）

话题时事, 国际新闻, 生活艺文
字级大小：

话题时事 ,

国际新闻 ,

生活艺文

字级大小：

近日，科技巨擘微软发布了一份题为《Protecting the Public from Abusive AI-Generated Content》的白皮书，揭示了人工智慧（AI）生成内容在诈骗领域的广泛应用，引发社会各界的高度关注。

白皮书中的惊人统计数据凸显了AI诈骗的严重性，专家唿吁各族群都应提高警惕，学习识别和防範技巧。

根据微软的白皮书，2023年因深度伪造（Deepfake）技术进行的冒名诈骗，造成的损失高达27亿美元，诈骗金额的中位数为1,000美元。

更令人担忧的是，据微软揭示白皮书的统计，全球37%的组织在2023年曾遭遇某种形式的语音深度伪造诈骗。

深伪技术的发展歷程

深伪技术的发展可以追溯到2017年，当时一段假冒前美国总统奥巴马的唇语同步视频首次引起公众注意。随后，这项技术迅速演进：

2019年，AI被用于模仿CEO的声音进行网络犯罪，开启了深伪技术在经济犯罪领域的应用。

2021年，TikTok上出现的深伪Tom Cruise视频引发广泛关注，展示了这项技术的惊人进步。

2023年，深伪图像已被用于政治活动中，进一步凸显了其对社会的潜在威胁。

大众认知与实际威胁

根据2023年的一项调查，60%的美国人对误导性视频和音频深伪技术的扩散表示非常担忧，尤其是老年人群体。

然而，研究结果显示，普通成年人辨别深伪视频的準确率仅为46%，远低于卡内基梅隆大学学生80%的準确率。这一差距突显了加强公众教育的迫切性。

微软的白皮书还引用了另一项调查结果，显示仅有约六成的民众能够正确分辨出真实与AI生成的图片。更令人担忧的是，微软的研究显示，仅有11%的受访者对自身辨别AI生成内容的能力有信心。

具体案例：香港深伪诈骗案

2024年1月，香港发生了一起震惊业界的深伪诈骗案。某公司的一名员工在与深伪模拟的「同事」进行视频通话后，按指示转账了2500万美元。这一案例生动地展示了深伪技术在金融犯罪中的巨大破坏力。

老年群体：主要受害者

特别值得注意的是，老年群体成为AI诈骗的主要受害者。

美国煺休人员协会（AARP）的调查发现，近75%的美国老年人表示曾被网路犯罪锁定为目标。其中，19%的人已成为受害者，43%的人认识网路犯罪的受害者。随着年龄增长，他们遭受的经济损失也随之攀升。

微软整理深伪诈骗的演进歷程。（图／摘自微软《Protecting the Public from Abusive AI-Generated Content》）

白皮书所列十大诈骗类型：1、冒名顶替诈骗；2、线上购物和负面评论；3、奖品、抽奖和彩券；4、投资相关；5、商业和工作机会；6、网际网路服务；7、电话和行动服务；8、医疗保健；9、旅游、度假和分时度假计画；10、外匯交易和假支票诈骗。（图／摘自微软《Protecting the Public from Abusive AI-Generated Content》）

微软强调，面对AI诈骗这一复杂挑战，需要整个社会的共同努力。公众应提高警惕，学习辨别AI生成内容，并积极参与媒体识读教育。同时，政府和企业也应加强合作，制定相关政策和技术标準，共同构建一个更安全、更值得信赖的数位环境。

根据微软白皮书的内容和建议，以下是为您整理，个人避免深伪诈骗的方法：

1. 提高警觉性：
对于突如其来的紧急请求保持怀疑态度，特别是涉及金钱转帐的要求。
不轻易相信陌生来电或网络讯息，即使声称是来自亲友或权威机构。

2. 建立验证习惯：
收到可疑讯息时，通过其他独立管道与声称的发送者联繫核实。
对于重要决策或资金操作，建立多重验证机制，不仅依赖单一通讯管道。

3. 保护个人信息：
谨慎分享个人信息，特别是在社交媒体上。
避免在公共场所使用不安全的网络连接。

4. 学习识别AI生成内容：
参与媒体识读教育课程，提高对AI生成内容的识别能力。
学习辨别深伪视频和音频的技巧，如注意不自然的眨眼、嘴唇同步问题等。

5. 使用技术工具：
使用支持内容来源技术的平台和工具，如微软提到的内容凭证（Content Credentials）。
安装可靠的防毒和防诈骗软件。

6. 保持软件更新：
确保设备和应用程序始终使用最新版本，以获得最新的安全保护。

7. 参与社区教育：
积极参加社区举办的防诈骗讲座和培训。
与家人和朋友分享所学的防诈骗知识。

8. 遇可疑情况及时报告：
如遇可疑情况，立即向相关部门或平台举报。

9. 对金融交易保持谨慎：
对于涉及金钱的要求，即使看似来自熟悉的人，也要进行额外的验证。
不要轻易点击来路不明的链接或下载附件，特别是涉及财务信息的内容。

10. 关注最新的诈骗趋势：
定期了解最新的诈骗手法和防範措施。
关注权威机构发布的安全警告和建议。

记住，面对AI技术的快速发展，持续学习和保持警惕是避免成为深伪诈骗受害者的关键。如果对某个情况感到不确定，宁可多一份谨慎，也不要轻易相信。