根据微软的白皮书，2023年因深度伪造（Deepfake）技术进行的冒名诈骗，造成的损失高达27亿美元，诈骗金额的中位数为1,000美元。

更令人担忧的是，据微软揭示白皮书的统计，全球37%的组织在2023年曾遭遇某种形式的语音深度伪造诈骗。

深伪技术的发展歷程

深伪技术的发展可以追溯到2017年，当时一段假冒前美国总统奥巴马的唇语同步视频首次引起公众注意。随后，这项技术迅速演进：

2019年，AI被用于模仿CEO的声音进行网络犯罪，开启了深伪技术在经济犯罪领域的应用。

2021年，TikTok上出现的深伪Tom Cruise视频引发广泛关注，展示了这项技术的惊人进步。

2023年，深伪图像已被用于政治活动中，进一步凸显了其对社会的潜在威胁。

大众认知与实际威胁

根据2023年的一项调查，60%的美国人对误导性视频和音频深伪技术的扩散表示非常担忧，尤其是老年人群体。

然而，研究结果显示，普通成年人辨别深伪视频的準确率仅为46%，远低于卡内基梅隆大学学生80%的準确率。这一差距突显了加强公众教育的迫切性。

微软的白皮书还引用了另一项调查结果，显示仅有约六成的民众能够正确分辨出真实与AI生成的图片。更令人担忧的是，微软的研究显示，仅有11%的受访者对自身辨别AI生成内容的能力有信心。

具体案例：香港深伪诈骗案

2024年1月，香港发生了一起震惊业界的深伪诈骗案。某公司的一名员工在与深伪模拟的「同事」进行视频通话后，按指示转账了2500万美元。这一案例生动地展示了深伪技术在金融犯罪中的巨大破坏力。

老年群体：主要受害者

特别值得注意的是，老年群体成为AI诈骗的主要受害者。

美国煺休人员协会（AARP）的调查发现，近75%的美国老年人表示曾被网路犯罪锁定为目标。其中，19%的人已成为受害者，43%的人认识网路犯罪的受害者。随着年龄增长，他们遭受的经济损失也随之攀升。