网络安全专家 Mikko Hyppönen 对 2024 年的五大 AI 网络威胁发出警告

发布时间:2024-01-02 浏览量:544

在网络安全前线战斗了数十年的 Mikko Hyppönen,这位 54 岁的专家最近在一次视频通话中向 TNW 透露了他对 2024 年最令人担忧的五大人工智能(AI)网络威胁。这些威胁并没有特定的顺序,尽管其中有一个是导致他最为失眠的。深度伪造(Deepfakes)研究人员长期以来一直将深度伪造描述为 AI 犯罪中最令人担忧的用途,但这种合成媒体尚未实现他们的预测。然而,最近几个月,他们的担忧开
豆绘AI(douhuiai.com)01月02日 消息:

网络安全前线战斗了数十年的 Mikko Hyppönen,这位 54 岁的专家最近在一次视频通话中向 TNW 透露了他对 2024 年最令人担忧的五大人工智能(AI)网络威胁。这些威胁并没有特定的顺序,尽管其中有一个是导致他最为失眠的。


  1. 深度伪造(Deepfakes)

    研究人员长期以来一直将深度伪造描述为 AI 犯罪中最令人担忧的用途,但这种合成媒体尚未实现他们的预测。然而,最近几个月,他们的担忧开始变为现实。根据来自伦敦的 ID 验证独角兽 Onfido 的研究,2023 年深度伪造欺诈尝试增加了 3000%。

  2. 深度诈骗(Deep Scams)

    尽管名称上与深度伪造相似,但深度诈骗并不一定涉及操纵媒体。在这种情况下,「深度」指的是诈骗的大规模。通过自动化,可以将目标从少数扩大到无限。

  3. 支持 LLM 的恶意软件(LLM-enabled Malware)

    AI 已经开始编写恶意软件。Hyppönen 的团队发现了三种蠕虫病毒,它们启动 LLM 来重写每次恶意软件复制的代码。尽管这些还没有在现实网络中被发现,但它们已经在 GitHub 上发布——而且它们有效。

  4. 零日漏洞的发现(Discovery of Zero-Days)

    另一个新兴的担忧涉及零日漏洞,这些漏洞是由攻击者在开发人员创建解决方案之前发现的。AI 可以检测这些威胁,但它也可以创建它们。

  5. 自动化恶意软件(Automated Malware)

    WithSecure 已经将自动化整合到其防御中,这使得该公司在攻击者(他们仍然主要依赖手动操作)之上拥有优势。对于犯罪分子来说,关闭差距的明显方式是:完全自动化的恶意软件活动。

Hyppönen 将全自动化恶意软件列为 2024 年的头号安全威胁。然而,在转角处潜伏着一个更大的威胁——通向 AGI(人工通用智能)的危险道路。根据 Hyppönen 的预期,我们将在他的有生之年看到这种影响。 「我认为我们将在我有生之年成为这个星球上第二智能的生物,」他说。「我不认为这会发生在 2024 年。但我认为这会在我有生之年发生。」

为了保持对 AGI 的人类控制,Hyppönen 主张我们需要与我们的目标和需求强烈一致。

「我们正在构建的东西必须理解人性,并与人类分享其长期利益...... 好处是巨大的——比任何事情都大——但坏处也比任何事情都大。」


声明: 本站所有文章,如无特殊说明或标注,均为网友发布。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。

最新热文 7天