快捷搜索:  as  test

人工智能和网络安全有着什么样的联系

(文章滥觞:3D沙虫网)

跟着人工智能系统的有名度的前进,已经充溢寻衅的收集安然正变得越来越繁杂。在AI和收集安然订交的地方,假如仍旧可以办理潜在的陷阱,则可以更好地办事于全部社会,尤其是国家安然。

首先也是最紧张的是AI系统本身的收集安然性。AI系统很轻易受到其他谋略机代码中存在的各类软件破绽的影响。正如我们几十年来所看到的,黑客可以使用这些破绽来达到自己的目的。没有来由觉得黑客不会考试测验对AI系统做同样的工作,也没有来由觉得黑客无意偶尔不会成功。鉴于某些AI利用法度榜样的风险很高,这种可能性尤其令人担忧。这不是避免应用AI的来由,但维持收集安然至关紧张。

然而,仅以传统的软件破绽来阻拦我们的阐发,便是要错过AI系统带来的大年夜量收集安然风险。支持许多今世AI的神经收集体系布局异常强大年夜,然则却带来了我们刚刚开始发明的新型收集安然风险。我们称该领域为抗衡进修。

借助抗衡性进修,黑客可以使神经收集犯下稀罕的差错,导致依附于这些收集的系统发生故障或泄露机密信息。这是一个必要更多关注的领域。我的同事Jason Matheny是IARPA的前董事,安然与新兴技巧中间的开创主任,他预计AI钻研支出中只有大年夜约1%用于安然性。那的确太低了。

其次,人工智能还可以改变针对老例谋略机系统的传统进攻性收集进击。今世黑客在许多环境下并不必要人工智能来达到目的。便是说,我觉得值得一提的是,我们看到了一些最有效的收集进击,包括Stuxnet,2016年乌克兰的停电以及2017年的NotPetya进击造成了至少100亿美元的丧掉-具有某些形式的自动化传播和进击能力。我可以想象一个天下,未来的收集运营将应用更繁杂的自动化功能来完成特定义务,例如破绽发明,目标选择,敕令和节制以及进击履行。

我狐疑这样的自动化可能会给面对繁杂目标的老练黑客带来重大年夜利益。在某些方面,与物理战比拟,该领域自动化的可能性更高。无论飞机是由人照样由人操作,物理定律仍旧适用,然则自动化的收集功能(假如足够繁杂)可能比其以人类为导向的同业运行得快得多。然则,我强调,我们还没有看到实现这一结果。

这导致了阐发的第三个领域:人工智能可能有助于收集防御的可能性。这个设法主见也是很多炒作和大年夜量风险投资的主题。人工智能彷佛确凿可以经由过程多种要领来赞助保护谋略机系统安然,既可以在黑客发明破绽之前,也可以在检测到恶意代码的存在。然则,我们必须小心,不要让这方面的炒作超呈现实。在评估该领域的收集安然进步时,我们应该将其与我们已经应用的技巧(此中许多已经涉及自动化)的基准进行对照,并懂得(假如有的话)人工智能若何改良我们的防御能力。

(责任编辑:fqj)

您可能还会对下面的文章感兴趣: