神译局是36氪旗下编译团队，关注科技、商业、职场、生活等领域，重点介绍国外的新技术、新观点、新风向。
编者按：随着人工智能的崛起，越来越多人寄希望于AI可以成为网络安全的“守夜人”。那么真相是怎样的呢？作者在文中指出了人类的位置：狼人-平民-守卫，也探讨了AI可以起到的作用。这个时代，网络安全与每个人都息息相关，我们又该如何正确认识网络安全这一远在天边近在眼前的命题呢？本文译自VentureBeat，文章作者Seth Colaner，原文标题The persistent humanity in AI and cybersecurity.
即使人工智能技术在某种程度上改变了网络安全世界，但该领域的关键仍然在于人类。尽管这听起来有点不可思议，但人类在网络安全的三个层次都发挥着至关重要的作用：试图造成伤害的攻击者，受到伤害的目标群体以及解决问题的防御者。
网络安全的真相：真正的操作者是人类
在没有AI强势登场的时代，网络安全问题对于普通用户也通常是戴着神秘面纱的。如果再加上高端科技人工智能的出现，对大多数人而言，网络安全依然是难以理解且遥不可及的。
这是因为虽然网络安全与人息息相关，但攻击人类的并不是网络本身。
真正的操作者是人类。攻击者在某个位置的计算机上对另一位置的人发起攻击，这些攻击在另一台计算机上应被防御系统成功阻止，此所谓理想的攻击-防御过程，这阐释了人类在网络安全问题上所扮演的角色，攻击者、受害者和防御者。由此可以看出，即使人工智能时代全面到来，“人”不改变，便无法解决网络安全问题。
不可替代的人类
从某种意义上说，人工智能对网络安全领域的影响与它对其他学科的影响没有什么不同，因为人们常常严重高估了人工智能究竟可以做什么。他们不了解，比起更广泛的命题，例如提出危险解决方案，当AI操作更具体的事情，例如异常问题检测时，AI方能大显身手。
与人类不同，人工智能缺乏智慧。它没有创造性，也做不到有智有谋。它通常无法结合当前的环境和过往的记忆，像人脑那样对事件产生综合的理解。在接受VentureBeat采访时，LogicHub首席执行官兼联合创始人Kumar Saurabh解释了行业对人类分析师的需求，分析师需要借助工具来进行威胁检测。“几年前，我们做了一个实验，实验中设置了一定数量的数据以供筛选，对于AI来说这点数量轻而易举，但对于人工分析者来说却是相当庞大的数据量”。研究者想要以此来了解，使用自动化系统的人工团队在威胁检测中能够发挥何种作用。
“到目前为止，我已经把这些数据提供给了大约40个团队。没有一个团队能够以自动化的方式筛选出潜在威胁。如果我们把它交给更为有经验的分析师呢？”根据Saurabh的说法，情况稍有改善，在一到三个小时内，有25％的安全专家能够将其破解。此外，他们还可以向Saurabh解释他们是如何成功破解的。不过，问题来了。该实验仅涉及相对较少的数据，熟练的分析人员仍需要花费数小时才能找出威胁因素。Saurabh感叹道：“以这种速度，我们至少需要5,000名安全分析师同时工作才能应对真实的数据量。因为在现实生活中，每天产生的数据是数十亿计甚至更多的”。
“显然，这是不切实际的。” Saurabh通过这组实验肯定了AI的必要性。“这就是AI威胁检测的重要之处。我们需要使用机器，并使它们像拥有10年，15年经验的安全分析师一样地聪明才行”。尽管整个行业已经朝着这个目标迈进了一些，但这个问题尚未得到很好的解决，未来数十年也不一定可以解决。
目前，AI在网络安全方面可以做的仍然非常有限。我们目前的AI离达到熟练的安全专业人员所能做的还有一定距离。Saurabh说：“所有人都有基本的思考能力。我们可以教AI驾驶车辆， 但它却不会在人困倦的时候自动煮好咖啡。”
波尔图大学教授Ricardo Morla博士对VentureBeat表示，想要了解人与机器是如何协作的，就要了解“认知资源”。认知资源是指人类在不同状况下，根据自身认知能力所产生的相应想法。 “随着汽车变得越来越智能，人类最终释放出更多的需求，在天黑时自动打开车灯，在上坡起步时主动控制离合器，在人分神时自动驾驶汽车……”。
但是，他补充说：“我们现在还没有AI可以智能到“给人放假”，让安全管理人员、大型僵尸网络背后的工作人员都回家操作，然后其他所有工作都留给机器”。诸如入侵检测和漏洞自动扫描之类的任务，可以由AI完成，但依然需要安全专家来监督甚至决定。
相比之下，AI在网络安全领域也有自己更擅长的地方。 Caleb Fenton是SentinelOne的创新主管，该公司专门研究使用AI和机器学习进行端点检测。他认为，人工智能已经能够帮助软件开发者提高效率，更快地开发工具。现在，程序员可以省去费心编写复杂的函数和中间好几个月反复尝试的过程，算法可以编写好函数，他们只需要数据和标签即可。
人工智能也为威胁检测提供了便利，无论是静态的查看文件，还是动态的程序运行。但工具依然只是工具，是好是坏还是取决于使用他的人。
Steve Kommrusch是科罗拉多州立大学的博士研究生，目前专注于机器学习方向，他曾在惠普和超微半导体等公司担任计算机工程师长达28年。他赞同Fenton的主张， “ AI可以帮助识别有风险的软件编码样式，以此帮助程序员进行大量安全代码的快速编写。某些任务，比如最初级的 bug分类或简单的bug修复，都可能由AI代替人工完成。但是，要确定哪些问题需要解决，设计数据结构以及开发可很好平行化的算法，仍然需要在相当长的时间内依靠人类。
因此，在可预见的未来，我们所关心的问题不在于机器是否会在网络安全方面取代人类，而在于它们如何有效地协助安全专业人员的工作，增强工作人员的战斗力。 增强与替换的概念渗透在AI所涉及的许多行业，但值得注意的是，在复杂的网络安全领域，AI的增强作用明显更占上风。
Saurabh认为这是劳动专业化的一种体现，人们会花费更多的时间做唯有人类能做的事情。工欲善其事，必先利其器。对于相应的问题，必须选择正确的工具。锤子之于钉子，螺丝刀之于螺丝。 然而AI不同，它可以结合多种不同的技术，对需要解决的问题因地制宜。如果说，以前的工人需要选好正确的工具再上场，那以后的AI就是一个完备的工具箱。
人类仍然是最薄弱的一环
具有讽刺意味的是，即使人类在网络安全斗争中发挥着关键作用，但他们依然可能成为网络安全的软肋。多么隐蔽的威胁，多么高的防火墙，多少重加密都不是最紧要的，闯入的最简单方法是让掌握钥匙的人来为你开门。
钥匙依然掌握在人的手里，用户可能被欺骗、被操纵，有时是无意识的犯错或是在判断失误的情况下掉入陷阱。当我们无意中打开了一个恶意文件，或者一时疏忽将我们的敏感登录信息、财务信息暴露给了罪犯，那么为时已晚，网络安全维护者的任务将变得极为困难甚至可以说，无法挽回。人类将持续成为主要的攻击目标，Morla表示，我们依然控制着生活中绝大多数的关键信息，包括银行帐户，有价值的商业信息和资源丰富的系统。
不过，好消息还是有的。 Fenton对人类是最薄弱的一环这一说法表示赞同，且强调一直以来都是如此。但是他提到，网络安全行业也在迅速发展以保护我们免受侵袭。“情况会慢慢得到改善。即使用户做错了某些事情或者他们运行了恶意软件，我们可以及时查封并把它处理掉”。
Morla介绍到，“我们可能会看到攻击者利用文本、语音和类似智能呼叫中心的AI工具来实现与人类的恶意互动”。值得注意的是，Kommrusch提出了类似的情况。 “可悲的是，AI聊天机器人和电话机器人已经在升级且进展迅速。诈骗者用一个设定的AI聊天机器人来接触目标人群，可能仅需20秒到30秒，在受害者上钩之后，电话便会被移交给背后真实的操纵人。也就是说，每天持续打扰你的骚扰电话，AI的身影也闪烁其中。另外，两位研究人员都指出，这种攻击必须非常有说服力才能发挥作用，要足够有欺骗性才能蒙蔽受害者的双眼。 “ 这种情况下，AI需要足够智能足够灵敏，不仅要伪装成人类且不被发觉，还要赢得当事人的信任以获取其个人信息，如访问凭证、银行密码等”。
Kommrusch提到，对于一些警惕性高的目标，他们可能会察觉出这种操作中不太“人性化”的地方，但随着自动化技术的发展，被攻击的目标基数及被攻击的频次大大增加。因此，即使AI骗局的成功率很低，但人类仍然需要保持高度的警惕。
Morla提出，防范此类攻击的方法之一就是教提高人类的应对能力。当人们能够自主识别出可疑的电子邮件时，他们打开中毒附件或单击错误链接的可能性就大大降低了。除了教育人类提高应变能力，人们还可以借助工具来维护网络安全。Kommrusch指出，基于AI的自动化安全质量分级器可以更好地保护用户，它可以在用户向手机或笔记本电脑上添加应用程序时自动评估安全风险并发出提示。
在AI出现之前的网络安全时代，也有一些早期的防御方法发挥效果。例如对银行帐户等敏感数据使用多重验证，采用U盾类实体安全产品等。McAfee（美国跨国计算机安全软件公司）则是将 AI添加到了其保护中的应用程序，终端用户可以下载该应用程序以获得高质量的AI防御。
AI对抗AI
虽然人类是最薄弱的一环，但攻击的目标不仅仅只是人类。 Morla说：“在某些情况下，使用AI实现访问控制机制，其攻击的目标也正是AI”。他列举了一些例子，有些恶意攻击刚开始以人为目标，之后却转为诱导AI将其错误分类，当病毒破坏污染数据集合之后，便能够阻止AI从中充分学习。“因此，尽管人类可能仍然是最薄弱的一环，但将AI引入网络安全却为链条增加了另一个薄弱的环节”。
Fenton提到了一些躲过AI识别的小技巧，例如在图像中更改几个像素以触发机器学习模型。对于分析人员来说，改变后的画面还是能够大致识别出原有图形，但对于AI来说，却完全可能被识别为毫不相干的事物。目前，已经有人将该技术应用于二进制文件，使恶性危险的文件被识别为安全文件从而蒙混过关。这种操作也许有效，但实际上还没有催生出相应的安全威胁，这种攻击目前还只是理论上的。
那么究其原因，为什么网络安全领域的威胁套路没有大范围地“飞跃”呢？因为攻击者并没有足够的动力进行“创新”。 Fenton说：“这听起来很奇怪，但是我希望我们很快会开始看到一些新的攻击，因为这恰恰将意味着我们对恶意软件作者施加的压力开始显现了”。换句话说，违法犯罪者缺乏创新，正是表明他们一直以来所做的事情仍然有利可图且足够有利。“如果我们拥有了AI的参与，而且我们在检测恶意软件方面做得越来越好，但是以往的攻击模式仍然猖獗，技术水平毫无进展，这意味着他们以前的那一套仍然奏效，我们并没有真正拔高网络安全的底线”。尽管如此，专家们也呼吁人们不必过度担忧，国际上的大型安全公司已经全副武装，随时准备接招网络安全攻击的下一波“创新”。
最纯粹的动机：金钱
Fenton的评论指出了网络安全常常被忽视的一个方面，攻击者的动机像所有盗贼一样：都是钱。“攻击者通常会想出最低廉，最愚蠢，最无聊的方案来解决问题，因为他们首先考虑的就是成本及收益，他们的目标并不是琢磨出多么机智的手段和高明的骗术，而只是获得钱。Fenton强调这才是了解网络安全世界的关键，因为它有助于证明网络安全的边界其实很有限，攻击者和防御者都有很强的目标导向，对于攻击者来说，金钱是唯一的方向。
他谈到：“一直以来，我对攻击者的实际行为感到非常失望，我曾以为恶意软件是经过精心设计而成的非常巧妙的陷阱。但很多时候，攻击者只是稍作改变，就会依然奏效，然后继续大行其道，这对他们来说是成功的，也是他们真正关心的”。这意味着，只有在其获利减少成本增高的情况下，他们才有可能启用高技术AI来加强攻击。也许是加强现成的攻击方式，从而导致那些便宜又简单的工具会被大量使用。Kommrusch警告公众：“攻击者也在适应AI技术，他们开始让新手借助复杂的AI算法开展攻势。但即使是这样，大多数攻击行为依然平淡无奇，甚至有些低龄，例如在网上群发更逼真的钓鱼电邮，带有恶意链接的中奖短信。
人类对抗人类
无论是攻击者还是受害者，其终端依然是人。没有一种软件拥有独立意识，将自己变成恶意软件，然后发起攻击。从他人身上谋利以增加自己的砝码，这种资本世界的规则在网络安全领域并无二致。尽管网络攻击是在损害或捕获系统，而不是人本身，但任何目标之所以有利可图，是因为最终还是需要人付出代价。
最后，即使AI增强了网络攻击和网络防御的某些方面，但其关键一役仍然在于人类。工具和媒介可能会发生变化，但其背后总是会站立着一个狼人（攻击者），一个平民（目标者）和一个守卫（防御者），一如往常。
閱讀更多 36氪 的文章
