“当黑客插上人工智能的翅膀…”
好文 3455 字 | 6 分钟阅读
作 者：卡伦·雷诺（Karen Renaud），梅里尔·沃肯廷（Merrill Warkentin），乔治·韦斯特曼（George Westerman）
过去几年，网络犯罪分子频频利用人工智能 （AI） 侵入公司系统、扰乱商业运营。像 ChatGPT 这种威力强大的新生成式 AI 工具也给企业领导者带来了一系列新挑战。
试想以下完全可能出现的情景：
● 黑客根据你们公司的营销材料和过去曾经得到的网络钓鱼信息，利用 ChatGPT 生成一条针对性的鱼叉式网络钓鱼 * 信息。哪怕是充分接受过电邮反诈培训的人也难免会上当，因为它看起来与他们当初培训时学习侦测的信息完全不同。
● AI 机器人利用深度伪造技术，模仿老板的声音给负责应付账款的员工打电话。寒暄了几句之后，“老板”要求该员工将数千美元转入一个账户用以“支付发票”。员工知道这样做不合规矩，但老板是有权要求破例的，对吧？
● 黑客利用 AI 给系统中的信息“投毒”，创建一个有价值的股票投资组合，然后抢在骗术被人发现之前套现。
● 有人用生成式 AI 伪造了某公司高管讨论如何掩盖财务亏空的一系列电邮，其内容令人信以为真。在社交媒体机器人大军的推波助澜下，这一“泄露”的信息被疯狂传播，导致公司股价暴跌，声誉蒙受了无可挽回的损失。
深度伪造技术会在社交媒体造成灾难性后果，或者重创企业 IT 系统。一直关注此类事件的人可能对上述情景有似曾相识之感。但这些新威胁的性质是不同的，且更加令人不寒而栗，因为其底层技术已变得“更智能”。
到目前为止，大多数攻击使用的都是相对简单的高容量法。请想象来自一大批网络僵尸的威胁，它们数以百万计，锲而不舍却没头没脑，只有当其中一两个碰巧找到防护屏障的薄弱环节时，它们的攻击才会得逞。
相比之下，最复杂的威胁 （例如我们有时在媒体上获知的重大盗窃和欺诈事件） 是较低容量的精准攻击，通常需要人类的实际介入才能成功。此类攻击更像是飞檐走壁的窃贼，系统地研究建筑物的每个细节及其警报系统，直到设计出一种可以避开安保体系悄悄潜入的方法。它们又好比巧舌如簧的骗子，能够凭空捏造一个背景故事，编织出以假乱真的谎言，甚至连聪明人也会上当受骗、乖乖给钱。
现在想象一下，那些僵尸变聪明了。在生成式 AI 的加持下，每个僵尸都变成了偷天大盗，能看穿你的安全系统是如何设计的，并创造出绕过它们的方法。或者，你也可以想象一个骗子使用生成式 AI 同你的一名员工接触，赢得他的信任，然后诱骗他落入圈套。
AI 驱动恶意软件的新时代意味着，企业不能再简单沿用过去的最佳实践，哪怕在短短几个月前，这套方法可能还是卓有成效的。落实稳妥的安全政策、安装最顶级的防护和侦测技术工具、开展安全意识教育以确保员工了解安全规则——所有这些纵深防御策略都不足以应对新的挑战。一个全新的时代已经拉开了序幕。
生成式 AI 能够将文本、语音、图形和视频组合起来，在黑客攻击领域开启未知且不可知的创新。成功防御此类威胁尚不能实现自动化。你的公司需要从获取工具和建立基于规则的方法，转向制定能够实时应对更高级别 AI 生成威胁的策略。为此，有必要采用更智能的技术，聘用更聪明的员工。
01
用生成式 AI 对付生成式 AI
企业应该使用生成式 AI 增强自己的防御能力，同时依靠它来加快建设实时应对新威胁的能力。
首先，以企业的外围防御体系为例。企业早已使用恶意软件数据库来侦测新威胁。供应商会不断更新这些恶意软件特征的数据库，但并不会根据每家企业的独特情况来量身定制。黑客们以前使用的是无差别的漏洞攻击策略侵入公司系统。
如今，他们将应用 AI 专门针对某家企业的漏洞实施攻击。诈骗电邮会在合适的压力点精准发力。它们的逼真度也会相当高，因为在新型网络钓鱼攻击中，每条信息都是 AI 驱动语言使用公共信息为目标企业量身定制的。因此，哪怕是精明的员工，也很难在第一时间看穿骗局、对其不予理会。更有可能的是，他会因为看到大量具体细节而对邮件的真实性深信不疑。
OpenAI（ChatGPT 的创造者）等公司正在推出 GPTZero 和 ZeroGPT 等工具，供企业检测新生成的文本 （在没有可识别签名的情况下） 是不是由生成式 AI 生成的。企业可以将这些工具集成到邮件服务器中，从而提高拦截更高级别自动钓鱼消息的可能性。这些工具应根据每家企业的不同需求量身定制，并通过频繁微调来保持警觉，正如机灵的门卫需要随时获知最新的威胁。
随着时间的推移，安全工具供应商将逐渐采纳这些技术，但与此同时，许多公司仍有可能遭遇黑客入侵，蒙受严重的财产和声誉损失。因此，公司务必考虑尽快实施内部变革，而不是坐等市场上现成的解决方案升级。
其次，必须尽快提升实时侦测能力。许多公司依靠模式识别来抵御攻击。但问题是，这些模式所包含的信息都来自已发生的攻击。因此，为了抵挡由生成式 AI 驱动的攻击，我们需要开启一个“智能”防范的新时代。
生成式 AI 有可能提高企业的快速侦测能力，帮助它们发现员工或系统内部任意环节出现的行为或行动异常。员工的行为会通过他们登录的系统、访问的数据量以及电邮的对象反映出来，这些日常行为与他们的工作任务相符，因此基本上是可预测的。我们可以将这些看作他们的行为足迹。
如果岗位职责照旧，足迹却突然发生改变，也许就意味着情况有异，可能有黑客正试图侵入系统，或者是有内鬼作乱。企业可以配套使用生成式 AI 与其他 AI 工具来确定损害的程度，或者排除系统被攻破的可能。以 GPT- 4 为基础构建的新扩展和第三方应用程序已经公布，所以基于 AI 的新安全工具问世也指日可待。
02
训练人类应对更智能的攻击
具有安全意识的人类行为，对于网络安全仍然是至关重要的，但人类还是会继续犯错。许多旨在提高安全意识的宣传活动，都介绍了现存的各种威胁，并提供一整套需要遵守的规则：不要点击链接，务必使用强密码，给所有的软件打好补丁，等等。
然而大量年度行业调查发现，员工仍是最薄弱的环节。比方说，有人掌握了充分的信息，或擅长精准地操纵情绪，呼叫中心的员工就很可能会中计。据估计，多达 82% 的系统入侵涉及人类行为。
在生成式 AI 的时代，组织需要改变安全意识的培训方式，从制定政策来规范员工的行为，转向用知识来武装他们，使他们具备侦测新威胁的能力。也就是说，员工需要对黑客行为有足够的了解，才能从规则遵守者转变为主动防卫者。随着生成式 AI 工具的诞生，传统的信息安全政策不再有效，基于规则的方法也不再适用。
卡车司机若想确保安全，不能仅靠遵守交通法规，还要根据道路条件调整驾驶行为，例如雨天拉开车距，雾天减速慢行。同样，员工必须应用情景知识来应对生成式 AI 带来的网络安全新挑战。为此，企业不仅要对员工进行培训，告诉他们哪些事应当做，哪些事不能做，还要帮助他们了解如何在一个极具挑战性的新世界中保持安全。
企业需要改变既有策略，从以合规为基础，转向培养员工掌握新技能。培训可能需要由讲师提供现场或在线指导，向员工传授超出传统规则型政策领域的新知识。目前的一刀切式培训是消极被动的，哪怕后续有测验跟进也是这样。在 AI 时代，企业必须培训员工去适应真实的或潜在的情景，并就应对方式进行现场讨论。
除了通过员工安全意识培训来加强防御之外，企业还要遵循孙子的智慧——“守是攻之策”。要设想最糟糕的情景，想到不可想象之事，使用基于 AI 的模型来推测潜在的入侵载体或触发因素，对其加以提防。一种策略是召集最优秀的 IT 人员甚至其他公司的专家组成一支特战队，以头脑风暴的方式研究破坏分子可能会以怎样的方式突破你的防御系统。
然后，以此类事件为中心，想办法提高公司的相关技术能力、增强员工的安全意识。一项调查发现，企业正在从传统的红队 / 蓝队 （攻 / 防） 式网络攻防演练，转向更偏重于协作的“紫队”模式，以加深对新型攻击方法的了解，并认识到哪些措施行之有效，哪些徒劳无功。
防御 AI 驱动黑客攻击的最佳措施，很可能是利用 AI 增强信息能力。这意味着你不仅要制定更加快速而强大的防御策略，而且要为技术和人员提供更加智能化的策略。靠加高围栏无法打败那些变聪明了的僵尸，但是你可以应用新的 AI 赋能工具来加固传统防御体系，还可以重新思考你的传统防御方法和基于规则的培训。在黑客 GPT 的恐怖新世界里，你必须马上行动起来，才能确保公司安全无虞。
* 编者注：鱼叉式网络钓鱼指一种只针对特定目标进行攻击的网络钓鱼攻击。
作者简介：卡伦·雷诺 ，思克莱德大学（University of Strathclyde）计算机科学家。 梅里尔·沃肯廷 ，美国计算机学会（ACM）杰出科学家，密西西比州立大学商学院（College of Business, Mississippi State University）W. L. Giles 杰出教授及 Rouse 信息系统捐赠教席教授。 乔治·韦斯特曼，麻省理工学院斯隆管理学院（MIT Sloan School of Management）高级讲师，MIT 开放式学习办公室全球机会项目（Global Opportunity Initiative）创始人。
原文《黑客 GPT 来了》
刊登在《商业评论》2023 年 7 月号
特别声明：以上文章内容仅代表作者本人观点，不代表新浪网观点或立场。如有关于作品内容、版权或其它问题请于作品发表后的 30 日内与新浪网联系。
原文链接：http://k.sina.com.cn/article_1663312464_63242250020014rjn.html
