洪水、投毒和社会工程:戏耍AI的黑客攻击

机器学习技术可帮助公司发现可疑用户行为、恶意软件和欺诈性购买,但即便防御技术一直在进步,攻击者依然能找到各种方式染指公司资源。为了对潜在威胁做出正确的响应,很多防御系统需要被调整,或自我调整。

洪水、投毒和社会工程:戏耍AI的黑客攻击

每次微波加热爆米花都会触发的烟雾警报,要么被换成了不那么敏感的,要么被挪到了远离厨房的地方。而“老司机”早已料到这一行为。举个例子,如果攻击目标装了运动检测报警仪,那么只需每天都很无辜地骑车经过他们家,不出一个月,他们就会关了检测器或者重新校准。这时,入侵机会就形成了。

如果将同样的方法用在机器学习系统上,这就被称作洪水攻击。要记住的一件事是:网络防御并非天气预报。

为了用AI更好地跟踪飓风,即使准确度不断进化,物理规律也并不会突然来个180度大反转。但在网络安全这个世界,网线的另一端是人,他/她可是有着让模型失效的目的的。

洪水攻击中,攻击者会增加信号,有时候是逐渐增加,直到能混在合法活动的掩护下安然溜入。或者,用DDoS攻击耗尽资源。为解决此类威胁,公司需要数据分析之外的技能。

随着威胁态势的不断变化,即使是机器学习和AI也助益不了太多,人类的精巧思维是必需的。在这方面,仅仅具备数据科学背景是不够的,你需要数据科学和特定领域专业知识的交叉。

至少,目前为止,每天凌晨2点骑车经过并朝你们家扔石头触发警报的人需要特别注意,或者烟雾检测器太靠近微波炉之类的情况,还是需要人类专门的知识来理解和判定的。

用网络安全术语来讲,这需要理解事务运行原理,以及特定行为改变是否有意义或指向可疑行为。同样地,领域专业知识能帮助防御者检测用于训练机器学习系统的数据集是否遭到操纵。

恶意软件作者会创建大量合法应用,这些合法应用具备他们计划投放的恶意软件的特征。流氓雇员会调整他们的行为,以便在进行邪恶动作时不会被抓包。这就是很常见的“垃圾进,垃圾出”问题了。

安全人员需要制定策略,来分辨攻击者是否在尝试诱骗AI做出错误决策。如果确实基于坏数据做出了错误决策,要多久才能发现呢?

这种时候,人的判断就起到了很大的作用。灵丹妙药是不存在的。

公司企业要尤其注意避免陷入“安装、启动了系统,然后置之脑后”的情况。事情总会随时间推移而被人遗忘。

进行检查以确保系统得到校准是件常规而烦人的工作,尤其是在员工忘了系统运行方式,公司又无力购置多个系统从不同方向解决问题时,一个个查过去真会要了老命。

这种时候,托管安全服务提供商就是值得考虑的选项之一了。最好是一家对这些特定系统有着深入了解,又有大量机会接触坏蛋们诱骗花招的托管安全服务提供商。托管服务在这一特定领域中是极佳的,会比单一机构带来更多更广的数据集。

虽然机器学习系统算是新鲜事物,用来戏耍它们的战术却是验证过的方法。洪水和投毒——这就是攻击者对路由器和防火墙干的事儿。

另一个老而弥坚的技术,是社会工程。

无论AI有多强大,只要内部有人能扳下开关关了系统,进出易如反掌。因此无论布置了多强大的安全措施,用户总是要时刻准备着弥补最弱的一环——人性的弱点永远存在。


企业为什么要把安全工作外包?
这家初创公司做MSS 访诺恒信息创始人肖志康

 

转载请注明:安全主题 » 洪水、投毒和社会工程:戏耍AI的黑客攻击

赞 (0)

评论 0

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址