据外媒报道,美国伍斯特理工学院(Worcester Polytechnic Institute,WPI)的一名电气与计算机工程师获得了美国国家科学基金会授予的CAREER奖,嘉奖其研发了第二道网络防御线,可让智能系统在被黑客攻击时能够安全且高效地运行。该项新研究重点不在于让网络犯罪分子不进入自动驾驶汽车、智能建筑和机器人,而是将他们进入此类系统后可能造成的损害降至最低。
电气与计算机工程系助理教授Andrew Clark(图片来源:伍斯特理工学院)
电气与计算机工程系助理教授Andrew Clark正在利用CAREER奖的50万美金奖金来构建算法,并利用机器学习识别和过滤黑客在突破系统的第一道安全措施时产生的错误信息,此类第一道安全措施包括防火墙、固件保护以及自动错误修复等。
Clark今年获得了终身教职,还升职为副教授。他表示:“仅仅将黑客挡在门外是不够的,一个智能的系统应该在黑客不管让它干什么的时候,都能够保持正常运行。要让消费者信任使用自动驾驶汽车、与机器人合作或者住在智能家庭的关键是要有双层安全保护措施。”
Clark的网络安全研究将应用于多种智能系统、物联网(IoT)以及工业和私人机器人,让此类系统能够抵御导致它们伤害人类或破坏生产线的流氓指令。
Clark的算法采用了估计理论和控制理论。其中,估计理论是一种给输入数据赋值的统计方法,而控制理论能够控制机器系统,使其在需要时能够正常运行。Clark还采用了专注于使用层级计划的规划理论来实现特定的目标,让系统能够满足其目标,如尽管受到黑客的干扰,仍能够在高速公路上安全行驶。
利用上述算法,研究人员正在研究两种安全级别不同的措施。
在初级阶段,Clark的研究重点在于选择路径或者做出风险最小的决策。例如,一辆自动驾驶汽车在A点和B点之间选择行人和交通量都更少的路径,将车辆系统被黑客入侵的风险降至最低。或者,一个搜救机器人会选择最安全、最高效的路径通过一座受损建筑,以达成一系列目标,无论是否有黑客尝试入侵或者阻止其行动。
Clark的第二级安全技术集中于算法,让车辆的大多数传感器能够覆盖掉来自于入侵传感器的错误信息。例如,入侵了一辆自动驾驶汽车的黑客能够尝试让传感器显示一个比实际距离远很多的物体,从而让车辆发生撞车事故;而Clark的算法能够通过指示车辆忽略与大多数传感器不符的信息,让汽车与该物体保持安全距离。
目前,Clark已经创建了博弈理论模型,以捕捉系统以及攻击者之间的互动,展示系统如何对不同的信息做出反应,会采取何种行动来保持安全运行,以及此类行动会对整个系统有什么影响。他补充道:“可以让你预测系统在不同类型攻击下的安全程度,还可以用于分析自己的应对方法以及推断黑客的能力水平。”