机器通过处理从传感器收集的数据来学习的能力，是自动驾驶汽车，医疗设备和许多其他新兴技术的基础。普林斯顿大学的研究人员发现，这种学习能力使系统容易受到黑客的攻击。

普林斯顿大学研究团队研究了应用于人工智能(AI)的对抗策略如何例如欺骗交通效率系统导致僵局或操纵与健康相关的AI应用程序以揭示患者的私人医疗状况。历史。作为这种攻击的一个例子，该团队将驾驶机器人对道路标志的感知从限速更改为“停止”标志，这可能导致车辆以高速公路速度危险地刹车。在其他示例中，他们将停车标志更改为多种其他交通指示。

普林斯顿大学电气工程系首席研究员兼副教授Prateek Mittal说：“如果机器学习是未来的软件，那么我们将在确保其安全的基础上迈出第一步。” “为了使机器学习技术发挥其全部潜力，我们必须了解在对手面前机器学习的工作原理。那就是我们面临的巨大挑战。”

正如软件容易受到计算机病毒的攻击和感染，或者其欺诈者通过网络钓鱼和其他破坏安全性的手段将其作为用户的目标一样，基于AI的应用程序也具有自身的漏洞。然而，适当保障措施的部署滞后。到目前为止，大多数机器学习的开发都发生在良性，封闭的环境中，与现实世界截然不同。