幸运的是，这只是一个实验，但实验已经表明，黑客已经能够使用 AI 来进行恶意攻击。事实上，他们可能已经在使用它，只是尚不为人所知。7 月份，在 2017 年美国黑帽安全技术大会（Black Hat Conference）上，数百名领先的网络安全专家聚集在拉斯维加斯，讨论 AI 问题和新兴技术可能会带来哪些隐患。在调查中，有个问题关于在未来一年内黑客是否会使用AI进行攻击，62％ 的受访者的答案是肯定的。
Cylance 主管安全数据科学家 Brian Wallace 在接受 Gizmodo 采访时说：“黑客一直在使用人工智能作为武器。这是非常有意思的，因为黑客的规模问题，他们试图尽可能地攻击更多的目标，同时尽量减少对自己的风险。人工智能和机器学习可以实现这一目的，所以成为他们最终使用的完美工具。“他说，这些工具可以决定要攻击的人，攻击者，何时攻击等等。
移动安全初创公司 Zighra 的创始人兼首席执行官 Deepak Dutt 表示，在不久的将来，复杂的人工智能将被用于网络攻击的可能性很高，而且它可能已经被俄罗斯，中国等东欧国家使用。但是，关于 AI 以何种方式被利用，Dutt 暂时也不清楚。
“人工智能可用于挖掘大量公共领域和社交网络数据，以提取出生日期，性别，位置，电话号码，电子邮件地址等个人身份信息，可用于黑客入侵一个人的账户，“Dutt 告诉 Gizmodo。“它还可以用于自动监控电子邮件和短信，并为社会工程攻击创建个性化的网络钓鱼邮件。AI 可以更容易地突变恶意软件和 ransomware，并且更智能地搜索并挖掘和利用系统中的漏洞。
Dutt 怀疑 AI 已经被用于网络攻击，而且这些罪犯已经在使用某种机器学习功能，例如通过自动创建个性化的网络钓鱼电子邮件。
“但是，新的人工智能技术在新的机器学习技术方面，比如深度学习，可以被用来达到我刚刚提到的更高水平的准确性和效率。”他说。深度学习也称为层次学习，是利用大型神经网络。它已经应用于计算机视觉，语音识别，社交网络过滤等诸多复杂任务，并且往往能够产生优于人类专家的成果。
“此外，大量社交网络和公共数据集（Big Data）的可用性也有所帮助。先进的机器学习和深度学习的工具现在可以在开源平台上轻松获得 - 这与相对便宜的计算基础设施相结合，有效地使得网络攻击更加复杂。
根据古德曼的说法，这些日子里，绝大多数的网络攻击都是自动化的。人类黑客走一个单一目标是非常少的，现在更常见的方法是使用 AI 和机器学习的工具自动化攻击 - 从脚本分布式拒绝服务（DDoS）攻击到 ransomware，犯罪聊天机器人等。这样的机器智能化的前景是特别令人震惊的。AI 可以以超过任何个人黑客的速度和复杂程度生成复杂且高度针对性的脚本。
除了已经描述的犯罪活动之外，AI 还可用于攻击弱势群体、快速进行黑客攻击、开发智能恶意软件等等。
Recorded Future 首席技术官 StaffanTruvé 表示，随着人工智能成熟并成为更多的商品，“坏人”将会开始使用它来提高攻击性能，同时降低成本。不同于许多同事，Truvé表示，AI目前并没有真正被黑客使用，声称更简单的算法（例如自修改代码）和自动化方案（例如启用网络钓鱼方案）正在运行正常。
Truvé 告诉 Gizmodo，“我不认为 AI 已经成为坏人必备工具的一部分。” “我认为我们在攻击中还没有看到更多的”AI“的原因是，传统的攻击方法仍然有效 - 如果你从一个好的老式的强力方法中就可以达到你的目的，那么为什么要花时间和金钱来切换到某种新技术上呢？”