攻和防谁更厉害?AI技术在恶意软件检测中的应用和对抗

AI技术的发展为网络安全带来新机遇的同时,黑客也在逐渐利用AI漏洞建立对抗样本以躲避攻击,双方在各自领域的更多尝试也将是AI技术发展的一场新博弈。那么,在应用中,如何利用AI检测技术与恶意软件展开对抗?

腾讯安全技术专家王佳斌为您带来分享解读。

AI检测的背景

上世纪50、60年代,早期的人工智能技术已出现,70年代到80年代,机器学习技术已被大家认识和应用。到2010年后,深度学习技术已被广泛应用在各大领域,安全领域也是其中之一。

传统的检测方式是人工定制的安全检测方案,通过输入的数据进行研判,进而得到检测结果。新的AI检测方式是通过输入数据和已知结果训练模型,再由模型去做检测。

攻击方视角

  • 从攻击者的视角,如何运用AI安全检测?

通过AI的方式选择攻击目标,钓鱼是攻击者广泛使用的攻击方式。新的研究显示通过AI技术对社交网络信息的训练,可以找到一些容易被攻击的对象。

早期的钓鱼方式包括短信、诈骗电话等,发展至今攻击方升级为通过AI技术采集相关信息对社交网络信息进行训练。

数据调查显示,广撒网式的钓鱼方式成功率仅为15%,新的训练技术成功率可提升30%及以上。

  • 从攻击方的视角,如何对抗安全防护?

在恶意应用和恶意软件检测的过程中,黑产分发病毒除了会分发大量的恶意应用外,也会掺杂一些正常的应用。如果用这些数据去训练模型,模型研判会有很高的误判率,由此便会出现训练数据的污染。

  • 从攻击方的视角,如何对研判数据进行修改和干扰?

对研判数据进行修改和干扰主要表现为在数据传入时绕过AI检测对数据做出变化。之中涉及到几种模型测试类别,即可直接拿到模型的白盒测试和不能直接拿到模型的黑盒测试,其中黑盒测试更接近于安全领域对抗过程。

目前已有的遗传编程算法对于恶意攻击首先可根据结构化字段做随机化操作得到一个子群,经过分类器研判并做迭代测试找到变种子集再重新训练。通过遗传演算重新找到变种子群,再用分类器研判。这种递归方式对于找到逃过AI检测样本有较大帮助。

防御方视角

AI已广泛应用于安全检测技术中,从防御者的视角来看,传统经典的检测方式还需要持续检测和优化。AI是对传统检测方式的补充,但不是一种替代,对此,王佳斌提出了几点建议:

第一, 传统的检测方式和AI的检测方式可以形成叠加的效应,防止被单点突破。

第二,传统检测方式提供的检测结果可为AI模型训练提供不错的数据源。对于模型自身的鲁棒性,要引入一些提升鲁棒性的方法,包括主动将对抗样本引入到训练集里形成对抗性训练,防御性的增流等。

第三,对于传统经典的检测方案要持续检测,训练数据要进行很好的清洗和提纯,足够有表征意义和纯净的训练数据才能将AI训练的更好。在此基础上还要保证模型的安全性和加密性,模型本身需要建立多种叠加效果,引入专家系统并做兜底策略。

如今,黑客正在越来越多的利用AI漏洞构建“对抗样本”进行躲避攻击,除了上述的防御方式,更多的AI攻击应对方法还在探索之中。对于AI在恶意软件检测中的应用和对抗解读,开发者觉得有哪些值得借鉴和可以改进的地方呢?欢迎留言说出您的看法~

本文首发于安卓绿色联盟公众号。

原文地址:https://www.cnblogs.com/androidga/p/10432367.html

时间: 2024-11-08 21:47:46

攻和防谁更厉害?AI技术在恶意软件检测中的应用和对抗的相关文章

AI技术在短视频APP开发中的应用主要在于四个方面

你平均每天花在短视频APP上的时间是多久? 你目前使用最长时间的一款短视频APP是什么? 移动短视频APP开发可以在这四个方面应用AI技术 移动短视频APP开发可以在这四个方面应用AI技术 短视频APP已经成为了我们生活中消遣娱乐的一种普遍方式,移动短视频APP可以随时随地想看就看,比阅读文字更加简单便捷,而且还可以缓解工作,学习的压力,而且在不知不觉中刷一下短视频APP时间过的非常快,不仅如此还能利用移动短视频APP了解自内心新闻以及流行的话题等等,还能结交新的朋友,增加与朋友互动的频率. 移

利用基于压缩的图挖掘技术进行基于行为的恶意软件检测技术

利用基于压缩的图挖掘进行基于行为的恶意软件检测技术 摘要——基于行为的检测方法通常用来处理经过了静态混淆的恶意软件的威胁.这种方法通常使用图来代表进程或者系统的行为,通常使用基于频率的挖掘技术,从恶意软件图的数据集中提取特征模式.分子挖掘领域最近的研究表明,基于频率的图挖掘算法通常会寻找高辨识度模式的次最优方法.我们提出了一种恶意软件检测的方法,使用基于量化数据流图的压缩挖掘方法,来获得精确度较高的检测模型.我们在一组大型多样的恶意软件数据集上的实验显示,我们的方法在比基于频率的检测模型高出了6

(原创)我对未来的人类的发展,以及AI技术发展的一些思考。

最近AI非常的火,不仅仅是阿尔法狗的成功,因为它击败了人类最强的大脑,颠覆了人类几千年来的对传统的认识,也让人类意识 到了一个问题:天外有天,人外有AI. 那么AI究竟会对人类的未来造成什么深远的影响呢?它又将怎么改变人类的生活呢?我来列举几个阶段性的东西,希望能给大家一些思考和启发. 近期:AI其实我个人感觉10年前并不是很火,但是最近突然火了起来,主要的发展还是在图片识别了文字识别方面,比如最明显的东西就是谷歌翻译现在越来越准了,这都可以理解为深度学习的一些成功. 第一个100年 1.我个人

智能家居网络安全攻与防

以下均内容均为博主原创.如转载,请注明出处.谢谢! 背景 物联网将会成为继互联网之后的下一个暴发点,目前以有不少公司已进入该领域. 智能家居作为物联网中最具有潜力的领域,网络安全是必须引起重视的课题.在互联网领域中,用户去安全性的敏感度并不是那个高.但是在智能家居领域中,如果系统被黑客攻击:半夜房门自动打开.无故解除安防系统.灯不亮等严重威胁到了用户的财产人身安全. 所以,智能家居想发展,安全性是决不可忽视的关键要素. 网络通信安全 任何信息在网络上传播能是能被第三者监听的.一个局域网就像是一间

高屋建瓴之WebMail攻与防

0x01:前言 随着互联网的快速发展,我们的生活与互联网的联系愈加的紧密.各种快捷方便的信息化通信工具渐渐取代了传统的通信方式.微博.QQ.MSN.微信.陌陌, …这样的社交软件和平台已经成为了我们生活必不可少的通讯和交友平台. 但是像上述的这些软件及平台都有一个共同的特征,那就是即时性.即时性的通信虽然有其独特的优点所在但是在企业级方面的安全性却得不到全方面的保障:电子邮件却恰恰相反,虽然即时通讯的能力不强,但是在企业级的安全性方面相对于即时通信还是略占优势的.根据一则报道显示: “有52%的

攻与防的较量—信息化安全提升的源动力

信息化安全的提升,某种程度上,依赖于攻击与防护对抗的碰撞力度.攻击愈烈,防守意识愈能提升,安全防护的技术水平和能力愈加速发展:而防守越强,同时也刺激攻击手段不断"创新"与"求变". 本次社保行业信息泄露事件的集中报道,就是信息化安全攻与防较量的一个典型代表. 1.社保数据遭受泄露事件曝光绝不"纯属偶然": 7天连锁酒店的600万会员信息泄密: CSDN 1000多万客户信息被窃取: 12306网站被攻破,上百万人的信息泄露: "房叔房姐

千人千面、个性化推荐,解读数据赋能商家背后的AI技术

12月6-7日,由阿里巴巴集团.阿里巴巴技术发展部.阿里云云栖社区联合主办,以"2016 双 11 技术创新"为主题的阿里巴巴技术论坛,来自商家事业部的技术总监魏虎给大家分享了数据赋能商家背后的AI技术.首先对大数据和人工智能进行了简要介绍,接着着重分析了客户运营平台,包括实时分群算法.match和rank框架以及千人千面技术,最后讲解了千牛头条.服务市场和智能客服中AI技术的应用. 背景介绍 大数据 大数据主要有四个特征:Volume(大量).Value(价值).Velocity(速

回顾2018年的AI技术发展,巨头公司正面临着越来越多的限制

在过去的几年中,来自全球的科技公司.各路资本和政府等在 AI 技术上的投入让相关领域取得了飞速发展. 当这 AI 技术在不断成熟并逐渐开始进入人们的生活中时,一些由新技术带来的安全.平等问题开始更加被人们重视. 有意思的是,在 2018 年开始,除了继续推动技术发展,各大科技公司纷纷开始对 AI 技术的应用进行不同程度的限制. 以谷歌为例,美国防部 2017 年宣布成立"Maven 计划"(Project Maven),这一计划也被视为是将 AI 技术引入战场.2018 年 4 月,在

Bragi将退出耳机市场 专注于AI技术开发

说起 Bragi 耳机品牌,大家第一时间想到的应该是主力产品 Dash Pro.Dash Pro 是支持头势操作的真无线耳机产品,用户可透过头部运动直接控制耳机.在运动场景下,这种操作有时会比触控更方便.Bragi 之前还宣称要在 Dash Pro 加入更多智慧化技术,包括 Audio Analytic 开发的耳机用人工智能技术,能透过收集环境信息,根据信息来调整声音,以降低环境音的影响.Bragi 还在更新后的 Dash Pro 加入 iTranslate 语音翻译功能.这些功能都让 Dash