我的位置:首页 >> 最新文章

系统漏洞敲响AI安全警钟_【#工作服】滨发草

发布时间:2021-03-25 16:02:40 来源:宇田农业网

系统漏洞敲响AI安全警钟

本报记者 翟冬冬近日,腾讯安全平台部Blade团队对外发布消息称,该团队在对谷歌人工智能学习系统TensorFlow进行代码审计时,发现该系统存在重大安全漏洞,利用该系统进行编辑的AI场景,有遭受恶意攻击的可能。

目前谷歌官方已经确认了该漏洞,并表示TensorFlow官网将在网站创建安全公告页面,及时披露和修复安全漏洞。

尚未造成影响

TensorFlow是谷歌研发的第二代人工智能学习系统,它可在小到一部智能手机、大到数千台数据中心服务器的各种设备上运行。除谷歌外,国外如eBay、Airbnb、Twitter、Uber等企业,国内的小米、中兴、京东等公司都在使用TensorFlow进行AI模型训练和开发。

腾讯安全平台部Blade团队回复科技日报记者,这次发现的漏洞不但攻击成本低,普通攻击者就能实施攻击,而且迷惑性强,大部分AI研究者可能没有防备。安全漏洞风险较高,主要问题是在TensorFlow处理训练好AI模型的时候,没有考虑到规避异常AI模型,导致其执行了黑客的命令逻辑。

好在目前这个漏洞尚未被“有心人”利用,造成严重后果。腾讯安全团队表示,要从根本上解决这种漏洞需要TensorFlow框架更改处理模型的架构,难点是整个架构设计的更改。目前使用者应该避免使用外部的AI模型,等待官方发布补丁。

安全如何保障

此前有业内人士认为,由于AI框架刚开始被大范围使用,截至首个安全风险被报告,业内对此类安全问题关注度还不够。

北京市计算机中心算法工程师张秀玲介绍,目前这些第三方基础库是端对端的相对成熟稳定的平台,可以省去很多基础编程工作,只需要在这些基础库之上设计算法架构即可,尤其对于做应用的人很有吸引力。腾讯安全团队表示,现在很多软件都会依赖TensorFlow、Caffe、Torch等第三方开源基础库,所以这里也容易引入漏洞,常见的是安全漏洞。AI可能存在的安全漏洞分为两类。

“第一类是AI算法自身的漏洞,比如通过一些方法欺骗AI,让AI误判。之前业界和我们的团队都实现过利用特制的交通标识牌欺骗自动驾驶系统。”腾讯安全团队说。还有一类属于传统的软件漏洞,比如像处理文件的漏洞、引入第三库带来的漏洞等。腾讯安全团队表示,造成什么风险是由这个AI系统的能力决定的。如果是关系国计民生的大系统那将会造成很大危害,会导致AI失控,或者说被黑客控制。

我国7月发布的《新一代人工智能发展规划》明确指出,人工智能发展的不确定性带来新挑战。在大力发展人工智能的同时,必须高度重视可能带来的安全风险挑战,加强前瞻预防与约束引导,最大限度降低风险,确保人工智能安全、可靠、可控发展。

腾讯安全团队认为,安全防护是一个纵深工程,仅仅从算法和代码层面考虑的话,要从漏洞成因的两方面入手,算法上不要出问题,代码上也要保证安全。

湖北科研定做服装

潮州豆绿定做西服

广东货运工作服定做

相关阅读
美国去年肉类需求下跌长乐

美国去年肉类需求下跌最近美国密苏里大学的农业经济学家Glenn Grimes和 Ron Plain分析指出, 2005年美国对除肉鸡之外的所有肉类产品的需求量都有所下降。1至11月份,消费者对猪肉的需求与2004年同期相

02月07日 14:28
2018中国国际智慧养殖应用与创新发展高峰论坛_[寻医问药6盈江胡椒.9]盈江胡椒

2018中国国际智慧养殖应用与创新发展高峰论坛支持方: 中国农业新闻网、上海市农业工程学会承办方:合威会展2017年中央“一号文件”提出发展规模高效养殖业,稳定生猪生产,优化南方水网地区

06月09日 17:10
2018中国国际农机展在武汉举办_[寻医问药6太原.9]太原

2018中国国际农机展在武汉举办10月26日,2018中国国际农业机械展览会在湖北省武汉国际博览中心隆重举行。由中国农机流通协会、中国农机化协会和中国农机工业协会共同主办的中国国际农业机械展

06月09日 17:02
2018中国农药行业销售百强榜发布_[寻医问药6艳山花.9]艳山花

2018中国农药行业销售百强榜发布5月16日,2018中国农药行业销售百强企业榜单在“第五届农药行业经济运行分析会”上隆重发布并为获奖企业颁发了牌匾,湖北沙隆达股份有限公司以220.336亿元销售额

06月09日 16:52
2018中国国际海洋牧场大会在大连举行_[寻医问药6盐角草属.9]盐角草属

2018中国国际海洋牧场大会在大连举行近日,以“生态资源绿色共享”为主题的“中国国际海洋牧场大会”在辽宁省大连世界博览广场启幕。此次大会是在农业农村部渔业渔政管理局的指导下,由全国

06月09日 16:51
2018中国山西国际现代农业博览会组织筹备工作已全面启动_[寻医问药6卷叶碱茅.9]卷叶碱茅

2018中国(山西)国际现代农业博览会组织筹备工作已全面启动内容摘要:当前,山西省经济发展正处在积极转型的重要时期,并已全面上升为国家战略。未来,山西省将重点发展现代农业、特色农业

06月09日 16:47
友情链接: 威门 热淋清颗粒怎么样 威门热清淋颗粒药店有卖吗 热淋清颗粒都哪个药房有卖 热淋清颗粒的作用 威门热淋清颗粒管用吗 南京治疗白癜风医院哪家好 大人得了湿疹消除的妙招是什么 银屑病用什么药没坏处 治疗银屑病最简单的药 得银屑病应该多吃什么 银屑病有必要治疗吗 宝宝胳膊上湿疹结痂怎么处理 得银屑病应该多吃什么 银屑病怎么护理好 吃哪些可以预防手足癣 儿童什么病会引起皮肤瘙痒 虫咬皮炎饮食禁忌 儿童荨麻疹的治疗方法 银屑病治疗方法哪种好 虫咬皮炎肿了一片 股癣和湿疹严重能导致什么后果 虫咬性皮炎日常护理 药品通 湖南鼻炎医院 西宁肺结核医院 山西弱视医院 在哪买比特币 西安服装定做 南宁定做工服 滚动磨损试验机 定做制服 定制职业装