谷歌推出演算法,加快AI边缘装置效能

谷歌推出EfficientNet-EdgeTPU演算法,加快AI边缘装置效能。EfficientNet-EdgeTPU是针对Coral Dev Board,Tinker Edge T等搭载Edge TPU张量处理器进行最佳化的演算法,能提升神经网路运算效能达10倍,对运算能量有限的边缘装置来说,是相当重要的突破,并能带来更多应用可能性。

透过AI弥补摩尔定律放缓

摩尔定律(摩尔定律)由英特尔创始人之一戈登?摩尔提出,他预测每隔两年积体电路可容纳的电晶体数目会增加1倍,过去数十年,电脑发展都相当契合这条定律。

Google在官方AI研究部落格提到,在半导体制程越来越精进之后,要进一步缩小电晶体的尺寸比以往更困难,因此资讯产业便逐渐将开发焦点转移到硬体加速等特殊应用领域,以持续推动产业发展。

这个现象也发生在AI,机器学习领域,许多研发单位都在致力打造神经网路(神经网络,NN)的加速运算单元,但是讽刺的是,即便应用于资料中心或边缘装置的神经运算装置越来越普遍,但却很少为这些硬体最佳化设计的演算法。

为了解决这个问题,Google发表了EfficientNet-EdgeTPU影像分类演算模型,顾名思义可能到它以及Google自家开源EfficientNets模型为基础,并针对Edge TPU最佳化,以利提升边缘装置在AI运算的效能表现。

▲华硕推出的Tinker Edge T开发板也搭载Edge TPU。

针对Edge TPU最佳化

为了将EfficientNets最佳化,Google的研发团队使用AutoML MNAS框架,并针对Edge TPU的特性调整神经网路的搜索空间(Search Space),同时也整合延迟预测模组,以利预估Edge TPU的运算延迟。

执行运算时,EfficientNets主要采用深度可分离卷积(Depthwise-Separable Convolutions),虽然可以降低运算量,但并不适合Edge TPU的架构,因此EfficientNet-EdgeTPU改采一般常规卷积,虽然会让运算量增加,但还是有较好的整体运算效能。

实际验证的测试中,EfficientNet-EdgeTPU-S代表基本模型,而-M和-L模型则代先采用复合缩放将原始图像调整为最佳解析度,以更大,更准确的模型判读,牺牲延迟换取更高准确度。结果报告显示,无论使用哪款模型,效能与准确度都有出色表现,效能大幅领先ResNet-50,准确度也远高于MobileNet V2。

原文地址:https://blog.51cto.com/14420067/2428859

时间: 2024-10-19 00:54:39

谷歌推出演算法,加快AI边缘装置效能的相关文章

谷歌攻破网络安全算法解读

给所有朋友(不管你懂不懂信息安全,只要你希望了解)普及一下谷歌攻破SHA-1到底发生了什么. (冯立超@瀚博资讯  原创,转载请注明) 当你发布一篇文章时,如何证明这篇文章没有被篡改过?: 计算机用一种算法(哈希算法,如SHA),对整篇文章的内容进行运算,得到一个简短的数字串(哈希值),再对该数字串加密,连同文章一起发给对方(这就叫数字签名). 对方收到这篇文章以后,再对它进行同样的运算,并比对该数字串,若一致,则证明该文章没被篡改过.(当然这些都是由计算机自动完成,你不需要参与). 哈希算法确

图像检索:CEDD(Color and Edge Directivity Descriptor)算法 颜色和边缘的方向性描述符

颜色和边缘的方向性描述符(Color and Edge Directivity Descriptor,CEDD) 本文节选自论文<Android手机上图像分类技术的研究>. CEDD具有抽取特征速度较快,特征描述符占用空间较小的优势.下面就对CEDD原理进行详细的阐述和分析. 1.颜色信息 CEDD特征结合了颜色和纹理两方面信息,本小结将给出颜色信息提取的过程,重点分析RGB-HSV模型转换.10-bins模糊过滤器和24-bins模糊过滤器的原理. 1.1.RGB模型转换为HSV模型 RGB

谷歌发布了一款AI工具,可以帮助基因组数据解读

如果你曾经看过<犯罪现场>这样的罪案剧,你可能会想起一个场景:法医通过电脑对数千个DNA片段进行搜索,从而匹配出犯罪现场和犯罪嫌疑人.虽然这个过程在现实生活并不像电视剧那样,但是主要思路是一样的.遗传学本质上是一门比较科学.无论你是想确认一名嫌疑犯.一种基因疾病还是一名失散已久的亲属,都需要将一个基因组与另一个基因组进行比较,从而在数十亿个DNA中发现相似和不同. 虽然确认失踪人员或者犯罪嫌疑人的过程通常只会涉及到一个人的几个遗传片段,但是像识别某种疾病的基因变异这样的问题,往往需要大量的数据

神经网络开创了什么?完整了AI边缘设备与嵌入式节点

意法半导体(STMicroelectronics,ST)藉由STM32系列微控制器的市场领导地位,扩展了STM32微控制器开发生态系统STM32CubeMX,其增加了先进的人工智能(AI)功能.AI技术使用经过训练的人工神经网络对动态和振动传感器.环境传感器.麦克风和影像传感器的数据讯号进行分类,相较传统以手动处理讯号的方法更加快速.高效.意法半导体微控制器和数字整合电路产品部总裁Claude Dardanne 表示,「ST的新型神经网络开发工具正在将AI导入采用微控制器的智能边缘和节点设备,以

谷歌首席决策科学家:AI难免犯错,唯有人类可以悬崖勒马

Cassie Kozyrkov在过去五年里在谷歌担任过各种各样的技术职务,但她现在担任着“首席决策科学家”这个有点奇怪的职位.“决策科学是数据和行为科学的交叉学科,涉及统计学.机器学习.心理学.经济学等. 实际上,这意味着Kozyrkov帮助谷歌推动了一个积极的人工智能议程——或者,至少,让人们相信人工智能并不像许多人宣称的那么糟糕. 焦虑 “机器人正在偷走我们的工作”,“人工智能是人类生存的最大威胁”,类似的言论已不绝如耳,尤其在过去几年里,这种担忧变得更加明显. 人工智能对话助手渗入我们的家

谷歌推Android for Work企业项目 与黑莓达成安全合作

凤凰科技讯 北京时间2月26日消息,据路透社报道,黑莓周三表示,正与谷歌合作,使其软件能够管理并保障部分谷歌Android设备的安全.在此之前,黑莓还与三星电子达成了类似合作. 去年11月,黑莓宣布与三星以及其他知名科技公司达成合作,扩大了黑莓升级后的移动设备管理和安全平台的覆盖面.黑莓称,公司为三星Android设备提供了“高安全移动解决方案”.该方案将黑莓安全平台与三星Galaxy设备的自主安全软件整合在一起. 周三,黑莓概述了与谷歌直接达成的一项类似合作,管理运行Android for W

谷歌推无线服务Fi 面临网络覆盖问题

北京时间4月23日早间消息,谷歌周三宣布推出虚拟运营商服务.凭借较低的价格以及灵活的数据套餐,谷歌该服务将给Verizon和AT&T带来压力.不过,谷歌还需要多年时间,才能给美国的大型运营商造成真正的威胁. 谷歌虚拟运营商服务名为Project Fi,起步价为每月20美元,此外每1GB的数据流量价格为10美元.谷歌该服务的合作伙伴为Sprint和T-Mobile.不过该服务也存在缺陷:用户必须拥有或购买一部Nexus 6,此外在大城市以外地区该服务可能并不是很稳定. 此前,Sprint和T-Mo

嵌入式开发之davinci--- 8148 中dsp在dsp_drv.c中的processdata()加算法出现下边缘条纹问题

(1)问题原因 dsp在alglink_priv.c中做灰度处理发现,下面出现条纹,后面发现是cache 缓存没及时写进内存问题 (2)解决办法 for(frameId=0; frameId<frameList.numFrames; frameId++) { pFrame = frameList.frames[frameId]; if(pFrame->channelNum >= pObj->inQueInfo.numCh) continue; // do SW OSD if (pO

从YouTube算法论文反推其推荐机制

去年,在波士顿举办的第10届ACM推荐系统大会(ACM's RecSys '16)上,来自Google的一个研究团队公布了YouTube推荐系统的深度学习论文:Deep Neural Networks for YouTube Recommendations 论文作者是Google的软件工程师 Jay Adams 与高级软件工程师 Paul Covington.Embre Sargin,他们向业界展示了YouTube在机器学习推荐算法上的深度神经网络使用情况.该论文涉及到一些非常技术.非常高级的细