GPU相比FPGA更具优势,适应AI快速变化需求

<strong>飞象网讯</strong>(源初/文)上周,在 GTC19 大会期间,NVIDIA 加速计算产品管理总监 Paresh Kharya 对关于 GPU 相比 FPGA 的优势的问题时回答表示,GPU 在可编程上具备明显优势,整个开发时间更短。
  他表示称目前做好一个 FPGA,整个编程时间就要几个月,而且还要在硬件层面对它进行编程。然而现在 AI 变化速度非常快,甚至更新是以分钟来计算的,所以必须要在软件端实现高度灵活的可编程。恰恰 GPU 是 AI 领域的专用芯片,他的指令集是非常有优势的,是全可编程,并且是软件定义的。
  GPU 的另一个优势在于架构向前兼容,如果未来需要使用新硬件,可以使开发周期得到大大缩短,整个硬件可以随着软件不断更新适应,在软件库中可直接进行更新。同时 NVIDIA 的平台可以在任何设备上使用,包括台式机、笔记本、服务器、数据中心、边缘和物联网。
  而在 GTC19 大会的主题演讲中,黄仁勋也不断强调了 GPU 在各种应用领域中相比于 CPU 的明显优势,例如阿里的边缘系统在 GPU 上跑,每秒可以做 780 次查询,但是如果说用 CPU,每秒只能做 3 次查询;而在百度采用 NVIDIA AI 推荐系统的表现来看,以往对于百度庞大的用户潜在兴趣数据包的模型训练在 CPU 上成本高昂且速度慢,而 GPU 训练成本只有 CPU 的1/10,并且支持更大规模的模型训练。

原文地址:https://blog.51cto.com/13383471/2462623

时间: 2024-11-09 02:15:02

GPU相比FPGA更具优势,适应AI快速变化需求的相关文章

谈谈GPU与FPGA的一些看法

从几个方面来介绍一下GPU和FPGA. 从峰值性能来说,GPU(10Tflops)远远高于FPGA(<1TFlops).GPU上面成千上万个core同时跑在GHz的频率上还是非常壮观的,最新的GPU峰值性能可达10TFlops以上.GPU的架构经过仔细设计(例如使用深度流水线,retiming等技巧),在电路实现上是基于标准单元库而在critical path上可以用手工定制电路,甚至在必要的情形下可以让半导体fab依据设计需求微调工艺制程,因此可以让许多core同时跑在非常高的频率.相对而言,

什么是ASIC芯片?与CPU、GPU、FPGA相比如何?

http://www.elecfans.com/d/672204.html 继4月初联发科宣布扩大ASIC产品阵线,推出业内首个7nm 56G PAM4 SerDes IP之后,4月24日,在联发科深圳办公室,联发科举行了一场小型的媒体会,联发科副总经理暨智能设备事业群总经理 游人杰及联发科智能显示暨客制化芯片事业部行销处处长彭建凯首次揭秘了联发科的ASIC业务. 什么是ASIC芯片? 近年随着以比特币为代表的虚拟货币市场的火爆,催生了一大批生产“挖掘”虚拟货币设备的“矿机”厂商,其中最为知名的

小米熬不成大粥 乐视生态更具优势

笔者按:对于后起之秀而言,人们在评断其优劣时,往往会将其剖析地淋漓尽致.看上去一大堆高深莫测的数据,抑或玄之又玄的文字,让人如坠雾里,不明所以.但事实上,不论数据还是堆砌的文字,都只是虚幻.而真正承载后起之秀未来的还是最初的目标和阶段的施行力度.当然,也离不开大环境的配合. 乐视和小米对簿公堂的事件,瞬间点燃了整个互联网业界的激情.就像当年的3Q大战.3百大战一样,乐视和小米这两大后起之秀成为针锋相对的"死对头".与此同时,人们对其背后的"阴谋诡计"分析地明明白白.

深度学习硬件:CPU、GPU、FPGA、ASIC

人工智能包括三个要素:算法,计算和数据.人工智能算法目前最主流的是深度学习.计算所对应的硬件平台有:CPU.GPU.FPGA.ASIC.由于移动互联网的到来,用户每天产生大量的数据被入口应用收集:搜索.通讯.我们的QQ.微信业务,用户每天产生的图片数量都是数亿级别,如果我们把这些用户产生的数据看成矿藏的话,计算所对应的硬件平台看成挖掘机,挖掘机的挖掘效率就是各个计算硬件平台对比的标准. 最初深度学习算法的主要计算平台是 CPU,因为 CPU 通用性好,硬件框架已经很成熟,对于程序员来说非常友好.

vue.js与react.js相比较的优势

vue.js的简介 vue.js是一个javascript mvvm库,它是以数据驱动和组件化的思想构建的.我们平时多用js去操作dom,vue.js则是使用了数据绑定驱动来操作dom的,也就是说创建了view和model之间的绑定后,当model数据层发生变化时,view的dom就会发生相应变化. mvvm即是model-view-viewmodel,model和view之间的衔接交互都是通过viewmodel来实现的.viewmodel就是创建一个vue实例,vue实例是作用于某一个dom元

如何快速确定需求的技术实现方案

我们会在哪些地方耗费大量的时间 压缩需求确认时间的矛与盾做项目的时候,一方面我们希望能够快速明确需求,开始投入开发,使产品能够尽快上线:另一方面,我们又深知需求会随着时间的推移越来越明确,就下意识的拖长这个流程. 需求细节的确认需求应该确认到多细才合适?如何把握这个粒度? 方案优与劣的选择这是最难的一个环节.目前仅靠个人经验和记忆力来做出判断,其实是很不保险的.因为有时候自己会不了解自己的局限性,给出的选择在另一方面就会出现问题. 外部接口的测试和沟通需要注意两个地方: 第一是和其他部门沟通的方

世界正在快速变化

变化是科技的常态.变化会让新技术层出不穷,而围绕新技术会产生新的经济形态,确立一种新的游戏规则,孕育出新的生机,也意味着旧事物的消亡,例如新兴公司的崛起与传统公司的衰退. 如果我们观察每次变化的本质,就会发现每一次的变革都是缘于追求便利性而产生的广泛性.这也就是为什么微软会抛弃DOS转而做Windows 3.0,因为它从程序控变成图形控,简化到普通用户都可以使用:这也就是为什么平板电脑会在PC之后快速增长,因为它不仅携带方便,而且更易用:这也就是为什么智能手机会引爆一场产业革命,因为终端设备不再

SSAS处理快速变化维(Quickly Changing Dimension)的一种思路

快速变化维(QCD)是相对于缓慢变化维(SCD)而言的,像[会员维度]里的[会员级别]这类变更不是很频繁的维度属性就属于SCD,而像[年龄].[最后交易日期]这类变更频繁的维度显然不能以SCD的思路去解决问题,SCD能处理的维度通常都在oltp库里通常会做Change_Log,例如会员升级降级的时间点会在生产库做记录,但像[年龄].[最后交易日期]这类维度如果也在oltp库做记录很快就会维度表爆炸,说到这里看官可能会对年龄这个维度有些疑问:为什么不用交易表里的交易时间来算“当时年龄”呢?不要着急

Nginx与Apache相比有哪些优势

Nginx作为HTTP服务软件的后起之秀,由于具有更好的稳定性和高效性,近年来已被越来越多的大中小网站所使用.而传统的LAMP网络架构组合也逐渐被LNMP(或者LEMP,其中的E取自"engine x")所取代.与Apache相比,Nginx的优势主要表现在以下三个方面: 性能 Nginx支持更多的并发连接和更快的响应速度,尤其是在静态小文件业务环境中,能够支持高达几万并发连接:在系统资源占用方面,Nginx消耗得更少,例如在3万并发连接下,开启10个Nginx线程消耗的内存不到200