单颗GPU计算能力太多、太贵?阿里云发布云上首个轻量级GPU实例

摘要: 阿里云发布了国内首个公共云上的轻量级GPU异构计算产品——VGN5i实例,该实例打破了传统直通模式的局限,可以提供比单颗物理GPU更细粒度的服务,从而让客户以更低成本、更高弹性开展业务。

在硅谷举办的2019年NVIDIA GPU技术大会(GTC)上,阿里云发布了国内首个公共云上的轻量级GPU异构计算产品——VGN5i实例,该实例打破了传统直通模式的局限,可以提供比单颗物理GPU更细粒度的服务,从而让客户以更低成本、更高弹性开展业务。

在该实例发布之前,业内均采用以单颗物理GPU为单位的云端异构计算服务,这有利于客户获得强有力的计算能力。如阿里云在2017年10月推出了业界最全的异构计算家族,以及基于一个异构平台的高性能计算平台E-HPC,为用户提供单颗起步至超大规模的弹性计算服务。当用户业务遇到业务高峰时可以在数分钟内实现扩容,大幅降低了企业使用异构计算能力的门槛,目前已服务于新浪微博、旷视科技、中国工程院等众多企业和机构。

然而,在不少使用异构计算服务的场景中,“计算资源过剩”问题也尤为明显。以云游戏为例,企业通常仅需要一颗物理GPU几分之一的计算能力即可流畅完成图形或视觉计算;人工智能领域也存在类似问题,深度学习推理场景对GPU的计算资源消耗可能仅仅是训练阶段的数十分之一,甚至更少。对于这类应用场景而言,轻量级计算异构产品可以提升系统灵活性,并大幅降低成本。

而阿里云本次首家提供云上轻量级GPU实例,意味着用户可以用更细粒度的计算资源开启业务。该产品基于NVIDIA Tesla P4 GPU,支持多种规格,企业可以按需选择实例规格或者在云市场选择NVIDIA Quadro虚拟工作站,适用于云游戏、AR/VR以及图形处理等随需应变的GPU计算场景。

阿里云表示,5月还将发布基于NVIDIA T4的GPU异构计算产品VGN6i实例,NVIDIA T4采用最新的Turing架构,在虚拟化环境中更为灵活,可加速深度学习和推理工作流程的Tensor Core,以及可加速光线追踪和批量渲染的RT Core。

该产品由阿里云与NVIDIA合作研发,集成了阿里云智能资源调度技术,用户可以按需选择适量的计算资源;同时,还采用了安全隔离技术,实现不同用户之间的强隔离,有效防止信息泄漏;除此之外,QoS控制技术保障了每个用户的GPU资源不被其他租户抢占。

阿里云智能异构计算产品专家张新涛表示,“随着轻量级GPU异构计算产品的推出,阿里云实现了GPU的异构计算场景全覆盖,可以为用户提供从从轻量到高性能计算的服务。”

云端异构计算并非单纯地堆积硬件性能,需要做深度的软硬件结合及优化才能发挥其性能优势。阿里巴巴集团在异构计算领域拥有多年研发经验,该技术大规模应用于拍立淘、商品分类等场景。

作为全球前三、国内第一的云服务商,阿里云拥有丰富的异构计算产品,具备智能调度、自动运维、实时扩容等能力,结合业界首个自研的异构计算加速框架Ali-Perseus,可以同时支持TensorFlow、Caffe、MxNet、Pytorch等流行机器学习框架在集群训练和推理时的加速,最高可以将深度学习任务成本降低50%以上。
2018年12月,在斯坦福大学发布的最新DAWNBench深度学习推理榜单,阿里云异构计算获得了图像识别性能及成本双料冠军。

直播观看地址:https://yq.aliyun.com/live/938
查看产品VGN5i:https://www.aliyun.com/product/ecs/gpu
VGN5i·释放GPU计算新动力:https://promotion.aliyun.com/ntms/act/vgpu.html
阿里云新品发布会频道:https://promotion.aliyun.com/ntms/act/cloud/product.html
阿里云新品发布·周刊:https://yq.aliyun.com/publication/36



本文作者:云攻略小攻

原文链接

本文为云栖社区原创内容,未经允许不得转载。

原文地址:https://www.cnblogs.com/zhaowei121/p/10711030.html

时间: 2024-10-13 16:48:18

单颗GPU计算能力太多、太贵?阿里云发布云上首个轻量级GPU实例的相关文章

阿里云异构计算发布:轻量级GPU云服务器实例VGN5i

阿里云发布了国内首个公共云上的轻量级GPU异构计算产品--VGN5i实例,该实例打破了传统直通模式的局限,可以提供比单颗物理GPU更细粒度的服务,从而让客户以更低成本.更高弹性开展业务.适用于云游戏.VR/AR.AI推理和DL教学等轻量级GPU计算场景,更细粒度的GPU计算服务. 轻量级GPU云服务器是什么? 轻量级GPU云服务器是一种新的GPU云服务器规格族,是通过公共云的GPU虚拟化技术将分片虚拟化后的GPU资源以虚拟GPU的形式安装在GPU云服务器实例中.与常规GPU云服务器的区别在轻量级

方這太天真太不現實只

方這太天真太不現實只方這太天真太不現實只方這太天真太不現實只方這太天真太不現實只方這太天真太不現實只方這太天真太不現實只方這太天真太不現實只方這太天真太不現實只方這太天真太不現實只方這太天真太不現實只方這太天真太不現實只方這太天真太不現實只方這太天真太不現實只方這太天真太不現實只方這太天真太不現實只方這太天真太不現實 http://p.sfacg.com/p/6299841/http://p.sfacg.com/p/6287948/http://p.sfacg.com/p/6287952/htt

应用于3D图形制作环境的_JITStack轻量级GPU云桌面

在云桌面领域,按照图形制作需求可区分出两大业务场景,一种场景是以普通办公.代码编写等文字类操作为主的非专业图形场景,另一种是以3D设计,视频编辑等图形类操作为主的专业图形制作场景(GPU云桌面),这两类场景对基础硬件要求有很明显的差异,因此被区分的很清晰,管理员也很容易的知道自己需要搭建什么样的基础环境来满足业务场景的需求.然而,有一类业务场景一直以来难以被界定是否为GPU云桌面场景,以至于被云桌面厂商与云桌面用户忽视至今,这就是以AutoCAD.PS.AI等平面设计类业务为主的图像操作场景.这

在windows上极简安装GPU版AI框架(Tensorflow、Pytorch)

在windows上极简安装GPU版AI框架 如果我们想在windows系统上安装GPU版本的AI框架,比如GPU版本的tesnorflow,通常我们会看到类似下面的安装教程 官方版本 安装CUDA 安装cuDNN 配置环境变量 安装python环境 安装gpu版的tensorflow开发包 咋看上去好像不是很复杂,但是其中坑多到你怀疑人生. 下载的cuDNN时候需要注册,而且因为cuDNN文件在外网,下载速度很慢. 比如不同版本的tensorflow和CUDA(cuDNN)的版本是有匹配关系的,

在windows上极简安装GPU版AI框架

在windows上极简安装GPU版AI框架 如果我们想在windows系统上安装GPU版本的AI框架,比如GPU版本的tesnorflow,通常我们会看到类似下面的安装教程 官方版本 安装CUDA 安装cuDNN 配置环境变量 安装python环境 安装gpu版的tensorflow开发包 咋看上去好像不是很复杂,但是其中坑多到你怀疑人生. 下载的cuDNN时候需要注册,而且因为cuDNN文件在外网,下载速度很慢. 比如不同版本的tensorflow和CUDA(cuDNN)的版本是有匹配关系的,

对比Linux,OS X系统相关的靠谱的文档实在太少太少,所以看了看苹果官方提供的Mac Technology Overview

一直对操作系统有兴趣,可惜水平太次(鄙人搞软件测试的,平时看代码多写代码少): 现在整理了一下OS X系统的IPC(进程间通信)方式,按照官方的说法,竟然有10+种: 关于不同IPC方式的总结,很重要:

ionic2常见问题——cordova使用Gradle构建下载maven太慢,使用阿里云镜像

问题描述 当我们写完ionic2项目准备打包app时(暂时介绍android) 执行命令ionic build android的时候下载maven太慢,cmd命令行工具来下载经常会出现假死状态(下载超时),主要原因有可能时国外下载比较慢(但用迅雷却很快 汗(lll¬ω¬)). 解决方案 1.修改build.gradle: buildscript { repositories { maven{ url 'http://maven.aliyun.com/nexus/content/groups/pu

你的焦虑迷茫真的不是因为太懒太闲?

年轻的时候,所有人都曾有过迷茫. 年纪大了才发现,那些迷茫的东西本身并不重要,最重要的是因为迷茫浪费了太多的时间. 世界上没有一份工作是不痛苦的,与其每天想着自己的领导太恶心,同事太糟,工资太低,上班太远,不如沉下心低下头把眼前的事情做好. 抱怨不能给你带来任何你想要的积极成果,只会让现实越变越糟. 我们有太多野心,也有太多梦想. 有人说梦想之所以称为梦想,是因为它永远都实现不了. 如果什么都不做而只是迷茫和幻想,那梦想确实永远无法实现. 但如果能勇敢的迈出脚步,真正的尝试和行动起来,人人都会看

cordova使用Gradle构建下载maven太慢,使用阿里云镜像

修改build.gradle: buildscript { repositories { maven{ url 'http://maven.aliyun.com/nexus/content/groups/public/'} } } allprojects { repositories { maven{ url 'http://maven.aliyun.com/nexus/content/groups/public/'} } }