03.08 阿里巴巴和华为都自研了ai芯片,谁的比较厉害?

财经好文章分享


没有评测数据是说不清的,但从长远看,阿里自身业务是需要ai芯片的,也就是自身有明确丰富的应用场景,这对于芯片的迭代设计和可持续优化有非常大优势。


沙哈拉沙漠一粒沙


这个问题是我在阿里发布含光800那天就想问的,并且为了得出结果,我特意查了很多资料,最后得出一个结论:

这两款芯片是用于不同的场景的,所以无法直接比较,谁都打不了谁的脸,你也无法去证明!

先说说含光800,据阿里的说法,这是目前全球最强的AI芯片,因为在业界标准的ResNet-50测试中,含光800推理性能达到78563 IPS,即每秒能处理7.8万张照片,比目前业界最好的AI芯片性能高4倍。而在能效比上,更是做到了最顶级,达到了500 IPS/W,是第二名的3.3倍。

你能够看到的最直接的性能介绍在这里,并且说1颗顶10颗,4颗芯片能够完成别人40颗芯片的工作量,且性能更好。

而华为的昇腾910,按华为的说法,昇腾910计算力可达到 256TFOPS,比英伟达 Tesla V100 还要高出一倍。它的AI算力水平是国际顶尖AI芯片的2倍,其训练速度也比当前最新最强的芯片提升了50%-100%。

可见华为是重于算力计算,而阿里则是重于场景处理,比如图片处理,还真可能是不同的芯片类型,所以你是无法比较的。

不过我有另外一个办法来比,可以侧面证明阿里或许比华为的要强,因为阿里含光800说自己比业界最好的AI芯片性能高4倍,而昇腾910是国际顶尖AI芯片的2倍。

一个是最强的4倍,一个是最强的2倍,这样是不是比较出来了,所以说,阿里说自己是全球最强的AI芯片,可能还真没有吹牛。

不过说真的,对于国内动不动就说自己是全球第一,甚至还N项全球第一,全面面吊打友商,把友商按在地上狠狠摩擦的这种说法,我是持保守态度的


互联网乱侃秀


当然,阿里巴巴的含光800也不容小觑,含光800是阿里巴巴研发的高性能的AI推理芯片。该芯片推理性能达到78563 IPS,能效比500 IPS/W,是目前最强的推理芯片之一。


但是含光和华为的昇腾系列芯片实际上是两个范畴,昇腾主要侧重点在训练,而含光的主要侧重点在推理。训练和推理有什么不同呢?简单的说,如果是要用AI识别这个动物是一条狗,训练可以通过AI教会深度学习网络正确地标注一个有限集里面狗的图像特征是如何,然后该训练的结果可被用于检测更广泛世界里面的狗。


一般来说,训练需要海量的数据、密集的计算,所以AI训练很难通过智能手机完成,但是推理不是,推理是根据训练的结果对真实的世界进行再识别,所以推理不需要那么大的算力,现在很多智能手机的NPU的AI能力,那就是推理的能力。所以,对于AI来说,当前训练更加重要,需要的算力也越大,而推理相对简单一些。


这么说来,华为的AI芯片的含金量是高于阿里巴巴的AI芯片的,这个是由场景所需的能力决定的。

但是,这当然不意味着阿里巴巴的含光800的重要性不如华为,推理未来会很重要。IDC认为, 人工智能的算力分布将呈现 “二八法则” ,在早期阶段80%的算力集中在训练场景,在未来的大规模应用阶段80%的算力将集中在推理场景。


从另一方面来说,华为的昇腾系列芯片已经大规模商用,不但已经成功的商用于华为自己的

Atlas人工智能计算平台,还开放给了全国的开发者使用。比如汇医慧影就利用华为的AI能力,自研的CT肺结节算法在MPO全球AI算法大赛中高分夺冠。

从商用上来说,华为的芯片已经领先于阿里巴巴,已经在为我们提供服务,发布就能商用这点是华为的优势。阿里巴巴的含光自从发布后,目前除了内部使用,没听说大规模商用,这点也是不如华为


可能还有很多朋友觉得我的看法有失偏颇,我们可以看看全球第三方的评估。2019年Compass Intelligence在AI芯片组指数排名中,华为全球排名第7,阿里前二十都没有进入,谁更强一些自然而然的清楚了,国外的评测是不会管国内宣传的如何轰轰烈烈的。


所以,如果硬要比AI芯片的能力,华为毫无疑问是强于阿里巴巴。不过阿里巴巴才开始做芯片,假以时日,必然也会在全球AI芯片格局中占据一席之地。


IT老菜鸟


阿里芯片不可能和华为比,也没有办法和华为比,为什么呢,一个是技术出身的团体,一个是商人出生的财阀集团,但是名声很大,但是储备人才太少,杂牌军不可能和正规军比,大家都知道,有些人才不可能拿钱咋出来,所以现在阿里和华为没有办法比,但是在过20年有可能阿里芯片好,


夜市报道


阿里的含光800和华为的昇腾910都属于AI芯片,但是应用领域却有较大的区别。含光800是一款更加偏重于专用领域的产品;昇腾910相对通用一些,可以用作AI学习训练,两者的应用范围和设计目标存在较大差别。在AI计算刚刚兴起的今天,不管是阿里巴巴还是华为,各家厂商的AI芯片并没有统一的标准,突破也大多在特定落地领域,所以可比性并不强,实际效果和使用场景也息息相关,无法直接对比谁比谁厉害。

不过阿里和华为的两款AI芯片的愿景差不多,两款芯片产品短时间内都不会对外销售,只会大规模部署在自家云服务和相应的产品里,开发者只需要为算力付费即可。今后云服务就会是IT产业的水电煤,谁家的电线可以拉到山沟沟里去,谁家电的上网价最便宜,谁就会到得到最大的市场。

如果真要拿出一些数据来对比的话,含光800芯片在ResNet-50的推理性能可以达到78,563 IPS,这属于创世界记录的性能表现,顶着“全球最高性能AI推理芯片”的光环;华为昇腾910则属于通用性AI处理器,半精度(FP16)算力达256 TFLOPS,是业界的两倍;推理的昇腾310,整型(INT8)算力16 TOPS,功耗仅8W,在业界居于领先地位。


嘟嘟聊数码


首先说一下,阿里巴巴首款AI芯片:含光800

阿里巴巴2019云栖大会开幕首日,平头哥发布阿里巴巴第一款芯片含光800,,

含光,正是《列子·汤问》中孔周三大神剑之一。

至此,平头哥集齐AI芯片(含光800)、高性能处理器IP(玄铁系列)和一站式芯片设计平台(无剑SoC平台),端云一体全栈芯片产品家族的雏形已然显现。

阿里巴巴CTO张建锋说,含光芯片是万里长征的第一步,阿里今后会成为一家真正软硬件一体化协同发展的科技公司。

国外有英特尔青睐周边的山川河流,AMD曾钟情于F1赛道;国内华为对高山和古籍情有独钟,紫光展锐看上了动植物所承载的意象,而平头哥则继承了马云对武侠文化的热爱,玄铁、无剑、含光三芯片产品连发,每款都是传说中的利剑。

据现场介绍,在业界标准的ResNet-50测试中,含光800推理性能达到78563 IPS,比目前业界最好的AI芯片性能高4倍;能效比500 IPS/W,是第二名的3.3倍。在杭州城市大脑的业务测试中,1颗含光800的算力相当于10颗GPU。

含光800采用平头哥自研芯片架构,集成达摩院算法,配以自动化开发工具。其顶层架构采用四核设计,任一NPU Core坏死,都不会影响芯片工作。

第一颗NPU的业务定位

因此阿里推出含光800芯片应对目前的市场问题。阿里巴巴达摩院研究院焦阳(骄旸)谈起这样一颗NPU的业务定位。

阿里巴巴达摩院研究院焦阳(骄旸)

骄旸表示,阿里做芯片,不仅是理论上的研究,还有实践的探索。对于阿里第一颗NPU的业务定位,他提到这三个方面:CNN类模式推理加速为主;通用可扩展道其他DNN模型;应用于数据中心、大型端上。

谈及为什么要做云上大芯片。骄旸称,阿里云计算业务在快速增长,处于国内领先地位。通过对硬件的设计帮助快速拓展业务,降低成本是非常核心的一步,云计算走到今天,没有硬核很难走下去。

“我们希望能够用很高算例的水平去做NPU。最重要的目的就是实现计算额突破,降低云计算成本。其中痛点就是算例,其成本要求很高,而传统计算平台很难满足要求。因此阿里想用技术带来新的业务能力,希望能够带来别人没有的功能。没有办法做的事,可以通过芯片去解决。”说做含光800的初心,骄旸给出了这样的回应。

想要做好一款AI芯片并不容易,无论事阿里巴巴还是业界,AI芯片第一步要做的是训练,而第二步是推理。传统的互联网公司主要做搜索,广告。而阿里除了这些还有很丰富的视觉类领域,比如淘宝图片搜索,智能城市,智能工厂,更多用到CNN类模型,因此阿里以CNN类模式推理加速为主。

含光800中集成了达摩院算法,深度优化CNN网络及视觉DNN模型,有效提升了视觉计算效率。

骄旸介绍了第一颗NPU的业务定位,CNN类模型推理加速为主,通用可扩展到其他DNN模型,主要应用于数据中心、大型端上。

例如,阿里的业务中,城市大脑、工业大脑、图像视频审核、图像视频标注、图文搜索等擅长基于CNN的算法加速,搜索推荐、广告、语音客服、自动翻译等则通用其他DNN模型。

接下来再说下华为AI芯片

实际上,在这次「 全球最强 」的一个月前,华为也在深圳正式发布了号称「 史上最强 」的 NPU 芯片昇腾 910。

算力最强!华为最新AI芯片昇腾910面世

华为8月23日在深圳正式推出号称算力最强的AI芯片Ascend910(昇腾910),以及全场景AI计算框架MindSpore。华为公司轮值董事长徐直军称,在今年9月即将开幕的华为全联接大会上,还有更多的AI新品面世。

自2018年10月以来,华为的AI战略稳步而有序地推进。此次正式发布的AI芯片是昇腾910,属于Ascend-max系列。华为称,实际测试结果显示,在算力方面,昇腾910所需功耗仅310W,低于设计规格的350W。“昇腾910总体技术表现超出预期,作为算力最强AI处理器,当之无愧。”华为公司轮值董事长徐直军表示,已经把昇腾910用于实际AI训练任务。面向未来,针对不同的场景,包括边缘计算、自动驾驶车载计算、训练等场景,华为将持续投资,推出更多的AI处理器。

徐直军在会上重申了华为公司的AI战略。他说,华为定位AI是一种新的通用目的技术,如同19世纪的铁路和电力,以及20世纪的汽车、电脑、互联网一样,将应用到经济的几乎所有地方。同时华为也认为AI的应用总体还处于发展初期,AI技术和能力相比于长远期望还有很大差距。减小甚至消除这些差距,加速AI的应用,正是华为AI战略的初衷和目标。

未来华为AI将促成十个方面的改变,包括通过提供更强的算力,使复杂模型训练能在几分钟、甚至几秒钟内完成;提供更经济、更充裕的算力,让算力不再稀缺、不再昂贵;通过全场景方案,适应企业不同需要,确保用户隐私得到尊重和保护,让AI能够部署在任何场景,而不仅仅是公有云;投资基础AI算法研究,实现更少的数据需求,即数据高效等。

哪个为真?华为阿里都称推出全球最强AI芯片

9月25日,在阿里2019云栖大会上,阿里CTO张建锋推出了阿里首款AI芯片「含光800」。张建锋说,这是全球最高性能的AI推理芯片,一块含光800相当于10块GPU,峰值性能为7.8万IPS(每秒能处理7.8万张照片),比目前业界最好的AI芯片性能高4倍,峰值能效达到500IPS/W,是第二名的3.3倍。含光为上古三大神剑之一,该剑含而不露,光而不耀。

但是有些网友表示,华为前不久发布了AI芯片昇腾910,当时也号称是全球算力最强,到底哪个才是真的?

按照华为说法,昇腾910计算力可达到256TFOPS,比英伟达TeslaV100还要高出一倍。它的AI算力水平是国际顶尖AI芯片的2倍,其训练速度也比当前最新最强的芯片提升了50%-100%。

事实上,把华为和阿里的AI芯片直接做对比,并不是特别合适,因为它们的用途不一样,华为昇腾910主要是用来「训练」的,而阿里含光800主要是用来「推理」。打个比方,那个会下围棋的「阿法狗」,教会阿法狗下棋是训练(用类似昇腾910的芯片),阿法狗下棋时用根据对手李世石每一步棋不断「推断」(用类似含光800的芯片)自己接下来该怎么下。

AI芯片分类

通常,AI芯片的分类通常有两维度:承担任务(训练、推理)和部署位置(云端、终端)。

维度1:承担任务(训练、推理)

一项深度学习工程的搭建,可分为训练(training)和推断(inference)两个环节:

环节一:训练环境通常需要通过大量的数据输入,或采取增强学习等非监督学习方法,训练出一个复杂的深度神经网络模型。训练过程由于涉及海量的训练数据(大数据)和复杂的深度神经网络结构,需要的计算规模非常庞大,华为的昇腾910就是专门用来训练模型的。

环节二:推断(inference)环节指利用训练好的模型,使用新的数据去"推断"出各种结论,如视频监控设备通过后台的深度神经网络模型,判断一张抓拍到的人脸是否属于黑名单。虽然推断环节的计算量相比训练环节少,但仍然涉及大量的矩阵运算,阿里含光800主要是用来「推理」的。

训练芯片,注重绝对的计算能力,而推断芯片更注重综合指标,单位能耗算力、时延、成本等都要考虑。训练将在很长一段时间里集中在云端,推理的完成目前也主要集中在云端,但随着越来越多厂商的努力,很多的应用将逐渐转移到终端。(昇腾910、含光800都部署在云端)

维度2:部署位置(云端、终端)

AI芯片部署的位置有两种:云端、终端,所以根据部署的位置不同,AI芯片可以分为:云AI芯片、端AI芯片。

云端,即数据中心,在深度学习的训练阶段需要极大的数据量和大运算量,单一处理器无法独立完成,因此训练环节只能在云端实现。

终端,即手机、安防摄像头、汽车、智能家居设备、各种IoT设备等执行边缘计算的智能设备。终端的数量庞大,而且需求差异较大。

云AI芯片的特点是性能强大、能够同时支持大量运算、并且能够灵活地支持图片、语音、视频等不同AI应用。基于云AI芯片的技术,能够让各种智能设备和云端服务器进行快速的连接,并且连接能够保持最大的稳定。

端AI芯片的特点是体积小、耗电少,而且性能不需要特别强大,通常只需要支持一两种AI能力。相比于云AI芯片来说,端AI芯片是需要嵌入进设备内部的,当在设备内部中嵌入了端AI芯片之后,能够让设备的AI能力进一步提升,并且让设备在没有联网的情况之下也能够使用相应的AI能力,这样AI的覆盖变得更为全面。

最后得出一个结论:

这两款芯片是用于不同的场景的,所以无法直接比较,谁都打不了谁的脸,你也无法去证明!


游戏人超超


华为的芯片,不管是手机的麒麟,还是服务器的鲲鹏,还是其他视频解码芯片,出货都几亿片了,是切切实实用在几亿台不同设备上,阿里只是发布了一个芯片,连阿里自己都没开始用吧,这比个鸡毛啊


桂林郡太守


首先非常感谢在这里能为你解答这个问题,让我带领你们一起走进这个问题,现在让我们一起探讨一下。

这个问题是我在阿里发布含光800那天就想问的,并且为了得出结果,我特意查了很多资料,最后得出一个结论:

这两款芯片是用于不同的场景的,所以无法直接比较,谁都打不了谁的脸,你也无法去证明!

先说说含光800,据阿里的说法,这是目前全球最强的AI芯片,因为在业界标准的ResNet-50测试中,含光800推理性能达到78563 IPS,即每秒能处理7.8万张照片,比目前业界最好的AI芯片性能高4倍。而在能效比上,更是做到了最顶级,达到了500 IPS/W,是第二名的3.3倍。

你能够看到的最直接的性能介绍在这里,并且说1颗顶10颗,4颗芯片能够完成别人40颗芯片的工作量,且性能更好。

而华为的昇腾910,按华为的说法,昇腾910计算力可达到 256TFOPS,比英伟达 Tesla V100 还要高出一倍。它的AI算力水平是国际顶尖AI芯片的2倍,其训练速度也比当前最新最强的芯片提升了50%-100%。

可见华为是重于算力计算,而阿里则是重于场景处理,比如图片处理,还真可能是不同的芯片类型,所以你是无法比较的。

不过我有另外一个办法来比,可以侧面证明阿里或许比华为的要强,因为阿里含光800说自己比业界最好的AI芯片性能高4倍,而昇腾910是国际顶尖AI芯片的2倍。

一个是最强的4倍,一个是最强的2倍,这样是不是比较出来了,所以说,阿里说自己是全球最强的AI芯片,可能还真没有吹牛。

不过说真的,对于国内动不动就说自己是全球第一,甚至还N项全球第一,全面面吊打友商,把友商按在地上狠狠摩擦的这种说法,我是持保守态度的

在以上的分享关于这个问题的解答都是个人的意见与建议,我希望我分享的这个问题的解答能够帮助到大家。

在这里同时也希望大家能够喜欢我的分享,大家如果有更好的关于这个问题的解答,还望分享评论出来共同讨论这话题。

我最后在这里,祝大家每天开开心心工作快快乐乐生活,健康生活每一天,家和万事兴,年年发大财,生意兴隆,谢谢!



IT资讯


首先说一下,阿里巴巴首款AI芯片:含光800

阿里巴巴2019云栖大会开幕首日,平头哥发布阿里巴巴第一款芯片含光800,,

含光,正是《列子·汤问》中孔周三大神剑之一。

至此,平头哥集齐AI芯片(含光800)、高性能处理器IP(玄铁系列)和一站式芯片设计平台(无剑SoC平台),端云一体全栈芯片产品家族的雏形已然显现

阿里巴巴CTO张建锋说,含光芯片是万里长征的第一步,阿里今后会成为一家真正软硬件一体化协同发展的科技公司。

国外有英特尔青睐周边的山川河流,AMD曾钟情于F1赛道;国内华为对高山和古籍情有独钟,紫光展锐看上了动植物所承载的意象,而平头哥则继承了马云对武侠文化的热爱,玄铁、无剑、含光三芯片产品连发,每款都是传说中的利剑。

据现场介绍,在业界标准的ResNet-50测试中,含光800推理性能达到78563 IPS,比目前业界最好的AI芯片性能高4倍;能效比500 IPS/W,是第二名的3.3倍。在杭州城市大脑的业务测试中,1颗含光800的算力相当于10颗GPU。含光800采用平头哥自研芯片架构,集成达摩院算法,配以自动化开发工具。其顶层架构采用四核设计,任一NPU Core坏死,都不会影响芯片工作。

第一颗NPU的业务定位

因此阿里推出含光800芯片应对目前的市场问题。阿里巴巴达摩院研究院焦阳(骄旸)谈起这样一颗NPU的业务定位。

阿里巴巴达摩院研究院焦阳(骄旸)

骄旸表示,阿里做芯片,不仅是理论上的研究,还有实践的探索。对于阿里第一颗NPU的业务定位,他提到这三个方面:CNN类模式推理加速为主;通用可扩展道其他DNN模型;应用于数据中心、大型端上。

谈及为什么要做云上大芯片。骄旸称,阿里云计算业务在快速增长,处于国内领先地位。通过对硬件的设计帮助快速拓展业务,降低成本是非常核心的一步,云计算走到今天,没有硬核很难走下去。

“我们希望能够用很高算例的水平去做NPU。最重要的目的就是实现计算额突破,降低云计算成本。其中痛点就是算例,其成本要求很高,而传统计算平台很难满足要求。因此阿里想用技术带来新的业务能力,希望能够带来别人没有的功能。没有办法做的事,可以通过芯片去解决。”说做含光800的初心,骄旸给出了这样的回应。

想要做好一款AI芯片并不容易,无论事阿里巴巴还是业界,AI芯片第一步要做的是训练,而第二步是推理。传统的互联网公司主要做搜索,广告。而阿里除了这些还有很丰富的视觉类领域,比如淘宝图片搜索,智能城市,智能工厂,更多用到CNN类模型,因此阿里以CNN类模式推理加速为主。

含光800中集成了达摩院算法,深度优化CNN网络及视觉DNN模型,有效提升了视觉计算效率。

骄旸介绍了第一颗NPU的业务定位,CNN类模型推理加速为主,通用可扩展到其他DNN模型,主要应用于数据中心、大型端上。

例如,阿里的业务中,城市大脑、工业大脑、图像视频审核、图像视频标注、图文搜索等擅长基于CNN的算法加速,搜索推荐、广告、语音客服、自动翻译等则通用其他DNN模型。


接下来再说下华为AI芯片

实际上,在这次「 全球最强 」的一个月前,华为也在深圳正式发布了号称「 史上最强 」的 NPU 芯片昇腾 910。

算力最强!华为最新AI芯片昇腾910面世

华为8月23日在深圳正式推出号称算力最强的AI芯片Ascend910(昇腾910),以及全场景AI计算框架MindSpore。华为公司轮值董事长徐直军称,在今年9月即将开幕的华为全联接大会上,还有更多的AI新品面世。

自2018年10月以来,华为的AI战略稳步而有序地推进。此次正式发布的AI芯片是昇腾910,属于Ascend-max系列。华为称,实际测试结果显示,在算力方面,昇腾910所需功耗仅310W,低于设计规格的350W。“昇腾910总体技术表现超出预期,作为算力最强AI处理器,当之无愧。”华为公司轮值董事长徐直军表示,已经把昇腾910用于实际AI训练任务。面向未来,针对不同的场景,包括边缘计算、自动驾驶车载计算、训练等场景,华为将持续投资,推出更多的AI处理器。

徐直军在会上重申了华为公司的AI战略。他说,华为定位AI是一种新的通用目的技术,如同19世纪的铁路和电力,以及20世纪的汽车、电脑、互联网一样,将应用到经济的几乎所有地方。同时华为也认为AI的应用总体还处于发展初期,AI技术和能力相比于长远期望还有很大差距。减小甚至消除这些差距,加速AI的应用,正是华为AI战略的初衷和目标。

未来华为AI将促成十个方面的改变,包括通过提供更强的算力,使复杂模型训练能在几分钟、甚至几秒钟内完成;提供更经济、更充裕的算力,让算力不再稀缺、不再昂贵;通过全场景方案,适应企业不同需要,确保用户隐私得到尊重和保护,让AI能够部署在任何场景,而不仅仅是公有云;投资基础AI算法研究,实现更少的数据需求,即数据高效等。

哪个为真?华为阿里都称推出全球最强AI芯片

9月25日,在阿里2019云栖大会上,阿里CTO张建锋推出了阿里首款AI芯片「含光800」。张建锋说,这是全球最高性能的AI推理芯片,一块含光800相当于10块GPU,峰值性能为7.8万IPS(每秒能处理7.8万张照片),比目前业界最好的AI芯片性能高4倍,峰值能效达到500IPS/W,是第二名的3.3倍。含光为上古三大神剑之一,该剑含而不露,光而不耀。

但是有些网友表示,华为前不久发布了AI芯片昇腾910,当时也号称是全球算力最强,到底哪个才是真的?

按照华为说法,昇腾910计算力可达到256TFOPS,比英伟达TeslaV100还要高出一倍。它的AI算力水平是国际顶尖AI芯片的2倍,其训练速度也比当前最新最强的芯片提升了50%-100%。

事实上,把华为和阿里的AI芯片直接做对比,并不是特别合适,因为它们的用途不一样,华为昇腾910主要是用来「训练」的,而阿里含光800主要是用来「推理」。打个比方,那个会下围棋的「阿法狗」,教会阿法狗下棋是训练(用类似昇腾910的芯片),阿法狗下棋时用根据对手李世石每一步棋不断「推断」(用类似含光800的芯片)自己接下来该怎么下。

AI芯片分类

通常,AI芯片的分类通常有两维度:承担任务(训练、推理)和部署位置(云端、终端)。

维度1:承担任务(训练、推理)

一项深度学习工程的搭建,可分为训练(training)和推断(inference)两个环节:

环节一:训练环境通常需要通过大量的数据输入,或采取增强学习等非监督学习方法,训练出一个复杂的深度神经网络模型。训练过程由于涉及海量的训练数据(大数据)和复杂的深度神经网络结构,需要的计算规模非常庞大,华为的昇腾910就是专门用来训练模型的。

环节二:推断(inference)环节指利用训练好的模型,使用新的数据去"推断"出各种结论,如视频监控设备通过后台的深度神经网络模型,判断一张抓拍到的人脸是否属于黑名单。虽然推断环节的计算量相比训练环节少,但仍然涉及大量的矩阵运算,阿里含光800主要是用来「推理」的。

训练芯片,注重绝对的计算能力,而推断芯片更注重综合指标,单位能耗算力、时延、成本等都要考虑。训练将在很长一段时间里集中在云端,推理的完成目前也主要集中在云端,但随着越来越多厂商的努力,很多的应用将逐渐转移到终端。(昇腾910、含光800都部署在云端)

维度2:部署位置(云端、终端)

AI芯片部署的位置有两种:云端、终端,所以根据部署的位置不同,AI芯片可以分为:云AI芯片、端AI芯片。

云端,即数据中心,在深度学习的训练阶段需要极大的数据量和大运算量,单一处理器无法独立完成,因此训练环节只能在云端实现。

终端,即手机、安防摄像头、汽车、智能家居设备、各种IoT设备等执行边缘计算的智能设备。终端的数量庞大,而且需求差异较大。

云AI芯片的特点是性能强大、能够同时支持大量运算、并且能够灵活地支持图片、语音、视频等不同AI应用。基于云AI芯片的技术,能够让各种智能设备和云端服务器进行快速的连接,并且连接能够保持最大的稳定。

端AI芯片的特点是体积小、耗电少,而且性能不需要特别强大,通常只需要支持一两种AI能力。相比于云AI芯片来说,端AI芯片是需要嵌入进设备内部的,当在设备内部中嵌入了端AI芯片之后,能够让设备的AI能力进一步提升,并且让设备在没有联网的情况之下也能够使用相应的AI能力,这样AI的覆盖变得更为全面。


最后得出一个结论:

这两款芯片是用于不同的场景的,所以无法直接比较,谁都打不了谁的脸,你也无法去证明!


Tech数码科技爱好者


还是华为更厉害,厉害的不知一点。推理芯片难度不大,都是有规律的运算。对于某种固定场景。很容易达到很高性能。训练芯片比较难,华为用了很多世界最先进技术。难度不是一个级别。阿里主要用于人脸识别等单一场景,容易做到高性能


分享到:


相關文章: