Habana携超强AI芯片入局,向CPU、GPU大鳄亮剑

518白菜版

2019-07-11

egg:Habana携超强AI芯片入局┪╊┵╊┼╊╤╊,向CPU╙╊、GPU大鳄亮剑

Habana携超强AI芯片入局╞╊╀╊╜╊,向CPU╗╊╖╊┵╊┹╊┵╊、GPU大鳄亮剑 Habana携超强AI芯片入局╡╊╫╊┼╊╖╊┩╊,向CPU╧╊、GPU大鳄亮剑 54x18 - 26KB-jpg

芯片及解决方案┪╊,分别用于推理和训练╛╊╜╊,适合╞╊┹╊╊╊┶╊、自动驾驶等应用╣╊╚╊╛┣╊╈╊╗╊,竞争目标直指用领域最高性能的CPU和英伟达GPU┥╊╗╊㎝╊┺╊,号称性能同比高三四倍┻╊┫╊,延迟更低┹╊┬╊,且扩展性超强╢╊┫╊┻╊,集成度更高╣╊╦╊┾╊┧╊╈╊。

本文引用地址:照片:Habana首席商务官EitanMedinaHabana的芯片推出周期为9个月╞╊┿╊┥╊,2018年9月宣布推理芯片Goya┧╊╒╊㎝╊,2019年6月宣布训练处理器Gaudi┼╊┬╊╪╊。

该公司尽管2016年成立┥╊┫╊,已有两轮投资┭╊╠╊╜╊,第二轮投资由Intel等参与┮╁┥╊,现在有约亿美元资金┽╊╧╊,主要用于招募众多优秀的DSP┽╊┮╁╛╊、处理器人才╊╊╪╊╧╊┶╊╧╊。 公司已有一百余人┪╊,大部分为开发人员┵╊╣╊╤╊。

公司开始做软件和算法╀╊┾╊╡╊╤╊,积累两年后╠╊,于2018年9月推出第一代芯片Goya┻╊┵╊╦╊。 两代芯片皆采用16nm工艺╪╊╠╊╜╊╠╊╊╊,在台积电流片┻╊┫╊┿╊┻╊┭╊。

1Goya:高性能的AI推理处理器Goya有基于PCIe的卡╀╊╜╊┾╊┹╊,用于服务器的推理和预测╢╊┵╊┼╊┥╊┽╊。 通过和CPU╣╊╜╊╤╊、英伟达GPU相比╈╊㎝╊┭╊┵╊╖╊,Goya性能有3倍的优势┬╊,功耗和延迟也很低┿╊╜╊╙╊┫╊╀╊,可以实时处理图片㎝╊╫╋╡╊。 迄今╀╊┩╊┾╊,Goya仍是市场上最强性能的产品╟╊╣╊╜╊。

3片Goya卡相当于8片Tesla(特斯拉)V100GPU╫╊┶╊,169个CPU服务器 ┤╊╡╊╡╊。 那么╢╊,为何Habana的芯片性能领先╤╊╧╊?通常有两种方式可以保证领先╀╊╥╊╣╊╫╊┫╊,一种是架构╛╊╣╊╧╊╢╊╡╊,另一种靠工艺╈╊╙╊╫╋。 Goya属于前者╥╊,依靠架构╧╊。 首先╧╊╙╊┫╊,不像GPU╜╊╤╊┹╊,Goya是完全针对AI和全可编程设计的┣╊┼╊,并且有Tensor(张量)处理核心(TPC)┪╊╦╊╖╊╂╊┪╊。

AI的性能主要体现在两方面:计算能力和延迟╜╊┶╊。

batchsize直接影响了处理器性能┪╊。 在中┿╊╫╊╕╊╧╊┩╊,GPU的batchsize要定得很大┣╊┼╊,否则会影响性能╈╊╟╊┽╊╀╊。 为了实现大的batchsize㎝╊╫╋,需要把很大数量的数据读到内存中┻╊┫╊╒╊╦╊╖╊,这带来了延迟┩╊╪╊。

Goya可以用较小的batchsize╁╊╡╊╦╊╪╊┣╊,甚至一张图片即可╡╊╒╊╟╊,因此延迟低┿╊┬╊┣╊,这特别适合自动驾驶这类实时性强的应用╁╊┣╊╦╊。

推理的一个重要指标是精度╒╊╊╊┶╊。

在整形化(quantization)方面╫╋┪╊╊╊,Goya由于很强的算法团队┩╊┥╊╂╊╒╊,2018年在国际学报上曾发布了四篇论文┵╊╡╊╊╊。 在生态方面┺╊╒╊,很多客户过去是在GPU和CPU上做的算法╊╊╫╋╧╊,现在转到Goya也很容易╚╊╛┣╊㎝╊╟╊,Habana公司有软件堆栈(SynapseAI)╡╊╊╊┣╊㎝╊,支持客户在不同处理器(GPU╖╊╡╊┹╊╊╊、CPU┪╊╚╊╛、FPGA等)上的训练╒╊╟╊╕╊┪╊,然后在Goya上运行┽╊┿╊┻╊。

很多人不相信Habana这家小公司╕╊┿╊㎝╊┫╊,但实际上Goya产品非常成熟┮╁╫╊╛╊,有很多客户采用╪╊╗╊,例如facebook开源了Glow┥╊╞╊,并在官网上认可了Goya╖╊╡╊┮╁,因为Goya为Glow机器学习编译器实现后端开源╂╊┮╁。 另外╒╊╟╊╪╊╦╊╪╊,Goya把驱动提供给了Linux╫╋┬╊┾╊┹╊╣╊,获得了Linux的支持┬╊。

尽管现在很多客户在用CPU和GPU┽╊╊╊┶╊┽╊,但是正在寻找更好的处理器┿╊╫╊┫╊,因此Goya还可以给客户提供定制化的产品┿╊╟╊┾╊╣╊,因此要给客户最大权限的开放╚╊╛╒╊。 总之╙╊┺╊┿╊,Goya让客户在CPU和GPU上实现AI的推理和预测工作╫╋,可以容易地移植到Goya上╡╊╙╊╤╊╡╊。

过去90%的推理和预测是在CPU和GPU上做的┺╊,现在有了专用的AI推理处理器╫╋╧╊┸╊┾╊。

2Gaudi:处理能力强大4倍的AI训练处理器Gaudi性能是最新的英伟达GPU的4倍╕╊,且在很小的batchsize情况下实现的╧╊。 支持RDMA是AI训练芯片的下一代发展方向┻╊。 为此╠╊┼╊╁╊╈╊,AI训练处理器的领头羊——英伟达已于2019年3月收购了Habana的老乡——以色列Mellanox公司╙╊,以获得RDMA技术╛╊┵╊,使之可以运行在以太网环境中╡╊。

Gaudi更进一步╤╊┿╊╖╊╂╊╧╊,集成了RDMAoverConvergedEthernet(即RoCEv2)功能╞╊,从而让AI系统能够使用标准以太网扩展至任何规模╛╊┹╊╟╊┾╊┹╊。

不仅如此╠╊╀╊,Gaudi的独特之处是集成了10个RDMA╕╊,而英伟达需要外接一个PCIeswitch(如下图)╣╊╣╊╥╊┧╊╈╊。

Gaudi有芯片╪╊╗╊╈╊、卡(子卡和PCIe卡)及系统方案╛╊╂╊╧╊╀╊,通过PCIe┧╊╈╊,可以做垂直及横向扩展╕╊┹╊╟╊╤╊,使性能倍增╡╊╧╊┥╊╀╊╈╊。 例如╡╊┸╊╛╊╠╊╜╊,Habana推出了一款名为HLS-1的8-Gaudi系统╤╊,与英伟达DCX-1(注:英伟达已出DCX-2)比较╪╊╗╊┩╊┾╊,基于Gaudi的HLS-1系统在扩展性┿╊╖╊╡╊、总线效率等方面最高的╠╊┼╊╚╊╛。 应用案例╜╊┶╊┣╊,可以16个Gaudi芯片并用╫╋┪╊╦╊;或通过数据并行化和层级化处理提高处理效率┩╊,因此可以建立1千片Gaudi芯片的系统┶╊┪╊㎝╊╣╊╟╊。

在AI中┩╊,除了数据的并行化处理之外╤╊┣╊╈╊╊╊╫╊,还有模型的并行化处理┣╊┪╊╊╊┾╊╡╊,把大模型分成多个小模型┼╊┬╊╕╊,挑战是之间的通讯╁╊┧╊┩╊┶╊,由于Gaudi有很多通讯接口╈╊╫╊,因此保证了通讯带宽╞╊╡╊┥╊。

而英伟达GDX-2没有这么强的能力┶╊┽╊╖╊╛╊,因为英伟达的通讯接口有限┭╊,且采用了私有的协议╒╊╊╊┭╊。

而Gaudi采用了内置的RDMA方案╕╊┿╊╖╊┭╊,可以灵活扩展┫╊╣╊╦╊╥╊,例如2千个芯片连接┼╊。

因此╠╊╧╊╖╊╞╊┿╊,可以单机或几百芯片互联┩╊╁╊╞╊╧╊,进行大型模型的训练╈╊╟╊╤╊╠╊,可谓没有应用的边界╫╊。 而传统CPU很难超过16个互联┣╊╣╊。

另外建议客户不要用私有协议互联╛╊╣╊┩╊,而在通用协议下┮╁╙╊┫╊,这样可以在AI生态圈里选择更多的处理器╤╊。

Habana携超强AI芯片入局┼╊╁╊╣╊╊╊┶╊,向CPU╡╊╜╊、GPU大鳄亮剑 相关内容:

2010年被中宣部评为中国“文化企业30强”┼╊㎝╊┧╊╧╊,华强文化科技集团作为国内“文化+科技”新型文化产业模式的领军企业╤╊,业务涵盖文化科技主题公园╞╊┪╊┥╊╗╊╣╊、网络游戏╤╊╧╊、动漫产品┩╊ ┤╊╫╊┧╊┣╊、动漫衍生品╧╊╫╊┣╊╚╊╛╊╊、主题演艺╗╊、影视出品╧╊╥╊┫╊╣╊、影视制作等十六个文化产业相关领域┪╊,现有员工5000多人╫╊。

Habana携超强AI芯片入局┥╊╞╊╚╊╛┿╊,向CPU╁╊╂╊、GPU大鳄亮剑Habana携超强AI芯片入局┵╊┿╊╁╊┣╊,向CPU╥╊┧╊┮╁╜╊╁╊、GPU大鳄亮剑 152x104 - 124KB-jpg

Habana携超强AI芯片入局╜╊┽╊╦╊,向CPU┿╊┸╊┫╊、GPU大鳄亮剑Habana携超强AI芯片入局╧╊╖╊╛╊┿╊╀╊,向CPU┺╊┿╊╫╊、GPU大鳄亮剑 176x166 - 152KB-jpg

egg 相关内容:

  实际上除了哈佛㎝╊╤╊╀╊,斯坦福╫╋,MIT╫╊,伯克利这几个几乎全能的学校以外┾╊,其余名校都是有自己的强势学科和弱势学科的┧╊┿╊╥╊╀╊╙╊。有些学校有很强势的学科而且比较好申请┸╊,有些学校你所向往的专业不行而且还很难申请╚╊╛┽╊㎝╊┣╊╁╊。不要去干吃力不讨好的事情┽╊。关于排名╤╊╠╊。

eggegg 142x138 - 72KB-jpg

eggegg 192x6 - 140KB-jpg

Habana携超强AI芯片入局╧╊,向CPU┿╊╫╊、GPU大鳄亮剑相关内容:

  官方介绍艾诺迪亚4Inotia4:AssassinofBerkel以艾诺迪亚大陆为背景,讲述了黑暗教团的刺杀者凯恩与光之圣女尤希娅之间的故事╤╊╠╊╣╊┻╊╁╊。

Habana携超强AI芯片入局┧╊╀╊╢╊╫╋,向CPU㎝╊╫╋╠╊╫╊┥╊、GPU大鳄亮剑Habana携超强AI芯片入局╕╊╈╊╁╊,向CPU╪╊╗╊┼╊┥╊┫╊、GPU大鳄亮剑 54x2 - 172KB-jpg

Habana携超强AI芯片入局╞╊╦╊╢╊┺╊╞╊,向CPU┽╊┿╊┧╊╠╊┪╊、GPU大鳄亮剑Habana携超强AI芯片入局╀╊┻╊┶╊,向CPU┶╊、GPU大鳄亮剑 110x198 - 76KB-jpg

风云白菜版 相关内容:

  据了解╀╊╪╊╀╊┻╊╤╊,众诚保险此次募集资金┽╊,约9成资金用于充实资本金╗╊╊╊┶╊┽╊╀╊,提升偿付能力水平╂╊╡╊╥╊┪╊。众诚保险介绍称╤╊┹╊╪╊,“随着业务规模扩张╀╊╟╊╫╋╠╊,众诚保险偿付能力充足率将相应下降╜╊╛╊┹╊╟╊┭╊,且若保持现有资本金不变┾╊┧╊┼╊╢╊,资产负债率与经营杠杆将不断提升”╢╊╂╊╒╊┬╊╛╊。  与之同步┸╊┾╊╣╊╦╊㎝╊,按照监管要求╣╊ ┤╊┧╊┺╊╀╊,保险公司需按照注册资本总额的20%提取资本┿╊┻╊,因此┸╊ ┤╊╧╊╖╊,在增加注册资本的前提下╁╊╗╊,众诚保险需按比例提取亿元资本保证金╜╊╤╊╧╊。  那么目前众诚保险的发展情况如何  从偿付能力报告来看╁╊┵╊,截至年中╛╊┣╊┿╊,众诚保险核心偿付能力充足率╧╊╫╊、综合偿付能力充足率均为%╥╊╞╊╖╊╥╊┫╊,相对充足;资产方面┿╊ ┤╊╧╊╙╊,截至2018年年中╥╊┧╊┿╊╚╊╛╁╊,众诚保险净资产为亿元╈╊╙╊┭╊╧╊,与上季末基本持平╢╊┣╊╈╊。

风云白菜版风云白菜版 84x172 - 88KB-jpg

风云白菜版风云白菜版 162x166 - 44KB-jpg

《Habana携超强AI芯片入局╁╊┵╊╦╊╁╊╀╊,向CPU╖╊┻╊、GPU大鳄亮剑》由518白菜版发布╖╊,本文地址:http://www.art-of-digital-photo.com/248282/3923631636.html.转载请注明出处╧╊┻╊┹╊┩╊┾╊!

Habana携超强AI芯片入局╕╊┹╊╚╊╛╞╊┮╁,向CPU㎝╊╤╊╗╊、GPU大鳄亮剑网为您提供:Habana携超强AI芯片入局╞╊,向CPU┿╊┩╊╪╊、GPU大鳄亮剑┾╊╠╊╀╊,egg╫╊,风云白菜版╣╊╥╊,等与Habana携超强AI芯片入局┿╊╟╊,向CPU┬╊┧╊、GPU大鳄亮剑有关的文章阅读┬╊。


中国互联网诚信示范企业 违法和不良信息举报中心 网络110报警服务 

中国互联网协会 中国互联网协会信用评价中心 诚信网站