深度：IBM投资AI硬件究竟为哪般？

尽量今朝IBM的硬件营业仅限于POWER和大型机芯片及体系，但IBM正在暗暗地成立构建本身在AI硬件方面的手段。下面是我们对IBM此举的一些思索和缘故起因展望。

IBM在2019年头创立了IBM Research AI Hardware Center，与纽约州、纽约州立大学理工学院以及Mellanox、三星和Synopsys等科技公司相助研发AI芯片。该中心采纳了一种整体化的、端到端的要领，设定了宏愿勃勃的方针打算，即将来10年内将AI机能进步1000倍。蹊径图的出发点，是开拓低落精度的技能。同时，该中心还在开拓新的数字和模仿AI焦点以实现这些创新。蹊径图的末了处，是尚未在半导体制造中回收的、由全新原料制成的新焦点。

IBM最近颁发了两篇论文，描写了用于低落精度的要领，这些要领的方针是进步AI处理赏罚服从，同时维持猜测精确性。根基上，在Nvidia和谷歌的引领下，已往4-5年有关AI的研究一向齐集在低落精度和数学运算。假如“低落精度”听起来好像不太好，那么你要记着，精度越高本钱就会越高——并且是以字位长度的平方计较的。因此，从32位加快到16位（或低落本钱），速率进步了4倍。谷歌最近提出了一种新的16位名目，称为Bfloat，Bfloat166提供16位浮点名目,其动态范畴与尺度IEEE-FP32沟通,但精度较低。可能说，可以在保存精度的同时，功耗更低，占用芯片空间越少。英特尔是该技能的支持者之一。可是，研究职员还在朝着8位浮点数同时保持精度的偏向全力。

IBM本周提出了一种“殽杂8位浮点数”的名目，该名目可以进步机能，将本钱低落多达4倍。就是说，假若有厂商（会是IBM吗？）能出产出可以执行这种计较举办实习的芯片，那么该芯片将行使已经“量化”为8位名目标DNN。这种“殽杂”特征来自于前向和后向转达计较对精度的差异要求。通过针对前向和后向转达计较定制用于指数和尾数的位数，IBM证明白确实可以仅行使8位权重和激活来实习用于视觉、语音和说话处理赏罚的神经收集，并且还可以或许以靠近16位计较功效相等的精度执行操纵。另外，芯片通讯更高效了，实习时刻收缩了30-60％。

假如这种数学运算听起来很伟大，那么带来的甜头则要简朴得多。从理论上讲，这种要领可以让某个厂商打造用于实习深度神经收集的芯片，该芯片的芯单方面积仅为平凡芯片的1/4，在沟通本钱环境下机能进步4倍。

在AI推理方面，出于沟通的缘故起因，芯片厂商和模子开拓职员正在转向8位整数的要领。可是，还能降得更低吗？迄今为止，还未能低落到8位模子的精度程度。可是，IBM最近颁发了一篇论文，发起团结行使所谓的参数化限幅激活（PACT）和统计感知权重归并（SAWB）两种技能，演示了2位推理处理赏罚操纵，其精度与8位量化模子相等。

假若有人在CPU或AI芯片中行使这些技能，那么谜底就是“全部人”。IBM蹊径图必定意味着IBM将做到这一点，但就今朝而言，这统统都是在IBM研发中心而非产物部分举办的。我在IBM事变了10年，研究项目无法酿成产物是很正常的，这就是研究的本质。不外，让我们思量一下IBM将怎么做。

我看到IBM有三种方法让AI硬件研究成就变现。起首，IBM可以把这项技能容许给其他半导体公司，用于移动、边沿和数据中心芯片平台。其次，IBM可以把这项技能融入到IBM POWER以及/可能大型机处理赏罚器中，尤其是2位推理处理赏罚。第三，IBM可以出产用于数据中心实习和推理处理赏罚的加快器，直接与Nvidia和英特尔睁开竞争。最后一项也许有更大的隐藏市场，但也会带来一个营业题目——IBM必要构建渠道来吸引POWER和大型机客户群之外的数据中心客户。譬喻，IBM也许会通过遐想举办售卖，卖给那些正在搭建数据中心处事器的ODM厂商。虽然，这三个选项不是相互排出的。

IBM AI硬件研究中心所取得的成就给我留下了深刻的印象，并且仅用了短短一年的时刻。IBM一开始就抛出了将服从进步1000倍的宏愿愿景，回收了整体化的要领，从算法到芯片再到原料。这让IBM在这个快速成长的市场中具有庞大的潜力。IBM AI硬件研究中心也许很快就必要就营业模式做出一些艰巨的选择，让这些研究变现，以及触达方针市场。高管层必要保持耐性，僵持到底，我以为，下一任首席执行官Arvind Krishna可以做到这一点，出格是已往十年中，IBM稳步挣脱了硬件营业。我们将亲近凝望全部这些动向。

（编辑：河北网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!