编者按:从严格的定义上来说,摩尔定律已死似乎是板上钉钉的事情了。其确定性几乎到了没有对此表示关心的地步。但是,这是不是意味着我们的发展就要停滞了呢。不是。而且恰恰相反,这即将为新的指数式增长拉开序幕。DAVE VELLANTE与DAVID FLOYER对此进行了分析,原文发表在siliconangle网站上,标题是:A new era of innovation: Moore’s Law is not dead and AI is ready to explode
划重点:
摩尔定律已死,但这无关紧要,因为处理能力正在爆发式增长
网络和存储将成为新的瓶颈,为此计算将从云端下移到边缘
人工智能将无所不在,推理替代建模成为未来十年AI的重点
数据正在成为新的开发工具包
摩尔定律已死,是吗?再想想吧。
尽管中央处理单元性能历史性的年度改进速度正在放缓,但是跟其他处理器封装在一起的CPU组合的性能却以每年超过100%的速度在增长。处理能力 + 数据 + 人工智能空前的大规模改进,将完全改变我们对设计硬件、软件编程以及把技术应用到企业去的思考方式。
所有行业都会被颠覆。你耳朵都听到起茧了?呃,这绝对是对的,我们会解释为什么,以及这都意味着什么。
在这篇剖析当中,我们会揭示一些数据,通过这些数据,你将看到我们正在步入创新的新时代,廉价的处理能力会推动机器智能应用的爆发式增长。此外,我们还将告诉你在接下来的十年里会出现哪些新的瓶颈,以及这对系统架构和行业转型意味着什么。
摩尔定律真的死了吗?
在过去十年的时间里,这样的说法我们已经听到了成百上千次。EE Times写过这方面的文章,《麻省理工学院技术评论》、CNET、SiliconANGLE,甚至行业协会都在宣告摩尔定律正走向终结。但是我们的朋友兼同事Patrick Moorhead说得对:
按照最严格的定义,也就是芯片密度每两年增加一倍这个标准来看的话,摩尔定律已经不成立了。
没错。这个说法绝对是正确的。但是,他的说法里面有“按最严格的定义”是有原因的……因为他很聪明,知道芯片行业是找出变通方案的大师。
历史性的性能曲线已经被打破
按照最严格的定义,摩尔定律已死,但这并不重要,下图就是证明。
事实上,摩尔定律的历史产物正在加速,而且相当显著。此图展示了苹果自A9以来片上系统的发展历程,最终发展到A14 5纳米片上仿生系统的高峰。
纵轴显示的是每秒操作数,横轴显示的是3种处理器类型的时间。CPU以太赫兹为单位(那条几乎看不到的蓝线);图形处理单元或GPU,以每秒万亿次的浮点运算为单位(橙色);以及神经处理单元或NPU,以每秒万亿次操作为单位(爆发的灰色区域)。
很多人都会记得,在过去,我们都急着想购买最新最好的个人计算机,因为更新的设备型号周期时间更快,也就是千兆赫兹更大。摩尔定律带来的结果是,性能每24个月将会翻一番,也就是每年约40%的增长率。现在,CPU性能改善的速度已经下降到大约30%,所以从技术上来说,摩尔定律已死。
苹果SoC的性能打破了常规
自2015年以来,苹果SoC平均每年以超过了118%的速度在提升。实际数字还要更高,因为118%只是上述三种处理器的实际数字。在图形领域,我们甚至都还没有把数字信号处理器和系统加速器组件的影响考虑进去,否则提升会更大。
右上方显示的是苹果 的A14。其64位的体系结构,多内核和替代处理器类型相当出色。不过更重要的是,你可以利用所有这些处理能力在iPhone里面做的事情!AI应用的类型在不断发展,从面部识别到语音和自然语言处理,视频渲染,帮助听力受损者,最终甚至会让增强现实技术降临到你手上。
太不可思议了。
处理边缘化——网络和存储成为瓶颈
微软CEO 萨蒂亚·纳德拉(Satya Nadella)最近说了一句要载入历史的话,他说我们已经达到中心化峰值(peak centralization)。下图说明了这一点。我们在前面已经分享处理能力的进展情况,也就是处理能力正在以前所未有的速度在加速,而且成本还在像块石头往下滚一样不断下降。苹果的A14芯片每颗价格为50美元。Arm在发布v9的时候表示,将推出可植入冰箱的芯片,这些芯片可以优化能源的使用,每年可节省10%的能耗。他们说,这种芯片的价格仅为1美元——只要花1美元,就能让冰箱节省10%的电费。
处理能力不仅充足而且便宜。但是,又贵又不够用的瓶颈在哪里呢?网络和存储。那这是什么意思?
这意味着处理能力会被放置到边缘位置——数据在哪里就在哪里处理。存储和网络会变得越来越分布式,去中心化。定制芯片和处理能力遍布到整个系统,并嵌入了AI,可优化工作负载,从而改善延迟,性能,带宽,安全性以及其他等价值维度。
还有要记住的是,大多数数据(99%)都会留在边缘。不妨以特斯拉为例。特斯拉汽车制造的绝大多数的数据永远都不会回到云端上。那些数据甚至都不是持久存在的。特斯拉大概会保留五分钟的数据。不过部分数据偶尔会回传到云端,用来训练AI模型。
但是上面这张图表明,如果你是一家硬件公司的话,最好要开始去考虑怎么去利用这条蓝线,也就是处理能力的爆发式增长。我们认为,戴尔、惠普、Pure Storage、NetApp等公司即要将开始设计定制芯片,否则就会被颠覆。AWS、谷歌以及微软之所以都这么干是有原因的,思科和IBM也是。就像云顾问Sarbjeet Johal 所说那样,“这不是你爷爷那时候的半导体业务了。”
而且,如果你是软件工程师的话,你将要编写利用采集到的所有数据的应用,而且要利用这种庞大的处理能力来开发我们从未见过的新功能。
人工智能无处不在
处理能力的大幅度提高以及廉价的芯片会推动下一波的AI、机器智能、机器学习和深度学习浪潮。
我们有时候会把人工智能和机器智能混用。这个概念来自我们跟David Moschella的合作。有趣的是,Moschella在他的《Seeing Digital》一书中说“这里面没有半点的人工”:
机器智能里面没有半点的人工,就像拖拉机的牵引力里面没有半点的人力一样。
这句话很微妙,但是非常准确。我们听到过很多有关机器学习和深度学习的东西,并把它们看作是AI的子集。机器学习把算法和代码应用到数据上,以变得“更智能”——比方说,建立更好的模型,从而获得增强智能,让人或机器做出更好的决策。随着它们获取的数据越来越多,并随着时间不断迭代,这些模型也会不断改进。
深度学习是运用了更加复杂的数学的,更高级的机器学习类型。
上图右侧这张表展示了AI的两大类要素。在这里我们想指出的是,当今AI的大部分活动都集中在构建和训练模型上面。这主要发生在云端。但是我们认为,人工智能推理会在未来几年带来最激动人心的创新。
人工智能推理可释放巨大价值
推理是利用模型,从传感器获取实时数据,在本地处理数据,应用已在云端开发好的训练并实时进行微调整的一种人工智能。
我们不妨举个例子。还是拿汽车来说吧,观察特斯拉对于边缘层会如何演进很有启发性,而且是个很好的榜样。不妨考虑有一种算法能够优化汽车的转弯性能和安全性。这个模型的输入有摩擦、路况、轮胎角度、轮胎磨损、轮胎压力等数据。模型的开发者会不断测试,增加数据并对模型进行迭代,直到为部署做好准备。
然后,来自这一模型的智能就会进入到推理引擎。这种推理引擎是一种能够运行软件的芯片,它可以植入到汽车上,并从传感器获取数据,然后实时对转向和制动等做出微调。就像我们之前所说那样,特斯拉只会保留数据一小段的时间,因为数据太多了。但是,如果需要把数据发送回云端用来进一步训练模型的话,它可以有选择地存储部分数据。比方说,如果在滑溜状态下路上突然出现了一只动物的话,也许特斯拉会保留这部分数据的快照,把它发送回云端,再跟其他的数据结合起来,用来进一步完善模型以提高安全性。
这只是成千上万的AI推理用例的其中一个例子,这种用例在未来十年当中还会进一步发展。
AI价值将从建模转向推理
下面这张概念图展现了在建模和推理方面所花费的时间的占比。你会看到目前引起大家注意的一些应用,还会看到随着推理日益变得主流,这些应用也在慢慢走向成熟。在边缘层和“物联网”进行AI推理的机会非常庞大。
建模的重要性依旧。今天广泛应用于欺诈、广告技术、天气、定价、推荐引擎等领域的建模负载会变得越来越好。但是我们认为,将来发挥更大作用的将是推理,就像之前的例子所表明那样。
在上面那张图的中间,我们还列出来会被这些趋势所改变的所有行业。
对此我们要指出的另一点是:Moschella在他的书里面还解释了为什么在历史上的那些垂直行业彼此之间至今仍然是烟囱式的相互独立的状态。它们各自有自己由生产、供应、物流、销售、市场营销、服务、履约中心等堆成的“栈”。而且,专业知识往往只会驻留在本行业及相关公司里面,而且大多数情况下都会坚守各自的泳道。
但是在今天,我们已经看到了许多科技巨头进军其他行业的例子。亚马逊进入食杂百货、媒体和医疗保健行业,苹果进入金融和电动汽车市场,特斯拉开始关注保险业:很多科技巨头都跨越了传统行业的界限,而其中的推动力就是数据。比方说,随着时间的推移,汽车制造商将拿到比保险公司手上更好的数据。利用区块链的DeFi(去中心化金融)或者平台将通过AI不断改进,并不断颠覆传统的支付系统。
因此,我们相信,已经被说滥了的那句话是真的:覆巢之下,焉有完卵,没有一个行业无被颠覆之忧。
AI企业应用快照
最近,我们展示了下面这张Enterprise Technology Research的图表。
图中纵轴展示的是Net Score或支出势头。横轴则是市场份额或在ETR数据集的普遍性。40%处红线是我们主观认定的基准;在我们看来,只要过了40%就算不错。
在支出速度方面,机器学习和AI排名榜首,而且这一势头已经延续了一段时间了,所以我们给四颗星。机器人流程自动化(RPA)已经慢慢接近AI,而云端可以说是目前所有机器学习的发生地,所以云计算也出现的附近,不过我们认为AI会逐步从云端转移走,原因我们在前面已经说过了。
企业AI专家排定座次
下图显示出这一领域当中受到关注的部分供应商。这些是企业CIO和CTO在制订AI/ML支出计划时会考虑到的公司。
本图使用的Y / X坐标跟前面那张图一样——纵轴表示“支出速度”,横轴表示“市场份额”,红线同样列在40%的位置。
微软、AWS以及谷歌等大型云计算厂商在AI和ML方面占据的份额最大。因为这些公司手上既有工具也有数据。就像我们所说那样,大量建模是在云端进行的,今后的趋势会是逐步下移到远端拥有的AI推理引擎,这些引擎集合到一起将拥有大规模的处理能力。中心化巅峰与我们正渐行渐远,这会为创造价值并把AI应用到行业上提供巨大的机会。
Databricks被看作是AI的领导者,其强劲的Net Score和突出的市场份额让这家公司脱颖而出。尽管只有少量样本,但SparkCognition的Net Score却非常高,位于左上角的位置。这家公司做的事情是将机器学习应用于海量的数据集。DataRobot则是做自动化AI的—它们位于Y轴很高的位置。Dataiku是可帮开发建基于机器学习的app。C3.ai是由Tom Siebel创立和运营的企业AI公司。在图中,你会看到SAP、Salesforce.com以及IBM Watson正好站在40%这条线上。具备自主数据库功能的Oracle,以及Adobe也处在类似位置。
关键是这些软件公司都已经把AI嵌入到自己的产品当中。那些不想被颠覆的既有公司用不着自己开发AI,它们可以向软件公司购买。但困难的部分在于怎么用,以及用在什么地方。一个简单的答案是:跟着数据走。
关键摘要
本来要讲的还有很多,但暂时先让我们在这里总结一下。
我们一直在激烈讨论若干事情,包括后x86时代,体量对于降低半导体生产成本的重要性,而今天我们已经对某个还见得不多的东西进行了量化,那就是处理的性能改进。忘了摩尔定律已死这件事情吧—这已经无关紧要。在这十年的时间里,原先的假设已经被SoC和即将推出的封装设计系统打破。谁又能知道,当量子计算出来之后的将来,性能提高方面又会是什么样的情形呢?
这些趋势是AI应用的根本驱动力,而且在大多数情况下,创新来自消费者的用例。苹果会继续引领潮流。苹果软硬件一体化的做法会日益改变企业的观念。显然,云供应商正在朝这个方向发展。你也可以在Oracle那里看到这种趋势。软硬件一起优化会形成势头是说得过去的,因为就像最近我们就Arm发布的东西所讨论的那样,芯片定制的机会太多了,英特尔新任的首席执行官Pat Gelsinger也要往这个方向发力。
顺便说一句——Gelsinger在英特尔这里可能会面临巨大挑战,但他说对半导体的需求还在增长,而且看不到结束的迹象,这个观点是正确的。
如果你是一家企业,那就不应该去强调发明人工智能。相反,你的重点应该放在去了解有哪些数据可以为你带来竞争优势,以及如何应用机器智能和AI来在竞争中获胜上。你应该去购买AI,而不是开发AI。
就像John Furrier曾经多次说过的那样,数据正在成为新的开发工具包。他在10年前就这么说了,但现在这句话比以往任何时候都要更加真切:
数据是新的开发工具包。
如果你是企业硬件厂商,那你将会设计自己的芯片,并会编写更多的软件来利用AI。你会给整个产品组合都嵌入定制芯片和AI,而且你会把越来越多的计算引入到数据上。大部分数据会保留在它被创建出来的地方。系统、存储和网络栈,这些正在统统被颠覆。
如果你是开发者,那么现在你将拥有不可思议的处理能力,而且你会编写新的应用来利用这一点,利用AI去改变世界。你得弄清楚怎么获取到最相关的数据,如何去保护平台,并进行创新。
最后,如果你是提供服务的公司,那就有机会去帮助那些不想被颠覆的公司。这样的公司太多了。你具备深厚的行业知识,以及水平化的技术能力,这些可以帮助客户生存和发展。
隐私?向善的AI?这些本身也都是被记者广泛报道的主题。我们认为,目前明智的做法是,在确定AI应该走多远以及如何对其进行监管之前,最好是先了解一下AI可以走多远。保护我们的个人数据和隐私应该是我们最关心的事情,但总的来说,目前我们还不希望把创新扼杀在摇篮里。
译者:boxi。