专题：2024中国高新技巧论坛

　　“2024 中国高新技巧论坛”于11月14日在深圳举行。想科大中华区副总裁封小韵出席并演讲。

　　以下为演讲实录：

　　封小韵：刚才两位院士的先容荒芜精彩，给我极端极端大的压力。既然群众压力这样大，我但愿这部分跟群众的讲述这个有点粗心也有点新的话题上给群众有一些新的感受。

　　我的题目是“算力网罗，驱动AI发展的中枢能源”。我知说念在座诸位皆是各自行业的大家，是以你们可能不太招供凭什么说算力网罗是驱动AI发展的中枢能源。这就对了，我即是要把这个题目抛出来，想跟群众相通一下，但愿接下来这十几分钟群众在我的先容里有一些新的理会，跟本来不雷同的倡导，这是我此次但愿带给群众的一些新知。

　　群众若是对我刚才的不雅点有我方的倡导，我是从群众皆有共鸣的点初始讲。

　　AI三要素，可能群众皆莫得什么异议，模子和诓骗，刚才刘院士讲了荒芜多本色场景的诓骗，数据和基础架构。这三点共鸣群众应该皆高兴。

　　想科是作念基础架构的，在基础架构里三个紧要构成部分：能源、工作器、芯片（GPU及网罗）。

　　网罗有什么了不得的？我援用了全球最顶级的作念大模子数据测验认真东说念主对GPU和基础架构的倡导。GPU像金子雷同又贵又少，细则不成让它闲着，用什么来让它满负荷运转？那即是数据。如何样才能作念到握住喂养数据给它让它满负荷运转？只好网罗。AI的网罗跟传统所谓数据中心网罗有什么分散？上图讲到的是AI对网罗的三种不同诓骗。大范围GPU并行联想条目这个网罗是无损的，刻下的GPU皆是用O2O的聚积通信气象，刻下测验时条目每一个GPU测验出来的效果群众同步恭候，就有了延长矫健需求。

　　这个图就不错看到，传统数据的流量模式在个体流量上是无数异步小带宽，重复之后变成平衡的流量效果，前边三个条目带来的所有不雷同的模子透露。

　　小结：AI对网罗的条目就三个标志：00、++、--。00，对网罗的条目无损耗，不丢包；++，网罗带宽要越来越大；--，时延要越来越少，越来越减。什么样的网罗技巧才能舒适AI的算力网罗条目？世俗传统数据中心网罗流量跟AI网罗流量所有不雷同，技巧层面上，这一两年可能群众在AI网罗上花的钱最多的是IB，用INFINIBAND来作念。我这张图是把传统以太网技巧跟IB要津技巧上的参数维度列出来。

　　红色代表的是以太网的上风，灰色代表的是IB的上风（见PPT）。一般要津要素上皆是以太网全面最初，碾压性的最初。但为什么群众照旧花这样多钱用IB更多？因为几个要津要素：带宽、时延、无损以及跟GPU尤其是英伟达我方的GPU的适配性，皆是IB作念得更好，是以刻下IB的价钱贵许多，IB的东说念主才荒芜少。IB的训诫性以及弹性、可松开性荒芜有限，群众皆是花大价钱作念这件事情。

　　某一个经由上讲，阻碍了AI算力发展的，一方面是GPU像金子雷同贵，另外是算力网罗使得这个算力的发展雪上加霜。

　　好讯息是刚才我说到的几个要津要素里，以太网这一两年有了荒芜大的发展，在一些要津要素的弘扬上如故荒芜接近，以至不错说很快就要追上了。这个追逐的动作是如何发生的？以太网凭什么能够在短时间内有这些变化？

　　我但愿通过这三张图能够证明刚才红圈部分的变化是如何发生的。

　　左边的图不错看到，刻下不管是前端照旧后端，算力网罗上以太网的使用量如故最初了IB。马斯克最近10万卡的集群，无数是用的以太网算力网罗来作念。为什么群众敢用以太网来作念？第二幅图红色部分不错看到，带宽和时延这几年的变化。以太网如故从某种经由上高出了IB。

　　刚才说到一个很紧要的原因，GPU的适配性，尤其是跟英伟达，业界俗称全家桶，它的GPU、IB沿途这样下来。本年超等以太网定约会发布如何样让GPU和里面系统的Scale协调起来，通过以太网来终端，想科亦然里面的首创成员。因为咱们以太网的发展有刻下这三个不同的动作，使得刚才我说的那几个要素追得越来越近了。

　　我讲述一下想科刻下的算力网罗大致作念到了什么经由。

　　往时跟想科打过交说念的皆知说念咱们传统作念系统包括软件，以及到光模块，全部家具皆如故荒芜完善了。用想科的AI算力网罗，价钱如故不错作念到荒芜低，跟IB比起来不错说是1：N之间的联系。

　　底下说说软件，基于AI网罗特色，有了一些软件和技巧上全调遣的算法。我放了一张调遣算法图，具体内容在白皮书里督察技巧先容，不错会后再相通。

　　AI算力网罗，除了刚才讲到的网罗流量自身，它还有好几个层面需要酌量。不同层面有一些不同的搪塞气象，包括数据和安全。

　　我但愿刚才荒芜精简和快速的先容能跟群众讲述一下最近咱们在以太网上的进展，如何样跟IB作念追逐和匹配，使得群众作念AI算力网罗时易用性、适配性、价钱和普适经由，皆能鼎力降下来，从而鞭策AI算力的发展。

　　终末，在这样多技巧大家跟前，我要讲一个小小的话题，亦然动作我今天这个内容的终端。

　　技巧的至极皆是形而上学，前段时间诺贝尔奖得主Hintin讲他最自重的事情是他的学生把西蒙干掉。（56：31）刻下咱们看到在硅谷AI进出入出的东说念主员变更，许多时候皆是这两派之争的效果，这里面的计谋、理念包括他们的形而上学想想，深深影响刻下的政策。这两派的竞争很强烈，但有几个点是共鸣的，包括AI对风险、伦理说念德以及全球配合上皆要有过问、舍弃和共鸣。

　　为什么想科要加入《东说念主工智能罗马倡议》以及以中国动作基地的天下互联网大会刚刚提议的《发展负包袱的生成式东说念主工智能究诘论述及共鸣文献》，想科皆在里面积极参与。AI发展到终末照旧要为东说念主类工作，若是AI发展得太快，对东说念主类形成伤害或者一些不可逆转的效果，应该引起咱们的反想，何况用咱们才气范围内好好想考这些问题。

　　终末，但愿高交会办得越来越好，促进AI行业的发展，让AI发展的同期对东说念主类越来越好，谢谢诸位！

　　新浪声明：扫数会议实录均为现场速记整理，未经演讲者审阅，新浪网登载此文出于传递更多信息之场合，并不料味着赞同其不雅点或阐明其描摹。

包袱剪辑：梁斌 SF055