9月19日，在2024年杭州云Qi会议上，阿里巴巴集团首席执行官兼阿里巴巴云智能集团董事长兼首席执行官吴Yonging在他的早晨主题演讲中提到，阿里巴巴云正在以无效的强度投资于AI技术研发和基础设施建设。

Wu Yonging说：“我们的单个网络集群已将其扩展到100,000张卡水平，并且正在从芯片，服务器，网络，存储到冷却，电源，数据中心等来重建面向未来的高级AI基础架构。”

此后，阿里巴巴云首席执行官Zhou Jingren在下午的主题演讲中推出了阿里巴巴云在AI基础设施层面上进行的一系列特定创新。

使AI Infra更大，更强大

周·吉恩（Zhou Jingren）在演讲的上半场专注于基础设施级别的创新，下半年谈到了大型模型中的创新和成就。

在基础设施层面，阿里巴巴云的最新创新包括但不限于：

最新的Panjiu AI服务器在独立机器（1.5T视频内存）上支持16张卡，并提供了AI算法来预测GPU故障，准确率为92。阿里巴巴云ACS首次启动了GPU容器计算能力，这可以通过拓扑感知的调度来改善计算亲和力和性能； HPN7.0是为AI设计的高性能网络体系结构，可以稳定连接100,000 GPU，并且该模型的端到端培训性能提高了10以上；阿里巴巴云CPFS文件存储，数据吞吐量20TB/s，为AI智能计算提供指数扩展的存储功能； PAI是一个人工智能平台，已在Wanka级别实现了培训推断的集成和弹性调度，并且AI计算能力的有效利用率超过90。

对于那些不了解技术的人来说，关于阿里巴巴云围绕AI创新的上述段落似乎“不清楚”，但正是这些创新的组合是通过计算，存储，网络，工具等形成的创新组合。使当今的大型模型培训和大型模型推断成为可能。

反过来，通过生成AI技术（例如大型模型）重建数字和物理世界，加强了计算体系结构以适应AI工作负载迁移的趋势。

生成AI波的兴起对行业的影响是，在过去的几十年中，CPU领导的计算系统正在下降，并由GPU领导的AI计算系统取代。

与大型模型创新和基础设施创新相比，智能超参数的观点实际上对当今的阿里巴巴云更为重要。

背后的主要原因是两个点：一方面，在新的计算电源市场中，超过50的新需求是由AI驱动的，AI计算能力需求已占据主流。另一方面，环顾世界，阿里巴巴云的主要竞争对手—— Amazon AWS，Microsoft Azure和Google Cloud都集中在新一代AI基础架构上，这是一场必须参与的新战。

阿里巴巴云副总裁张Qi透露，吴Yonging于去年9月上任后，他内部表示，阿里巴巴云的唯一产品是“理想的AI云计算网络，遍布世界各地”。 “我们所有的版本都围绕这个目标。”

因此，从这个说法中，在从CPU到GPU计算系统的范式转移中，阿里巴巴云决定使AI Infra更大，更强大。

企业需求驱动基础设施重建

对AI基础设施的需求首先提醒了科技公司，实际上，它正在逐渐探索各行各业。

这种转换已经在一些数据密集型公司（例如木蓬电机）中实施。 19日，米彭电动机董事长米彭在2024年云Qi会议上驾驶了“世界上第一个AI赛车” P7+。这辆车配备了行业领先的端到端大型型号。据了解，在过去的两年中，小米和阿里巴巴云共同构建的AI计算能力的规模增长了4倍以上。

实际上，在Yunqi会议的展览区域中，有许多使用大型模型重塑工作流程的案例，所涵盖的行业也很普遍。在汽车，生物医学，工业模拟，气象预测，教育，企业软件，移动应用程序，游戏等等行业中，AI计算正在加速其渗透率。

CFFF是国内大学中最大的云智能计算平台，是一项科学研究的“超级计算机”，旨在发现和解决复杂的科学问题。它是由福丹大学和阿里巴巴云共同创建的，并通过高级公共云模式提供了平行的智能计算，并支持具有1000亿参数的大型模型培训。

根据CFFF平台，Fudan University发布的45亿参数中和短期天气预报模型在一天之内就完成了培训。预测效应达到了行业认可的ECMWF（欧洲中期天气预报中心）首次在公共数据集上的平均水平，并缩短了预测速度，从原始小时水平到3秒钟内。

阿里巴巴云揭示的数据显示，包括中国Faw，联想，微博，Ctrip，Ctrip，喜马拉雅山，Suntory（中国）在内的30万企业客户已与Tongyi Big Model相连。

总体而言，越来越多的公司意识到了人工智能的价值，但是如果他们想充分利用AI，公司实际上会面临许多问题。其中，一个非常重要的一点是，没有合适的基础架构来支持企业想要使用的AI工作流程。

市场分析机构Forrester Consulting和IPSOS IPSOS去年进行的一项调查显示，有56的公司没有正确的基础设施来支持他们想要使用的AI工作流程。

由于基础设施是AI创新的基石，因此它决定了AI应用程序，解决方案或平台的速度，质量，易用性，创新和吸引力。但是现有的基础设施很少满足AI的需求和复杂性。

目前，几乎所有行业都需要更强，规模更大且更适合AI需求的基础设施。根据IDC的预测，从2022年到2027年，我国智能计算功率量表的年平均复合增长率将达到33.9，远高于16.6的一般计算能力的增长率。

当然，对于像阿里巴巴云这样的计算公司，这确实是一个很棒的市场机会，但对于新的基础设施制造商来说，这也可能是创新的机会。

计算电源市场中的一场新战斗

目前，阿里巴巴云（Alibaba Cloud）正在投资具有所有前所未有的强度的AI基础架构，全面地重建了全堆栈技术系统，例如服务器，弹性计算，网络和存储，并为AI基础架构建立新标准。

实际上，现在面临的阿里巴巴云是一场新的战斗，无法丢失。在Yunqi会议之前，Google Cloud和Microsoft已经在他们举行的年度技术会议上设置了剑，而AI基础架构也是关键字。

在新的AI基础架构的新竞争中，将来大型计算能力提供商的优先级不再是数据中心和服务器大小的更广泛的布局，但是如何在新技术堆栈中建立全堆栈竞争力，例如在基础AI CHIPS AI CHIPS，AI型模型和新开发工具中可以找到多少创新。

最近，国内大型模型具有激烈的竞争力，模型的计算能力成本继续下降。一些制造商甚至赚了负利润，并利用补贴来扩展AI开发人员的生态系统。

在这些削减价格战争中，阿里巴巴云没有退缩，并进行了多轮降价。今年5月首次降价。四个月后，尤恩（Yunqi）会议再次宣布了汤伊（Tongyi）的主要模型的价格：Qwen-Turbo的价格下降了85，低至100万个令牌为0.3元，Qwen-Plus和Qwen-Max分别降低了80和50。

“今天的价格还不够低，与将来的庞大应用相比，它太贵了。”周·吉恩（Zhou Jingren）说，阿里巴巴云的降价主要是为了向企业客户和开发商提供计算和技术的股息，核心目的是使每个人负担得起并刺激更具工业级别的创新。

现在，整个技术行业的聚光灯都集中在模型本身上，并且该模型似乎是AI中这种技术浪潮的决定性力量。但是实际上，与模型相比，基础基础架构实际上包含更大的机会。这不仅是爆发大型模型的必要条件，而且还将是一个全新的更大的应用程序生态系统，其后是一个新的和更大的应用程序生态系统。

这可能打开了计算功耗的新时代。

阿里巴巴云法官认为，将来，几乎所有软件和硬件都将具有推理功能，其计算核心将以GPU AI计算能力为主要和CPU传统计算作为辅助计算能力。

这种技术发展趋势意味着什么？ Microsoft前执行官Shen Xiangyang最近在公开场合表示，GPU计算能力现在一年高四倍，十年来的增长将是100万倍。

即使我们对这些数据给予巨大折扣，这意味着未来的计算电源市场将比今天大1000倍以上，或大于100,000倍以上。这样，未来的计算功耗轨迹就足够长，并且池足够大。

作为全球计算能力制造商，阿里巴巴云显然了解了这一发展趋势。因此，周·吉伦（Zhou Jingren）发表了强烈的声明：“为了应对GPU计算能力的指数增长需求，尤其是即将推动的推理市场，阿里巴巴云已经准备好了。”

如果智力是新时代的油，那么AI基础设施的创新是永不止步的钻井机。