文 | 光锥智能，作家｜刘俊宏第四色，剪辑｜王一粟

AI 大模子正在激勉新一轮的"算力焦渴"。

近日，OpenAI 刚发布的 o1 大模子再次刷新了大模子智商的上限。对比上一次迭代的版块，o1 的推明智商全场所"吊打"了 GPT-4o。更优秀的智商，来自与 o1 将念念维链引入进了推理过程。在 o1 对问题"一边拆解一边答复"的过程中，"丝丝入扣"的念念维链让谜底也变得愈加"靠谱"。

念念考口头的升级，也意味着更大的算力需求。由于模子旨趣是在 LLM 熟悉迥殊添加了 RL（强化学习）的 Post-Training（后熟悉），这意味着一次推理和熟悉所需的算力将再次加多。

" AI 接洽中遭受的最大艰苦即是枯竭算力—— AI 骨子即是暴力狡计。"华为副董事长、轮值董事长徐直军此前追忆说念。

于是，近几年科技大厂对 AI 基础设不休加大干与，除了英伟达股价不休升高，卖" AI 铲子"的 AI 办事器厂商们也在本季度迎来了翻倍的事迹增长。

而且，跟着 AI 算力下一步的需求增长和基础设施下放，办事器厂商们有望凭借 AI 赚得越来越多。

厂商们事迹的"大叫大进"，是办事器与 AI 深度结合的终局。

其中在 AI 熟悉要领，办事器大厂们纷繁汲取不一样式加快统统这个词 AI 熟悉过程，让异构狡计的 AI 办事器，成为一台高效的 AI 熟悉任务"分发机"。另一边，在看守算力硬件紧缺的问题中，AI 办事器厂商也结合大型办事器集群的运营教会，落地了各式让英伟达、AMD、华为昇腾、Intel 等厂商 GPU 混训大模子的平台。

伴跟着对 AI 从熟悉到硬件优化的久了攀附，越来越了解 AI 的办事器厂商也在从原来卖硬件拼装的身份，普及着在 AI 产业链的价值。

其中，聚焦到智算中心建造层面，不少办事器厂商依然证明 AI 需求调治了 AI 办事器集群的硬件基础设施。而且，跟着对国产算力芯片的深度结合，基于 AI 办事器厂商我方定制的看守有规划正在平常落地。

另一边在软件层面，更懂 AI 的办事器厂商也在启动挖掘 AI 在基础设施中的出产力属性。伴跟着办事器厂商推出的 AI 大模子、Agent，办事器厂商与 AI 应用客户业务的结合也愈发紧密，从而进一步获取更多软件层面的看守有规划收入。

毫无疑问，AI 期间的变革也改变了统统这个词算力载体的行业逻辑。

AI 办事器厂商们正在以各边幅式为用户带来更密集、更高效的算力供应。在当下的"算力焦渴"期间，AI 办事器厂商正在成为愈发繁密的"卖水东说念主"。

AI 行业，"卖铲子"的先获利了

AI 大厂们的加快干与，让"卖铲子"的 AI 办事器厂商启动获利了。

证明 IT 桔子数据透露，截止到 9 月 1 日，AI 关系上市公司举座照旧蚀本居多。其中，15 家盈利的 AI 上市公司累计净利润为 27.8 亿元，蚀本的 19 家累计净额为 62.4 亿元。

AI 尚不可让行业兑现举座盈利，一个原因是 AI 巨头们仍处于加快干与阶段。

据统计，本年上半年，国内三家 AI 巨头（BAT）在 AI 基础设施上的老本支拨总和高达 500 亿元东说念主民币，比旧年同期的 230 亿元东说念主民币，增长了一倍多。专家范围，跟着亚马逊在上季度增长了 18% 的固定老本开支，再次进入了老本推广周期。微软、亚马逊、谷歌、Meta 等好意思股" Mag7 "们，也达成了赓续加码 AI 的共鸣。

"对 AI 投资不及的风险，远超投资过度风险。"谷歌母公司 Alphabet 首席实践官 Sundar Pichai 显着相称激进，并不以为当今是投资泡沫。

而借着加大干与的风口，提供 AI 基础设施的 AI 办事器玩家们"大赚特赚"。

其中，专家老牌办事器厂商惠普和戴尔在 AI 期间迎来了"第二春"。证明惠普最新袒露的事迹（2024 三季度）透露，其办事器业务同比增长 35.1%。戴尔上季度财报透露（对应 2024 年 5 月— 2024 年 7 月），其办事器和收集业务营收同比增长 80%。

一样在国内厂商中，欲望在最新一季财报中提到，受 AI 需求增长，其基础设施有规划业务集团季度收入初次突破 30 亿好意思元，同比增长 65%。波澜的中报数据透露，公司兑现包摄于上市公司股东的净利润为 5.97 亿元，较旧年同期增长 90.56%。神州数码这边，其包摄于上市公司股东的净利润为 5.1 亿元，同比增长 17.5%，旗下神州鲲泰 AI 办事器兑现收入 5.6 亿元，同比增长 273.3%。

事迹超过 50% 以上的增长，是 AI 办事器大范围落地的终局。

除了云厂商，运营商是 AI 办事器的主要需求方。自 2023 年启动，运营商们加大了对 AI 算力的布局。其中，电信和出动对 AI 办事器的需求增长了一倍以上。

同期，基于智算中心的需求也在快速推动 AI 办事器落地。证明 Intel 旗下 AI 芯片公司 Habana 中国区慎重东说念主于明扬在 2024 专家 AI 芯片峰会上的共享，近三年来约莫有 50 多个政府主导的智算中心陆续建成，当今还有 60 多个智算中心技俩正在运筹帷幄和建造。

繁荣的 AI 办事器需求，改写了统统这个词办事器行业的增长结构。

证明 TrendForce 集邦筹议近期发布的一份论述透露，在本年大型 CSPs（云表办事供应商）对 AI 办事器的采购下，以产值估算，展望 2024 年 AI 办事器产值将达 1870 亿好意思元，成长率达 69%。看成对比，一般办事器的展望年出货量增长仅为 1.9%。

将来，跟着 CSP 逐渐完成智算中心的建造，AI 办事器还将会跟着更平常的角落狡计需求，进一步加快增长。AI 办事器的销售要领，也将跟着 CSP 广宽量荟萃采购切换至企业角落狡计的小批量购买。

换句话说，AI 办事器厂商的议价权和盈利智商，将跟着采购口头的变化进一步普及。

办事器厂商接下来还会靠 AI 赚的越来越多。如斯趋势，跟 AI 办事器客户漫长的回本周期拉开了巨大差距。

以算力租出的生意口头看成参考，行业内早就统统出了一笔账。算上智算中心配套的开导（存储、收集），在不商量算力价钱每年着落的前提下，汲取英伟达 H100 看成算力卡的投资请问周期长达 5 年，汲取性价比最高的英伟达 4090 显卡，请问周期也在两年以上。

如斯一来，若何帮客户用好 AI 办事器，成了统统这个词办事器行业最中枢的竞争场所。

加快、相识，AI 办事器厂商输攻墨守

"大模子落地过程复杂，波及散布式并行狡计、算力调遣、存储分拨、大范围组网等多种先进本事和历程守旧。"关于 AI 办事器落地应用中需要看守的问题，新华三集团忠良狡计居品线高档居品司理冯良磊曾追忆说念。

上述难题，对应着 AI 办事器落地的两大类问题——算力优化和大范围使用。

一位销售东说念主员对光锥智能也先容到，"常见的客户需求，其一是硬件规划，第二是 AI 熟悉的守旧智商，临了还有大范围集群的智商。"

其中，算力优化部分主要对应着 AI 办事器的异构狡计问题。当今，行业提供的看守有规划主要分为优化算力分拨和异构芯片合作的两个大场所。

由于 AI 办事器的运作口头不再是 CPU 寥寂处理任务，而是 CPU 与算力硬件（GPU、NPU、TPU 等）的合作。现时行业的主流看守模子，是用 CPU 把狡计任务拆解到专用算力硬件。

这种算力分拨口头，与英伟达 CUDA 的基欢喜趣疏通。CPU 同期"带动"的算力硬件越多，举座算力就越大。

异构狡估量力分拨旨趣

对应到办事器硬件层面的改变，是 AI 办事器成了不错堆叠算力硬件的"积木"。AI 办事器的体积启动"加大加粗"，从通用办事器的 1U（办事器高度基本单元）升级至当今常见的 4U、7U。

针对算力进一步优化，不少办事器厂商惨酷了我方的有规划。举例新华三的傲飞算力平台守旧对算力和显存按 1% 和 MB 的细粒度切分，并按需调遣。欲望的万全异构智算平台则所以学问库的体式，自动识别 AI 场景、算法和算力集群。客户只需输入场景和数据，即可自动加载最优算法，并调遣最好集群竖立。

在另一边的异构芯片合作上，主要看守的是不同算力硬件办事器之间的协同问题。

计算器在线使用

由于英伟达 GPU 万古候将处于供不应求的情状，不少智算中心会取舍将搭载了英伟达、AMD、华为昇腾、Intel 等厂商 GPU 混用，或多种 GPU 混训一个 AI 大模子。如斯一来，统统这个词 AI 熟悉要领就会出现通讯着力、互联互通、协同调遣等一系列问题。

AI 办事器搭载不同厂商 AI 芯片占比 开首：TrendForce

"办事器集群熟悉 AI 的过程，不错简便攀附成‘一轮一轮’的进行。一个任务先被拆解到统统算力硬件，终局汇总后再更新至下一轮狡计。如若过程配合不好，比如有的 GPU 算的慢，省略通讯不畅，相称于其他算力硬件要‘沿途等’。轮数多了，统统这个词 AI 熟悉时长就被极大拖延。"关于异构算力硬件合作看守的履行问题，一位本事东说念主员对光锥智能举了一个形象的例子来讲明。

当今，看守该问题的主流有规划是诈欺云管系统（包括调遣、PaaS 和 MaaS 平台）对统统这个词 AI 熟悉（和神经收集）进行细密拆分。

举例，新华三的有规划是建造一套异构资源看守平台，通过开发谐和的荟萃通讯库兑现对不同厂商 GPU 的纳管，从而屏蔽不同厂商之间的各异。百度百舸异构狡计平台的多芯搀和熟悉有规划，是将种种芯片交融成一个大集群，再守旧统统这个词熟悉任务。

大同小异的看守有规划，其意见正如无问芯穹聚合创举东说念主兼 CEO 夏立雪追忆，"打沸水龙头前，咱们不需要知说念水是从哪条河里来的。"

异构狡计问题看守后，意味着智算集群可取舍的硬件种类得以澈底自如。办事器、算力芯片、AI Infra 等厂商之间的配合，也有了协同效应，共同可贵着 AI 办事器组建大范围算力集群的相识性。

参考 Meta 公司使用算力集群的教会，AI 大模子熟悉并非"一帆风顺"。据统计，Meta 16K H100 集群的同步熟悉中，曾在 54 天内出现了 466 次功课很是。若何让办事器集群在出现问题后快速回到运事业态，主流的看守有规划是在熟悉过程中加一说念"防火墙"。

举例，欲望的看守有规划是"用魔法击败魔法"。通过使用 AI 模子预测 AI 熟悉故障的样式，欲望的看守有规划能在断点前优化备份。超聚变和华为昇腾则汲取了简便告成的对策。当检测到节点故障时，自动间隔故障节点后，从最近的 Checkpoint 点收复熟悉。

举座来看，AI 办事器厂商在了解 AI，兑现算力优化和相识性升级的过程中，普及我方的附加值。

借助 AI 对行业的转换，AI 办事器的玩家们正在以垂直一体化的姿态，让办事器这个经典 ToB 行业昂然出新的价值。

AI 让办事器厂商更有价值？

复盘历史，办事器厂商们一直被"困在"浅笑弧线的中间地带。

第三次工业转换之后，跟着办事器商场空间越来越大，一批又一批的办事器厂商降生。

在 PC 期间，Wintel 定约的 X86 架构，催生了戴尔和惠普两家外洋办事器巨头。在云狡计期间，多量的数字化需求催生了波澜、工业富联等一系列 OEM 厂商。

然则，就在办事器厂商在每年几百、几千亿营收的华袍下，净利润率却终年为个位数。在波澜始创的 JDM（聚合联想制造）口头下，极致的出产制造带来的是净利率仅为 1-2 个点。

"浅笑弧线造成的原因，并不是因为制造要领自己的问题。是不可掌捏产业链中枢本事和专利，只可设施化出产，无法具备不可替代性的终局。"关于办事器厂商的窘境，一位国泰君安电子分析师对光锥智能如斯讲明说念。

在 AI 期间，办事器厂商的价值正在跟着 AI 再行界说算力应用而改变。对 AI 的垂直整合智商，成了当下办事器厂商角逐的中心。

聚焦到硬件层面，不少办事器厂商依然久了到了智算中心的建造要领。

举例针对 PUE（电源使用着力），新华三、波澜、超聚变、欲望等厂商纷繁推出了液冷整机柜的看守有规划。其中，新华三除了推出了硅光交换机（CPO）来裁汰统统这个词机房的能耗外，还对统统这个词收集居品线齐进行了 AI 优化。另一边，在突破英伟达算力芯片甘休层面，神州数码、欲望等厂商在积极鼓舞国产算力芯片的落地，共同兑现中国芯片产业弯说念超车。

在软件层面，办事器厂商还在积极挖掘 AI 的出产力属性，让业务不局限于卖硬件。

最常见的，是办事器厂商推出的 AI 赋能平台。其中，神州数码在神州问学平台上就整合了模子算力看守、企业私域学问和 AI 应用工程模块。神州数码通过原生 AI 平台的样式，将 Agent 智商融入到办事器的使用要领，让用户的使用过程"越用越好用"。

神州数码副总裁李刚对此评价称，"咱们需要有这么一个平台，用于内嵌企业被环境考据过的 Agent 学问框架，同期还不错不休地去积淀新的 Agent 框架，这个即是神州问学 AI 应用工程平台的价值所在。"

新华三则是充分结合收集居品已有的上风，诈欺 AIGC 兑现了通讯范围的很是检测、趋势预测、故障会诊和智能调优。除了运维要领，新华三还发布了百业灵犀 AI 大模子，试图用通用大模子"带动"行业大模子的样式，进入到不同业业客户的业务要领，进而推广原来 ToB 硬件的业务范围。

"通过不休的科技创新和赓续的居品打磨，寻求 AI 潮水中的新突破，开释 AI 基础设施的新动能。"

正如欲望集团副总裁、中国基础设施业务群总司理陈振宽追忆，办事器厂商恰是在不休加深 AI 垂直一体化的进度中，成绩了如今利润率大涨的效果。

跳出制造的办事器厂商们，正在迎来属于我方的 AI 大期间。