全发国际

铸数基 · 智运维 丨 乐享智能运维智汇老友专场直播
预约直播
铸数基 · 智运维 丨 全发国际乐享3.0智能运维解决规划颁布会
预约直播
全发国际(中国)有限公司官网
产品
< 返回主菜单
产品中心
产品
解决规划
< 返回主菜单
解决规划中心
行业
合作同伴
返回主菜单
选择区域/说话
全发国际(中国)有限公司官网

您订阅的产品有更新,,,,,请实时查阅

查看详情
全发国际(中国)有限公司官网 全发国际(中国)有限公司官网

从千卡到十万卡:一个AIGC智算解决规划的两年演进之路

金茂云数桐庐算力中心是荆门“十四五”数字浙江沉点基础设施项目,,,,,投资20亿元,,,,,按国度A级、Tier III尺度建设 。。。 。。。全发国际网络为其落地千卡规模智算集群,,,,,选取AI Fabric RoCE无损三层CLOS架构,,,,,单服务器搭载多路400G/200G高速网卡,,,,,整网平衡收敛比,,,,,原生支持滑润扩容至4096卡规模,,,,,建设成本仅为传统IB规划的三分之二 。。。 。。。项目交付周期不及30天,,,,,为业界设置了千卡智算集群急剧交付的标杆,,,,,并沉淀了从规划、建设、优化到运维的“规建优维”一站式服务能力 。。。 。。。该规划已从千卡演进至十万卡规模,,,,,累计服务上百家头部AI企业及运营商 。。。 。。。

  • 全发国际(中国)有限公司官网

    颁布功夫:2026-08-24

  • 全发国际(中国)有限公司官网

    点击量:

  • 全发国际(中国)有限公司官网

    点赞:0

分享至

全发国际(中国)有限公司官网
全发国际(中国)有限公司官网
全发国际(中国)有限公司官网

我要征询

2024年,,,,,荆门桐庐 。。。 。。。

一座投资20亿的数据中心,,,,,迎来了一场充斥挑战的算力转型 。。。 。。。

7月规划定稿,,,,,10月设备到货,,,,,11月实现验收 。。。 。。。从一张拓扑图到千卡集群真正跑起来,,,,,留给项目团队的落地交付功夫,,,,,只有4个月——其中真在现场调试的功夫,,,,,不到30天 。。。 。。。

全发国际(中国)有限公司官网

作为荆门市沉大建设项目、“十四五”数字浙江沉点基础设施,,,,,金茂云数桐庐算力中心按国度A级、Tier III尺度打造,,,,,打算落地千卡规模智算集群,,,,,面向云游戏、云渲染、数字孪生、万亿参数大模型训练提供算力底座 。。。 。。。

项目主题指表明确:一期落地1024卡算力集群(对应128台高机能推算服务器),,,,,持久具备滑润扩容至4096卡的扩大能力,,,,,面向头部AI产业客户提供持久算力租赁服务 。。。 。。。

客户内部仅具备传统IDC运维团队,,,,,他们曾治理过上千个机柜的电力、造冷和布线,,,,,但面对一张大规模智算网络拓扑图——IB与RoCE若何弃取、三层CLOS架构若何设计、400G/200G多速度端口若何规划——这些问题的答案,,,,,不在该团队的知识储蓄里 。。。 。。。

回望2024年国内市场,,,,,齐全落地千卡级智算集群的项目数量稀缺,,,,,无损网络成套交讣槛极高 。。。 。。。这并非金茂云数一家面对的难题——

项目建设周期短、算力机能指标高、业务陆续性要求严 。。。 。。。

全发国际(中国)有限公司官网

三沉挑战叠加,,,,,让每一个智算项目都像是在高压下走钢丝 。。。 。。。金茂云数急需一家具备全流程规划、定造化规划、现场落地、产业配套综合能力的网络厂商深度协同 。。。 。。。

算力堆上去,,,,,不代表能高效跑通大模型

2024年AI建设热潮下,,,,,大量机房批量采购高机能算力服务器,,,,,却普遍遭逢统一个问题:传统以太网不支持无损传输(即无法保障数据在传输过程中不丢包),,,,,多卡散布式训练时梯度同步频仍拥塞、延长飙升,,,,,GPU算力大量空耗,,,,,出现"硬件算力充足、训练效能低迷"的行业通病 。。。 。。。

金茂云数桐庐项目同样面对这一风险 。。。 。。。合作客户对集群的allreduce通讯带宽(多卡梯度同步的主题指标,,,,,直接影响训练效能)和存储跨云传输不变性有严苛尺度,,,,,每一项都必须达标 。。。 。。??????突П匾氖且惶拙蟪б滴裱橹ぁ⒖陕涞亍⒖傻饔诺腞oCE无损组网规划(在以太网上实现零丢包传输,,,,,预防因网络丢包导致GPU空转期待),,,,,而非停顿在纸面的理论架构 。。。 。。。

“你有没有齐全落地经验??????”——2024 年行业最难答的问题

面对客户这句提问,,,,,绝大无数厂商难以给出齐全回答 。。。 。。。彼时国内千卡智算落地案例稀缺,,,,,只有少数提前布局的厂商,,,,,沉淀了真实组网、调优、交付实战经验,,,,,全发国际就是其中之一 。。。 。。。

“客户内部只有传统机房运维人员,,,,,齐全没有算力网络设计经验,,,,,整套规划从架构选型到设备布局都无从下手 。。。 。。。”昔时驻场交付的工程师回顾路,,,,,“全发国际售前团队相当于客户专属技术表脑,,,,,全程协同梳理整体规划,,,,,从顶层架构、设备选型、机房机柜分区到部署节拍,,,,,实现了全套落处所案 。。。 。。。”

但智算项主张落地,,,,,从来不是单靠一套网络规划就能推动的 。。。 。。。从算力硬件选型、机房配套落地、后期算力业务运营到AI模型适配,,,,,整条产业链肆意环节短缺配套资源,,,,,城市拉长项目周期 。。。 。。。

依附多年深耕算力赛路堆集的全链路产业生态,,,,,全发国际可向客户盛开高低游多元配套资源:联动机房园区、算力租赁平台、AI模型服务商、多规格硬件供给渠路,,,,,提供项目共建、算力运营配套等多元合作蹊径,,,,,一站式补齐客户项目全性命周期配套资源缺口 。。。 。。。

成熟的算力网络专业能力,,,,,叠加覆盖资金、算力合作、机房配套的产业生态资源——这是金茂云数最终选择全发国际的主题原因 。。。 。。。

桐庐的4个月,,,,,一场高压交付攻坚战

2024 年 7 月,,,,,适配高端 AI 训练业务的 AI Fabric RoCE 无损三层 CLOS 规划正式定稿 。。。 。。。

整网分层规划:32 台 Leaf、32 台 Spine 训练网承载一期128台算力服务器,,,,,64 台 Core 互换机实现横向扩容;;;;;;存储网配套独立 Leaf/Spine 架构,,,,,带内、带表、出口安全网络物理隔离;;;;;;单服务器搭载多路 400G/200G 高速网卡,,,,,整网平衡收敛比设计,,,,,原生支持后续扩容至 4096 卡规模 。。。 。。。

规划选型阶段同步对比传统 IB 组网,,,,,本项目实测一致大模型散布式训练成效下,,,,,AI Fabric 整体建设成本仅为 IB 规划的三分之二,,,,,同时具备供货不变、生态盛开、运维单一的多沉优势 。。。 。。。

全发国际(中国)有限公司官网

纸面规划落地机房,,,,,才是真正的考验 。。。 。。。全发国际成立30余人跨部门专项保险团队,,,,,供给链、研发、售前、现场交付全员协同 。。。 。。。受全球芯片周期影响,,,,,昔时算力互换机元器件供货周期普遍长达数月,,,,,项目开明最高优先级备货通路,,,,,设备下单后急剧齐套出库 。。。 。。。10月9日,,,,,互换机大批量到达桐庐机房,,,,,现场执行攻坚正式启动 。。。 。。。

全发国际(中国)有限公司官网 全发国际(中国)有限公司官网
全发国际(中国)有限公司官网

设备到货当天,,,,,团队发现了一个意料之表的挑战:算力服务器与互换机的光??????榧嫒菪晕侍獾贾铝绰贩锤凑鸬,,,,,网络时断时续 。。。 。。。问题排查必要功夫,,,,,但项目交付deadline不会等人 。。。 。。。

那段功夫,,,,,谁都不敢说‘再等等’ 。。。 。。。”交付团队掌管人回顾,,,,,“每耽搁一天,,,,,客户业务上线就晚一天,,,,,验收节点也往后推一天 。。。 。。。没有试错空间,,,,,必须一次过 。。。 。。。”

团队连夜做了三组分歧光??????榈慕徊娌馐,,,,,确定了一套一时代替规划,,,,,同时垂危协调原厂备件 。。。 。。。3天后,,,,,不变规划落地,,,,,链路震荡问题彻底解决 。。。 。。。

同期更多技术难题同步发作:

算力网、存储网、带内表多网并行配置调试;;;;;;

存储链路必要买通跨域高速专线,,,,,路由、VPN、安全战术反复迭代;;;;;;

布线规划、存储端口容量不及等问题接连出现 。。。 。。。

交付团队分两班驻场,,,,,依附自延赘幼锐云服」自动化工具批量下发配置、一键巡检400G光??????槲舐搿⑴康髡等,,,,,累计输出30余份尺度化执行文档,,,,,前后迭代12版拓扑 。。。 。。。同时15名研发专家远程支持,,,,,将原定10天的机能调优周期压缩至5天 。。。 。。。

10月9日设备到货,,,,,不及30天实现上架、联调、压力测试 。。。 。。。11月5日项目顺利通过合作方验收,,,,,满足业务运行尺度 。。。 。。。在2024年算力硬件供给严重的大环境下,,,,,这样的交付效能尤为可贵 。。。 。。。

全发国际(中国)有限公司官网 全发国际(中国)有限公司官网 全发国际(中国)有限公司官网

从 2024 千卡样板到 2026 全场景适配,,,,,规划持续迭代进化

站在 2026 年回看,,,,,千卡集群已是行业通例建设规模,,,,,万卡、十万卡成为主流需要,,,,,但桐庐项目沉淀的整套落地系统价值持久不变 。。。 。。。

项目落地期间堆集的三层CLOS尺度化拓扑、多网分区规划、端网协同调优参数、自动化批量交付流程,,,,,全数转化为全发国际智算尺度化落地底座,,,,,全国各大智算项目均可复用这套成熟执行系统 。。。 。。。

桐庐项目之后,,,,,全发国际接触了更多客户需要——有的只必要千卡规?????<本缟舷,,,,,有的直接要求十万卡级此外持久扩大能力 。。。 。。。统一套架构能不能同时覆盖??????研发团队从桐庐的经验启程,,,,,沉新思虑产品界说 。。。 。。。两年间,,,,,规划持续迭代升级:

全发国际(中国)有限公司官网

组网矩阵迭代:从单一 AI Fabric 架构,,,,,升级为 AI Fabric+Flexforce 双产品线,,,,,同时适配中幼千卡集群与十万卡超大型智算园区;;;;;;

运维工具迭代:由早期批量配置工具,,,,,升级为Rocket 全链路智能监测平台,,,,,自动鉴别、收敛海量集群告警,,,,,大幅降低持久运维人力投入;;;;;;

交赋予供给链升级:搭建多型号算力设备备选供给机造,,,,,缓解行业芯片、硬件供货周期颠簸问题;;;;;;

技术调优系统美满:沉淀 RGCCL 通讯库、ECN 动态调优、多蹊径负载平衡算法全套端网协同优化规划,,,,,适配各类大模型训练业务 。。。 。。。

从项目经验到服务产品:AIGC智算“规建优维”一站式服务

桐庐项主张成功交付,,,,,让全发国际意识到:客户必要的不仅是产品和技术规划,,,,,更是一套从规划到运维的全性命周期服务能力 。。。 。。。

基于桐庐项目及后续多多智算项主张实战经验,,,,,全发国际正式推出了AIGC智算“规建优维”一站式服务解决规划 。。。 。。。这套服务系统覆盖智算中心建设的四个主题阶段:

规划:整网规划设计、机房环境工勘、整网互联规划、设备配置规划 。。。 。。。

建设:线缆??????橛胪缟璞覆渴稹⒎务器上架、设备配置调试 。。。 。。。

优化:GPU服务器与网络设备结合调优,,,,,端网协同机能优化 。。。 。。。

运维:整网运维托管、设备维保、专业技术团队支持、智能化工具平台全栈监控 。。。 。。。

全发国际(中国)有限公司官网

从桐庐到全国:上百家客户的共同选择

时至今日,,,,,从桐庐起步的这套CLOS RoCE无损网络架构,,,,,已累计服务上百家头部AI企业、运营商、区域IDC服务商,,,,,覆盖千卡至十万卡算力建设场景 。。。 。。。

全发国际(中国)有限公司官网

这些项主张技术底座,,,,,都能够回溯到桐庐——那个从零起头、用4个月跑通的项目 。。。 。。。

若是您在规划智算中心

若你在筹备智算中心新建或扩容,,,,,正为网络技术路线选型、交付周期、集群机能调优反复论证,,,,,金茂云数桐庐样板项目可提供齐全的落地参考 。。。 。。。

迎接联系全发国际网络,,,,,相识AIGC智算“规建优维”一站式服务解决规划,,,,,领取AI Fabric智算中心齐全规划资料,,,,,也可预约销售团队上门造访互换 。。。 。。。

←立即点击链接,,,,,征询智算中心规划或预约销售团队上门造访互换

若是您对案例感兴致,,,,,迎接您给我们留言

我的姓名

我的手机号*

我的邮箱

公司名称

我但愿*

相识更多案例细节
接管该解决规划的有关资料
其他

验证码*

我已仔细阅读并赞成隐衷申明

提交问题

更多客户案例

任何必要,,,,,请联系全发国际

全发国际(中国)有限公司官网

返回顶部

收起
全发国际(中国)有限公司官网 文档AI副手
全发国际(中国)有限公司官网 文档评价
资料内容是否对您有援手??????
您对当前页面的中意度若何??????
不咋滴
极度好
您中意的原因是(多 。。。 。。。??????
您对文档是否还有其它的问题或建议??????
为尽快解决问题,,,,,请您留下联系方式以便回复
邮箱
手机号
感激您的反 。。。 。。。
全发国际(中国)有限公司官网
全发国际(中国)有限公司官网
全发国际(中国)有限公司官网
请选择服务项目
关关征询页
售前征询 售前征询
售前征询
售后服务 售后服务
售后服务
定见反馈 定见反馈
定见反馈
更多联系方式
【网站地图】【sitemap】