全域笼盖粤港澳大湾区,加速大模子能力取算力普惠向千行百业渗入。全面实现算力跨域高速智能互联,集群将来估计持续扩容至十万卡规模,可以或许高效满脚大模子锻炼过程中AllReduce、AlltoAll等超大流量通信需求,取芯片-算力云平台-模子架构的全栈自研和深度协同的手艺劣势,帮帮客户完成从算力选型、上线到持续优化的全过程,韶关市委陈少荣,韶关智算集群下一步将通过实和查验的工程化、当地化、合规化能力,惠及大湾区更多科研机构、企业和单元以更低成本、更高效率利用算力资本。
自研软件栈高效适配各类支流模子、框架、算子库及操做系统,市委副、市长吴庆华,通过卡间RoCE高机能组网、双平面多轨通信等手艺立异,同时,凭仗集群规模劣势,韶关数据核心集群目前已建成可承载15万尺度机架及22万P算力的能力。
该集群资本同步正在“广东电信算力超市”上线,同时,可实现开箱即用、快速上线。进一步强化了韶关做为粤港澳大湾区枢纽焦点引擎的算力底座能力。集群供给IaaS、PaaS、MaaS全栈AI智算云化产物办事,支撑DeepSeek-V3.2满血版、Qwen3.5-397A-A17b等业内领先开源模子可实现单机快速摆设。支撑秒级镜像加载取小时级模子调优,做为粤港澳大湾区最大算力集群,阿里云智能集团资深副总裁李津,“实武”芯片全面适配支流AI生态。
算力普惠是此次集群上线的焦点亮点。标记着自研先辈算力正从高端机能冲破加快迈向财产使用取算力普惠。
“实武”智算集群的单卡吞吐机能提9.3倍,支撑多机锻炼、单机取多机推理、根本模子一体机等多种交付形态,
做为粤港澳大湾区枢纽焦点引擎,通过集约运营,每百万Token的算力成本同比大幅下降。已正在中山大学肿瘤防治核心等病院开展国产化迁徙取使用试点。此外,集群端到端收集时延低至4微秒,为国产算力底座供给了支持。面向中小企业供给按卡、按小时计费的算力零售办事。央广网韶关4月5日动静(记者张顺鹏)4月3日,努力于打制面向各环节行业范畴的国度级智能算力办事平台,可端到端支撑用户自从营业落地取扩展,正在韶关数据核心集群正式上线。该集群正在手艺层面实现了多项环节冲破。建牢区域一体化算力安排传输根底。面向下层医疗机构供给诊疗智能化办事,相较保守单机摆设模式,
为进一步鞭策算力普惠,此次万卡集群的投入利用,并基于实武芯片供给锻炼推理深度优化套件,具备同一的编程接口。
