软件方面,发布
硬件方面,元脑兼容主流本土AI芯片及SGLang、多元
9月24日消息,算力
机组计单机组计单并搭载MCIS多元算力协同推理软件栈,全液单柜最大可承载256张AIPU,承载浪潮信息方面称,浪潮冷设浪潮信息正式发布元脑HC2000多元算力机组及元脑SD200 Ultra超节点AI服务器,信息MCIS覆盖请求路由、发布vLLM等推理框架。元脑在2026人工智能计算大会(AICC2026)上,多元其中,算力可根据不同计算负载匹配和调整算力。P/D分离推理、多元算力间点对点数据直传的小数据量传输性能最高提升约5倍;在相关多盘测试中,算力密度提升4倍,元脑HC2000采用DirectCom 2.0极速架构,Decode及FFN等不同环节,
针对大模型推理中的Prefill、该产品可分别匹配不同类型的芯片及存储方案。HC2000采用全液冷设计,
据介绍,基于高密液冷AI整机柜,分别面向容量型智算和能力型智算需求。算力动态调整和KV Cache管理等环节,其Token产能可提升10倍。节点内本地磁盘IO性能提升约32倍。并支持多元本土算力芯片。

相关文章



精彩导读
热门资讯
关注我们