沐曦股份曦云C系列GPU完成腾讯混元Hy4 flash Day 0适配
11月18日,腾讯混元宣布正式开放Hy4 flash大模型权重。

沐曦股份表示,曦云C系列GPU率先完成Hy4 flash Day 0全链路适配,模型当日即在曦云C系列GPU完成推理验证,支持高吞吐、低成本规模化Agent业务落地。
据介绍,Hy4 flash是腾讯混元面向日常生产力场景打造的新一代MoE模型,总参数224B、激活参数12B,支持1M token超长上下文与多模态输入,依托Engram、混合注意力、DFly推理优化,大幅降低KV Cache开销与推理成本,适配文档处理、代码开发、图表解析、多步工具调用、企业办公Agent等高频规模化场景。
本次极速适配依托沐曦全栈自研MXMACA软件栈,底层完成核心算子协同优化,原生兼容vLLM、SGLang主流推理引擎,支持FP8、4bit量化混合精度推理,充分释放曦云C系列算力带宽优势,在长序列、多轮Agent任务下保持稳定低延迟表现。
扫码下载app 最新资讯实时掌握
