> 自媒体 > (AI)人工智能 > 智源:FlagOS完成DeepSeekV4八款芯片Day0 适配,实现三重技术突破
智源:FlagOS完成DeepSeekV4八款芯片Day0 适配,实现三重技术突破
来源:中国日报
2026-05-12 13:40:00
175
管理

中国日报4月24日(记者 程钰)DeepSeek今日发布了DeepSeek-V4-Pro 1.6T 旗舰模型(1.86万亿参数)及DeepSeek-V4-Flash 284B 高效模型(2840亿)。由智源研究院牵头研发的众智FlagOS第一时间对两个“巨无霸”模型进行全量适配,已经完成 DeepSeek-V4-Flash在 8款以上 AI 芯片上的全量适配与推理部署,包括海光、沐曦、华为昇腾、摩尔线程(FP8)、昆仑芯、平头哥真武、天数、英伟达(FP8)等芯片。FlagOS 同时正在推进 DeepSeek-V4-Pro 模型在多个芯片的迁移适配,后续即将开源。

首先完成在八款芯片适配的DeepSeek-V4-Flash 是深度求索推出的 V4 系列两大模型之一,采用混合专家(MoE)架构,总参数量 284B,激活参数仅 13B,支持 100 万 token上下文长度。该模型在架构上引入了混合注意力机制(结合压缩稀疏注意力CSA与高度压缩注意力HCA,大幅提升长上下文效率)、流形约束超连接(mHC,增强跨层 信号传播稳定性)以及 Muon优化器(加速收敛、提升训练稳定性)。预训练数据超过32Ttoken,后训练采用两阶段范式——先通过 SFT和GRPO强化学习独立培养领域专家,再通过在线策略蒸馏将多领域能力统一整合到单一模型中。在最大推理力度模式(Flash-Max)下,给予更大思考预算使其推理能力可接近Pro版本水平;受限于参数规模,在纯知识类任务和最复杂的Agent工作流上略逊于 Pro。

围绕DeepSeek-V4-Flash多芯适配,此次FlagOS系统软件技术栈突破了三大关键技术:FlagGems全算子替代(实现多芯片统一适配)、为o-group采用独立张量并行策略解锁更多低显存场景、以及“FP4 FP8混合精度”的原生权重到 FP8/BF16 的精度路径转换。当下国内出货的AI芯片,都没有FP4的支持。英伟达也只有在Blackwell及之后的高端芯片才支持FP4。这三项关键技术,使得DeepSeekV4能够在当前各种厂商的主流AI芯片上稳定运行,而非仅限于支持 FP4 和大显存的少数高端AI加速卡。

0
点赞
赏礼
赏钱
0
收藏
免责声明:本文仅代表作者个人观点,与本站无关。其原创性以及文中陈述文字和内容未经本网证实,对本文以及其中全部或者 部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。 凡本网注明 “来源:XXX(非本站)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对 其真实性负责。 如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。 QQ:617470285 邮箱:617470285@qq.com
相关文章
或售18万级,比亚迪宋Ultra EV内饰曝光,提供大床模式
【懂车之道 产品】懂车之道获悉,2月25日,比亚迪宋Ultra EV是比亚迪全新..
【趣图】这才是正宗的比亚迪·秦
——这才是正宗的比亚迪·秦,你们的都是假的!——公交车都卷成这样了?..
别争了!比亚迪 DM6.0 升级,混动上 900V 不是没可能
比亚迪DM6.0即将迎来重点升级的消息一出,迅速在车友圈引发热议,其中混..
2025全球汽车销量TOP10出炉!中国品牌“三强聚首” 比亚迪排名创新高..
随着2月26日Stellantis集团财报的发布,2025年全球车企销量排行最终尘埃..
比亚迪天神之眼B5.0会成为行业标准吗
比亚迪天神之眼B5.0有潜力成为智能驾驶行业的标杆,但它更可能定义一种新..
王传福直说惊艳不够?比亚迪押电机路线,2026放大招到底值不值..
2025年临时股东大会上,王传福一句话让人心里一咯噔,最近两年技术惊艳感..
比亚迪天神之眼B5.0是否值得推荐
比亚迪天神之眼B5.0是值得推荐的智能驾驶辅助系统,尤其对于追求安全、舒..
比亚迪2026年产品规划 将推出大唐/海豹08等十几款新车..
【太平洋汽车 新车频道】2025年是比亚迪里程碑式的一年,全年累计销量460..
2026比亚迪3月新车矩阵:腾势、秦、海狮、仰望、方程豹齐上新..
2026年3月,比亚迪将开启密集上新模式,旗下腾势、王朝、海洋、仰望、方..
关于作者
月深沉(普通会员)
文章
2114
关注
0
粉丝
0
点击领取今天的签到奖励!
签到排行

成员 网址收录40418 企业收录2986 印章生成263660 电子证书1157 电子名片68 自媒体114234

0
0
分享
请选择要切换的马甲:

个人中心

每日签到

我的消息

内容搜索