DeepSeek开源昇腾基础组件

DeepSeek官微消息,公司正式开源面向华为昇腾算力平台的基础设施组件,涵盖TileLang高级语言编译工具、计算库、分布式通信库。所有组件与此前面向英伟达平台的开源组件一一对应。

本次开源的TileLang昇腾版本,对昇腾Ascend C底层指令进行封装、提供高级语言的编程方式、同时不损失硬件性能。这正是TileLang的设计初衷。目前,DeepSeek训练中用到的每一个TileLang算子,在昇腾上都有对应的高性能实现。 TileLang 昇腾版本作为一个开源工作,希望能对更多AI芯片建立高可用软件生态起到示范作用。

本次开源还包括昇腾平台核心计算与通信组件,为不同使用场景提供可复用的基础能力:DeepGEMM加速通用矩阵运算;DeepEP提供高效的大规模跨设备通信;TileKernels提供数据处理所需的常规向量计算和访存算子;FlashMLA提供稀疏注意力算子,提升长上下文处理效率;DeepSelect则实现了高效的数据筛选。在多项关键测试用例中,上述组件的计算与通信性能已接近硬件上限。

财经频道更多独家策划、专家专栏,免费查阅>>

责任编辑:栎树
AI智能分析该文,为您挖掘投资机会该AI功能处于试用阶段,内容仅供参考,请仔细甄别!
展开
精彩推荐
加载更多
全部评论
热榜
关闭 下载金融界app
金融界App
金融界微博
金融界公众号