国产大模型Step 5 Preview开源,阶跃星辰正式开放其权重

10月15日,登上OpenRouter Token全球使用量周榜第二的国产大模型Step 5 Preview开源,阶跃星辰正式开放其权重。

此次开源提供BF16与FP8两个版本,模型权重同步上线Hugging Face和ModelScope。

在Artificial Analysis的Intelligence Index榜单中,Step 5 Preview取得44分,位居全球开源模型前三。

Step 5 Preview采用稀疏MoE架构,总参数量600B,每个Token激活参数仅27B,支持100万Token上下文窗口。

该模型面向长程Agent任务设计,原生支持文本与视觉输入,应用场景覆盖软件工程、专业知识工作及金融等领域。

同日,摩尔线程宣布,旗舰级AI训推一体智算卡MTT S5000及MUSA软件栈已完成对Step 5 Preview的Day-0适配。

该适配涉及混合注意力、混合精度推理、投机解码等环节,实现模型发布即支持。

阶跃星辰同步发布的技术博客介绍了Step 5 Preview的设计思路,包括92层窄深架构、Sparse GQA、训练稳定性优化、百万级可验证环境及长程任务强化学习等。

其中,上下文压缩被纳入端到端策略训练,支持Agent整理任务状态并继续执行;部署方面,Step 5 Preview提供面向多种芯片平台和推理框架的适配。

市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。

财经频道更多独家策划、专家专栏,免费查阅>>

责任编辑:栎树
AI智能分析该文,为您挖掘投资机会该AI功能处于试用阶段,内容仅供参考,请仔细甄别!
展开
精彩推荐
加载更多
全部评论
热榜
关闭 下载金融界app
金融界App
金融界微博
金融界公众号