三星公布LPDDR5X-PIM性能 端侧AI推理速度提升2.3倍

观点网讯:8月26日,三星电子公布面向智能手机、AI PC端侧AI设备的LPDDR5X-PIM架构及详细性能指标。该技术可在内存内部直接完成部分运算处理,无需将数据反复传输至处理器,旨在解决端侧AI对低延迟、高算力内存的需求。

三星使用Meta拥有80亿参数的Llama 3.1模型进行测试,结果显示:处理时间从传统LPDDR5X的12.3秒缩短至5.4秒,提速约2.3倍;每秒Token处理量从27个提升至81.3个,是现有产品的3倍。

LPDDR5X-PIM基于LPDDR5X内存标准升级,属于内存计算(PIM)技术范畴。该技术通过减少数据搬运,提升内存与处理器间的数据传输效率。

对AI终端厂商而言,该技术可能提升智能手机、AI PC等设备的本地AI处理能力,减少对云端依赖。对内存产业链而言,PIM技术或推动内存芯片设计、制造和封装环节的变革,但量产时间节点尚未公布。

免责声明:本文内容与数据由观点根据公开信息整理,不构成投资建议,使用前请核实。

财经频道更多独家策划、专家专栏,免费查阅>>

责任编辑:小讯
AI智能分析该文,为您挖掘投资机会该AI功能处于试用阶段,内容仅供参考,请仔细甄别!
展开
精彩推荐
加载更多
全部评论
热榜
关闭 下载金融界app
金融界App
金融界微博
金融界公众号