小米玄戒O100亮相:端侧AI提速10倍,带宽达旗舰16倍

金声言资讯消息,小米今日举行技术沟通会,正式推出首款自研AI加速芯片玄戒O100。这款芯片专为端侧大模型打造,被定位为协处理器。 官方数据显示,该芯片整体AI性能比传统方案快了整整十倍。这主要得益于先进的3D堆叠封装技术,成功突破了端侧AI的带宽瓶颈。

说白了,传统手机SoC跑生成式AI时,数据搬运效率太低,常导致大模型卡顿、推理慢。玄戒O100从底层架构入手,解决这个痛点。 它采用6nm晶圆级垂直堆叠工艺,配合混合键合技术,让两块晶圆垂直贴合。这样做的结果,就是数据传输路径大幅缩短。

硬件参数上,玄戒O100做到1.4微米超小键合间距,业内领先。高密度垂直互连通道带来每秒1.22TB的内存带宽,是主流旗舰手机的十六倍。 实测中,跑小米MiMo-3B端侧大模型时,推理速度最高到每秒330个Token。

本地文本生成、智能总结和内容创作,流畅度明显提升。 为了证明技术可行,小米还展示了玄戒O3主SoC加O100协处理器的原型机。整机用双芯协同,主芯片管系统调度和基础运算,O100专门扛大模型推理负载。

不过,这款芯片什么时候量产上车,小米还没公布具体时间。

热门推荐