分享好友 最新资讯首页 最新资讯分类 切换频道
端边算力再升级,后摩智能 160TOPS 端边大模型AI芯片正式发布
2025-08-05 09:30
图片

近日,后摩智能正式发布全新端边大模型 AI 芯片——后摩漫界®M50,同步推出力擎™系列 M.2卡、力谋®系列加速卡及计算盒子等硬件组合,形成覆盖移动终端与边缘场景的完整产品矩阵。

图片

后摩智能创始人兼CEO 吴强博士现场发布


M50 芯片产品矩阵发布

M50 芯片实现了160TOPS@INT8、100TFLOPS@bFP16 的物理算力,搭配最大 48GB 内存与153.6 GB/s 的超高带宽,典型功耗仅 10W,相当于手机快充的功率,就能让PC、智能语音设备、机器人等智能移动终端高效运行1.5B 到 70B 参数的本地大模型,真正实现了"高算力、低功耗、即插即用"。

除了 M50 芯片,后摩智能此次发布的产品矩阵形成了覆盖端侧到边缘的多元算力方案。力擎™️LQ50 M.2 卡以口香糖大小的标准 M.2 规格,为 AI PC、AI Stick、陪伴机器人等移动终端提供 "即插即用" 的端侧 AI 能力,支持 7B/8B 模型推理超 25tokens/s;力擎™️LQ50 Duo M.2 卡集成双 M50 芯片,以 320TOPS 算力突破 14B/32B 大模型端侧部署瓶颈;力谋®LM5050 加速卡与力谋®LM5070 加速卡分别集成 2 颗、4 颗 M50 芯片,为单机及超大模型推理提供高密度算力,最高达 640TOPS;BX50 计算盒子则以紧凑机身适配边缘场景,支持 32 路视频分析与本地大模型运行。

图片

些产品可广泛应用于消费终端、智能办公、智能工业等多元领域,且均能在离线状态下实现全流程本地处理,从源头杜绝数据联网传输风险。


存算一体领先企业

端侧设备对低功耗、低延迟、高隐私性有极高要求,而传统冯·诺依曼架构下“数据搬运”带来的功耗和延迟成为瓶颈。存算一体通过在存储单元内完成计算,大幅减少数据搬移,能效提升可达10~100倍。

存算一体正成为端侧AI芯片的“新标配”,其在极低功耗场景下的能效优势与边缘AI的爆发需求高度匹配,预计将在2025年后迎来大规模应用,特别是在AI PC、智能学习机、智能语音设备等领域率先普及。

后摩智能是全球存算一体大算力AI芯片的先行者和落地者,2020年由吴强博士在南京创立。

后摩智能创始人吴强博士表示,后摩智能选择存算一体赛道出于两个朴素原因:从学术端看,我的论文方向是高能效比计算芯片与编译器,一路跑数据、跑仿真后,发现传统架构的功耗墙和存储墙几乎无解,唯一能让能效量级的跃迁,只有把计算“搬进”存储阵列。从产业端看,创业之初就要面对英伟达这样的国际巨头,正面拼工艺、拼生态几乎没胜算,只能做别人没做过的架构,才能另辟蹊径,实现“弯道超车”。于是,我们一头扎进这条当时还偏冷门的赛道,埋头干了四年多。

在大模型里,Prefill 阶段算力占主导,Decoding 阶段带宽占主导,两者轮番成为瓶颈。存算一体天生把计算塞进存储阵列,既抬高了片上算力密度,又把访存带宽拉到极致,恰好一次解决“算”与“存”的双重饥渴。吴强博士表示,大模型正在从“训练为王”转向“推理为王”; 主战场正从云端滑向端边——90 % 的计算将发生在端和边,仅 10 % 的重度训练留在云端。

这意味着端边侧将出现一个前所未有的“大模型真空地带”:它需要实时响应、要低到地板的 TCO、必须本地闭环保护隐私,还要把用户体验做到极致。谁先填上这个真空,谁就能让 AI 真正变成“更懂你的 AI”。


存算一体第二代IPU专为大模型重构

后摩智能围绕“存算一体”已完成两代核心 IP 的自主研发,并同步迭代了配套的 IPU 处理器架构与软件工具链,形成了从 IP → 芯片 → 工具链的完整自研闭环。

后摩智能基于自研的高效存算IP,正式发布第二代IPU架构——天璇。针对大模型时代对算力密度与能效比的极致需求,天璇从底层架构到微架构全面重构,围绕大模型的核心特征(如高并行、高带宽、低延迟、稀疏计算等)进行了深度优化:

图片

无论是存算的IP还是所谓IPU的核,其实都还是硬件,很多老师知道硬件离不开软件,软件需要一个好的硬件,需要一个好的编译器工具链去把它的能力充分发挥出来。M50配备的是我们新一代编译器工具链——后摩大道。

面向未来,后摩智能已启动下一代 DRAM-PIM 技术研发,通过将计算单元直接嵌入 DRAM 阵列,使计算与存储的协同更加紧密高效。该技术将突破 1TB/s 片内带宽,能效较现有水平再提升三倍,推动百亿参数大模型在终端设备实现普及,让更强大的 AI 算力能够融入 PC、平板等日常设备。



- End -

芯榜成立于 2015 年,是半导体垂直领域产业媒体,全网粉丝量超 100 万。其聚焦芯片产业,发布专业榜单,提供多样化服务,如举办峰会活动、原创内容访谈、开展研究咨询等,致力于成为智能数字服务平台,推动半导体及硬科技产业发展。
最新文章
特斯拉因Robotaxi被股东指控涉嫌欺诈,马斯克怒喷原告律师
【TechWeb】8月6日消息,据外媒报道,特斯拉股东在得克萨斯州西区联邦地区法院提起诉讼,将这家电动车制造商及其 CEO 埃隆·马斯
博众 MCP 服务上线阿里百炼平台,为证券服务生态智能化注入新动能
  随着金融科技迈入深度赋能期,证券服务生态正迎来智能化转型的重要节点。凭借敏锐的行业洞察力与强大的技术研发实力,广东博众
生普洱茶能长期存放吗百度生普洱茶能长期存放吗百度
生普洱茶能长期存放吗百度生普洱茶能长期存放吗百度生普洱茶能长期存放吗?这个难题看似简单其实背后藏着不少门道。茶叶的保留方
原创闷声干大事!樊振东公布新身份,加盟美国乒乓联赛,为现役第三人
2023年8月6日,北京时间,美国乒乓球大联盟(MLTT)官网发布了一则引人注目的公告:“突发消息,欢迎加入MLTT,樊振东!这位奥运
青岛市崂山区:强化蚊媒传染病防控能力 筑牢社区健康防线
齐鲁网·闪电新闻8月2日讯 (山东台综合广播 马秀明)为提升各街道各社区应对蚊媒传染病防控的能力,扎实做好基孔肯雅热等蚊媒
大屏党有福!iPhone 17 Pro Max将有三大独有优势
【TechWeb】近段时间以来,全新iPhone 17系列尤为吸引外界的目光,而根据供应链最新爆料,iPhone 17系列距离亮相仅剩不到两个月
高温“烤”验下的安全护航 市临空区邀请专家深入25家企业精准排查隐患
“生产车间物料堆放未达安全距离、消防通道被杂物堵塞——这些看似细微的隐患,在夏季高温天气下极易酿成重大事故,必须立即整改
国香醉月茅台酒瓶子回收一套空酒瓶子创造回收各类空酒瓶茅台评估
海淀区、东城区、西城区、宣武区、丰台区、朝阳区、崇文区、大兴区、石景山区、门头沟区、房山区、通州区、顺义区、怀柔区、昌平
原创俄罗斯突发奇招,将了中国和美国一军!
在7月29日,俄罗斯总统的发言人佩斯科夫通过媒体向美国发出了一条引人瞩目的信息:他表示,如果特朗普前往中国参加九三阅兵,普
浒墅关新鹿花苑社区:文化润心,公益课堂点亮成长之“鹿”
为弘扬中华优秀传统文化,促进青少年全面发展,浒墅关新鹿花苑社区倾力打造“文润新鹿”公益课堂项目,提供书法、声乐、象棋等多
推荐文章