Penguin 推出 MemoryAI 光子 HBM 级内存设备,硅光子方案打破 AI 内存墙

Penguin Solutions 在 SC26 超算大会正式发布 MemoryAI Photonic Appliance 光子 HBM 级内存设备,和 Marvell 合作打造,是业内首款基于硅光子技术、可以实现 HBM 级带宽的内存池设备,它能让多台 GPU、CPU 跨机架共享内存,解决现在 Agent 大模型、长上下文推理遇到的 GPU 自带 HBM 容量不够、KV 缓存放不下的痛点,不用把 HBM 紧贴在 GPU 芯片旁边,在数米距离上也能拿到接近 HBM 的访问性能。传统 HBM 必须紧贴 GPU,距离只有毫米级别,单卡 HBM 容量很难快速做大,大量 GPU 在跑推理的时候经常因为内存不足降速,很多算力被闲置,这套光子内存设备走光互联路线,把内存资源集中池化,多台服务器一起调度,提升内存整体利用率,专门面向 AI 数据中心大规模部署。

一、设备核心参数

项目详情
产品名称MemoryAI Photonic Appliance
合作方Marvell,底层依托 Marvell Photonic Fabric 硅光子平台
总带宽57.6 Tbps
最大内存配置最高 16TB DDR5 RDIMM + 576GB HBM3E
接入上限最多接入 16 台服务器 / 加速卡节点
访问模式HBM 直接访问、DDR5 直接访问、HBM-DDR5 缓存模式
接口CXL 3.0、光子网卡,支持 CPO/NPO 光互联方案
样品交付计划2027 年下半年向指定客户送样

二、核心技术清单

  1. 硅光子互联:用光信号替代传统铜线,支持跨机架数米距离传输,功耗比铜线更低
  2. 透明内存共享:上层应用不用修改代码、不用拷贝数据,像访问本地内存一样访问池化内存
  3. 智能内存调度:软件动态分配 HBM 和 DDR5 资源,优先给大模型 KV 缓存分配高速 HBM
  4. 内存池化架构:不再是一卡一套独立内存,多 GPU 共享统一内存资源池,减少闲置浪费

三、适用 AI 场景

  • Agentic AI、超长上下文大模型推理,超大 KV 缓存需求
  • 多机分布式推理集群,多 GPU 需要共享大容量内存
  • 混合算力集群,CPU、GPU 统一调度内存资源
  • 数据中心算力扩容,不想大量升级每一张 GPU 的 HBM

四、和普通 HBM 的区别

  1. 传统 HBM:焊在 GPU 旁边,距离毫米级,单卡容量上限固定,只能本机使用
  2. Penguin 光子 HBM 级设备:独立机柜式设备,跨机架共享,HBM 搭配大容量 DDR5 混合使用,是补充而不是替代 GPU 自带 HBM

五、现存限制

  1. 目前还没有量产,2027 下半年才会送样,距离商用落地还有一段时间
  2. 需要配套 Marvell 光子网卡、光交换基础设施,现有机房改造成本较高
  3. 虽然是 HBM 级带宽,跨机架光传输依然存在少量延迟,不适合超高频率小粒度读写

综合来看,Penguin 这款光子 HBM 级内存设备,给 AI 行业提供了一条新思路,不再单纯靠提升单卡 HBM 容量,而是用光互联做内存池化,缓解 AI 行业普遍的内存墙难题,对长上下文 Agent 大模型集群的价值最突出。

【相关 FAQ】

问题 1:Penguin 推出光子 HBM 级内存设备,这款设备全称是什么?

回答 1:Penguin 推出光子 HBM 级内存设备,产品全称是 MemoryAI Photonic Appliance,由 Penguin 和 Marvell 联合开发,在 SC26 大会对外发布。

问题 2:Penguin 推出光子 HBM 级内存设备,光子 HBM 级设备和 GPU 自带 HBM 有什么不一样?

回答 2:Penguin 推出光子 HBM 级内存设备,GPU 自带 HBM 紧贴芯片、只能本机使用;这款光子设备是独立内存池,可以跨机架给 16 台服务器共享,作为 GPU 自带 HBM 的补充,不是直接替换。

问题 3:Penguin 推出光子 HBM 级内存设备,这款光子内存设备主要用来解决什么问题?

回答 3:Penguin 推出光子 HBM 级内存设备,核心解决 AI 内存墙问题,针对 Agent 大模型、超长上下文推理,承载超大 KV 缓存,改善 GPU 因为内存不足导致算力闲置的情况。

问题 4:Penguin 推出光子 HBM 级内存设备,这款光子内存设备什么时候能交付?

回答 4:Penguin 推出光子 HBM 级内存设备,计划 2027 年下半年向部分选定客户提供样品,现阶段还处在技术展示阶段,暂未量产。

【参考资料】

[2026-11-17](Penguin 推出光子 HBM 级内存设备,Marvell 硅光子架构实现跨机架内存共享)IT 之家

[2026-11-17](Penguin、Marvell 发布光子内存池,攻克 AI 内存墙)半导体行业观察

[2026-11-16](Penguin Solutions Unveils Industry's First Photonics-Based HBM-Class Memory Appliance)Business Wire

[2026-11-16](Marvell 与 Penguin 联合推出光子内存方案,面向 Agent AI 推理)Penguin 官方新闻

[2026-11-16](SC26:光子内存池方案详解,57.6Tbps 带宽支持 16 节点共享)TechPowerUp

【免责声明】

本文仅为半导体、AI 算力硬件资讯整理,不构成采购、投资建议。Penguin 光子 HBM 级内存设备目前处于样品规划阶段,带宽、容量、延迟、交付时间、部署成本后续存在调整,产品落地、兼容性、实际性能以厂商正式样品和白皮书为准。

本文来自作者[幻序锚定官]投稿,不代表品途网立场,如若转载,请注明出处:https://bbs.pintu360.com/kjxx/202611/1486676.html

赞 (3)
3 4

发表回复

本站作者后才能评论

评论列表(4条)

  • 幻序锚定官
    幻序锚定官 2026年11月17日

    我是品途网的签约作者“幻序锚定官”!

  • 幻序锚定官
    幻序锚定官 2026年11月17日

    希望本篇文章《Penguin 推出 MemoryAI 光子 HBM 级内存设备,硅光子方案打破 AI 内存墙》能对你有所帮助!

  • 幻序锚定官
    幻序锚定官 2026年11月17日

    本站[品途网]内容主要涵盖:范文、经验、百科

  • 幻序锚定官
    幻序锚定官 2026年11月17日

    本文概览:Penguin Solutions 在 SC26 超算大会正式发布 MemoryAI Photonic Appliance 光子 HBM 级内存设备,和 Marvell 合作打造,是业内首款基于硅光子技术、可以实现 HBM 级带宽的内存池设备,它能让多台 GPU、CPU 跨机架共享内存,解决现在 Agent 大模型、长上下文推理遇到的 GPU 自带 HBM 容量不够、KV 缓存放不下的痛点,不用把 HBM 紧贴在 GPU 芯片旁边,在数米距离上也能拿到接近 HBM 的访问性能。传统 HBM 必须紧贴 GPU,距离只有毫米级别,单卡 HBM 容量很难快速做大,大量 GPU 在跑推理的时候经常因为内存不足降速,很多算力被闲置,这套光子内存设备走光互联路线,把内存资源集中池化,多台服务器一起调度,提升内存整体利用率,专门面向 AI 数据中心大规模部署。

联系我们

联系:143 0457 151

工作时间:周一至周五,9:30-18:30,节假日休息

关注我们