清除 当前 11 条 / 共 5442 条
筛选已选
筛选
数据源
投研/平台
官方/公司
资讯/RSS
Twitter/X
微信公众号
时间
信息等级
标签
异常/暂停数据源 10
AI 基建 · 41 天 1 小时前 微信公众号 · 180K-星球讨论群🌟 · 从未运行 微信公众号 · 42章经 · 18 天 20 小时前 微信公众号 · DeepTech深科技 · 18 天 20 小时前 微信公众号 · Founder Park · 18 天 20 小时前 微信公众号 · FundaAI · 18 天 20 小时前 微信公众号 · 九章智驾 · 18 天 20 小时前 微信公众号 · 晚点LatePost · 18 天 20 小时前 微信公众号 · 琢磨事 · 18 天 20 小时前 微信公众号 · 甲子光年 · 18 天 20 小时前

华为在昇腾芯片上成功预训练了一个大语言模型,采用超节点优化训练和DSA技术,旨在证明其硬件能力。

  • 华为在昇腾芯片上预训练大语言模型
  • 采用超节点优化训练和DSA技术
  • 华为意在证明其硬件可完成大模型训练

Twitter用户评论中国超算节点制造能力,认为即使只能制造约100个SuperPODs(需82万颗Ascend 950DTs),今年仍将生产超过100万颗Hopper级芯片。

  • 100个SuperPODs需要82万颗Ascend 950DTs
  • 预计今年将制造超过100万颗Hopper级芯片

推文称有人从第一性原理复现了DeepSeek的光学上下文压缩技术,指出其令牌实际上是KV槽,磁盘空间仍大于文本和渲染图像,故该技术有效是因为多数缓存设计臃肿。

  • DeepSeek光学上下文压缩技术被从第一性原理复现
  • 该技术的令牌实际上是KV槽
  • 磁盘空间仍大于文本和渲染图像,有效源于缓存设计臃肿

推特用户@teortaxesTex讨论了一种名为NotSuperPod的配置:1EFLOPS FP8算力、20个机柜、占地125平米,规模约为GB300 NVL72的3倍,并提到与DeepSeek此前列出的配置相似。

  • NotSuperPod配置为1EFLOPS FP8、20机柜、125平米
  • 其规模约为GB300 NVL72的3倍
  • 该配置与DeepSeek此前列出的配置类似

DeepSeek首次公开表明拥有计算基础设施而非租赁,并发布关于其数据中心的论文。这标志着DeepSeek在算力布局上的战略转变,与其他AGI实验室形成对比。

  • DeepSeek首次公开拥有计算基础设施而非租赁
  • DeepSeek发布了关于其数据中心的论文

推特用户@teortaxesTex指出,某V4模型缓存占用进一步缩小至每1M上下文360 MB,相当于每token 360字节,接近原始明文限制的两个数量级。

  • V4缓存占用缩小至每1M上下文360 MB
  • 每token缓存占用360字节

DeepSeek首次确认目标建设从兆瓦到千兆瓦范围的基础设施,并透露正在自研系统,不打算购买华为的预制950 pods。

  • DeepSeek目标建设千兆瓦级基础设施
  • DeepSeek自研系统,不买华为预制舱

推文作者对HBM产能需求进行估算:CXMT HBM产能约50-60K WPM,每片晶圆产出约2TB HBM3E,每个SuperCluster需75PB,对应3.75万片晶圆,约3周产出,认为当前产能不构成瓶颈。

  • CXMT HBM产能约50-60K WPM
  • 每个HBM3E晶圆可产出约2TB
  • 每个SuperCluster需要75PB HBM

华为在2025年全联接大会上宣布Ascend SuperCluster计划,预计2026年第四季度实现。该系统占地64000平方米,配备524000个NPU,搭载75.5PB的HiZQ 2.0 HBM,总物料成本超过已售CloudMatrix 384系统的5倍。

  • 华为发布Ascend SuperCluster计划,目标2026年Q4实现
  • 系统含524K NPU和75.5PB HBM,占地64K平方米
  • BOM超过所有已售CloudMatrix 384的5倍

讨论Cerebras WSE-3最大集群规模为2048系统(47MW),华为950超级集群可能超过500MW,2027年960集群可能超过1GW,并计划2030年实现30KW芯片。

  • Cerebras WSE-3集群最大计划为2048系统,功耗47MW
  • 华为950超级集群功耗可能超过500MW
  • 华为计划2030年实现30KW芯片

华为计划在2030/31年部署LogicFolding Ascends芯片,密度超过400 Mtr/mm²,单芯片功耗达30KW,可能采用晶圆级引擎设计。

  • 华为计划2030/31年部署LogicFolding Ascends芯片
  • 芯片密度超过400 Mtr/mm²
  • 单芯片功耗30KW,可能采用晶圆级引擎