华为在昇腾芯片上成功预训练了一个大语言模型,采用超节点优化训练和DSA技术,旨在证明其硬件能力。
一篇关于“Defense-in-Depth Verifier”的论文,主要致力于击败奖励黑客,是RL环境中的一项工作。
Twitter用户评论中国超算节点制造能力,认为即使只能制造约100个SuperPODs(需82万颗Ascend 950DTs),今年仍将生产超过100万颗Hopper级芯片。
推文称有人从第一性原理复现了DeepSeek的光学上下文压缩技术,指出其令牌实际上是KV槽,磁盘空间仍大于文本和渲染图像,故该技术有效是因为多数缓存设计臃肿。
团队宣布其第一个产品River API进入早期访问阶段,该API提供经过实战测试的工具。
推特用户@teortaxesTex讨论了一种名为NotSuperPod的配置:1EFLOPS FP8算力、20个机柜、占地125平米,规模约为GB300 NVL72的3倍,并提到与DeepSeek此前列出的配置相似。
DeepSeek首次公开表明拥有计算基础设施而非租赁,并发布关于其数据中心的论文。这标志着DeepSeek在算力布局上的战略转变,与其他AGI实验室形成对比。
一家名为River AI的新AI公司宣布成立,使命是构建由用户拥有和塑造的AI系统。该消息由个人在Twitter上发布,引发一定关注。
推文指出Anthropic的Mythos模型属于上一代预训练技术,预计到2027年第一季度,Anthropic将完成更强大的模型,目标将领先优势扩大至24个月。
推特用户@teortaxesTex指出,某V4模型缓存占用进一步缩小至每1M上下文360 MB,相当于每token 360字节,接近原始明文限制的两个数量级。
用户通过图像描述器生成提示词,测试了HiDream-O1-Image和GPT-Image-2的文本生成图像能力,发现HiDream-O1-Image在逼真度上优化强势,但不及GPT-Image-2。
据推特用户@teortaxesTex透露,华为已将Ascend 950DT芯片的上市时间从原计划的2026年第四季度提前,相比2025年9月的路线图有所调整。该消息引发关注,提及HBM供应问题。
DeepSeek首次确认目标建设从兆瓦到千兆瓦范围的基础设施,并透露正在自研系统,不打算购买华为的预制950 pods。
一条推特讨论AI基准测试趋势,指出benchmaxxing时代已结束,业界不再严重依赖训练集作弊;持续更新的基准测试如LCB出现;大约2025年初,模型在截断后切片上不再崩溃。
推文作者对HBM产能需求进行估算:CXMT HBM产能约50-60K WPM,每片晶圆产出约2TB HBM3E,每个SuperCluster需75PB,对应3.75万片晶圆,约3周产出,认为当前产能不构成瓶颈。
推特对比日本与中国人口年龄中位数和人均GDP:1995年日本中位年龄39岁,人均GDP 4万美元,排名第三;如今日本人均GDP降至3.57万美元,排名第39。2023年中国中位年龄达39岁,人均GDP 1.3万美元。
华为在2025年全联接大会上宣布Ascend SuperCluster计划,预计2026年第四季度实现。该系统占地64000平方米,配备524000个NPU,搭载75.5PB的HiZQ 2.0 HBM,总物料成本超过已售CloudMatrix 384系统的5倍。
讨论Cerebras WSE-3最大集群规模为2048系统(47MW),华为950超级集群可能超过500MW,2027年960集群可能超过1GW,并计划2030年实现30KW芯片。
华为计划在2030/31年部署LogicFolding Ascends芯片,密度超过400 Mtr/mm²,单芯片功耗达30KW,可能采用晶圆级引擎设计。
有观点称中国BF-20发动机已成熟,可能用于ZQ-3火箭,使中国有望成为第二个拥有真正可重复使用火箭的国家。