据SemiAnalysis报告，Anthropic的增长和Amazon Bedrock的产品组合推动了AWS利润率上升，显示出更强的运营杠杆。与同行相比，AWS在Bedrock和Anthropic交易中表现出优势。
Google为开源生产Kubernetes分布式推理工具llm-d添加了夜间CI。TPU在llm-d的CI和代码质量上正在追赶NVIDIA。AMD尚未将其GPU或NIC加入该CI。
AWS在定制AI芯片Trainium和Inferentia上取得进展，团队正在全球最大云基础设施中扩展部署这些处理器。