PaLM：PaLM: Scaling Language Modeling with Pathways

arXiv · Google Research

Google 基于 Pathways 系统训练的 540B 稠密语言模型，实现无流水线高效跨 Pod 扩展并刷新百项基准。