未来AI模型训练或许无需专用硬件,分布式训练正改变规则,降低成本的同时提升模型泛化能力。 曾经全球富豪热衷于攀比游艇、私人飞机和岛屿,如今则是超级计算集群的较量。18个月前,OpenAI用约2.5万张Nvidia顶级GPU训练了GPT-4,而Elon ...