分布式训练与计算硬件

9 个专题 · 270 道题

1850

是否遇到 memory、data 或 CPU/GPU bound，发生在训练还是推理？

模型训练与对齐分布式训练与计算硬件

项目深挖

进阶

1853

模型训练或推理显存不足时有哪些优化方法？

模型训练与对齐分布式训练与计算硬件

方案设计

进阶

1854

ZeRO-3 的原理是什么？

模型训练与对齐分布式训练与计算硬件

原理机制

进阶

1855

已经使用 ZeRO-3 后，还可以采用哪些显存优化方法？

模型训练与对齐分布式训练与计算硬件

方案设计

进阶

1895

简历中的分布式训练或推理具体指什么？

模型训练与对齐分布式训练与计算硬件

项目深挖

进阶

2491

4B 模型推理时的显存占用是多少，如何估算？

模型训练与对齐分布式训练与计算硬件

方案设计

进阶

2678

如何估算并优化 7B 模型 GRPO 训练的显存开销？

模型训练与对齐分布式训练与计算硬件

方案设计

深入

2837

显存受限时如何选择模型训练方案？

模型训练与对齐分布式训练与计算硬件

方案设计

进阶

3268

项目是否使用 GPU，公司是否部署 GPU 训练大模型？

模型训练与对齐分布式训练与计算硬件

经历介绍

—

3478

是否使用过 DeepSpeed、DDP 等分布式训练框架？

模型训练与对齐分布式训练与计算硬件

经历介绍

—