ZeRO-1、ZeRO-2 和 ZeRO-3 有何区别？

知识专题：分布式训练与计算硬件题目类型：比较选型技术难度：进阶相关面经：3 篇

暂无参考答案

未标记

本题目录

相关面经

3 篇

商汤

大模型应用算法工程师

2026-07-18实习一面、二面

查看原面经 →

有没有做过分布式训练，常见模型并行方式有哪些，ZeRO-1/2/3 区别。

腾讯

大模型算法工程师

2026-05-18暑期

查看原面经 →

讲一下 ZeRO-1、ZeRO-2、ZeRO-3

腾讯

大模型算法工程师

2026-05-05暑期实习一面

查看原面经 →

讲一下 ZeRO-1、ZeRO-2、ZeRO-3