模型剪枝、GPTQ 与 AWQ 量化方法。

暂无参考答案

未标记

本题目录

相关面经

3

字节跳动

Agent 开发工程师
实习一面
查看原面经 →
模型剪枝/量化(GPTQ、AWQ)、服务化框架(FastAPI+vLLM)

腾讯

大模型算法工程师
暑期实习一面
查看原面经 →
了解哪些量化技术

字节跳动

Agent 算法工程师
实习
查看原面经 →
模型剪枝/量化(GPTQ、AWQ)、服务化框架(FastAPI+vLLM)

收录题集

1

大模型工程面试题

小林 Coding · 个人整理 · 收录 1 道

查看题集 →

大模型量化是什么?INT8/INT4/AWQ/GPTQ 怎么选?

相关题目

4