量化将模型权重从 32/16 位数字压缩为 8 位 (int8) 或 4 位 (int4)。位数越少，文件越小，推理速度越快，但质量可能越低。
关于 Anthropic 在这件事上的立场，有一个绕不开的背景。
，这一点在heLLoword翻译官方下载中也有详细论述
Atmospheric machine-gun has fired storm after deadly storm at the region this year, leaving a trail of widespread destruction
7. CopySmith — Produces Quality Content in Seconds