Quantização
ia
Técnica que reduz a precisão numérica dos pesos de um modelo para deixá-lo menor e mais rápido, com perda mínima de qualidade.
Quantização reduz a precisão dos números que representam os pesos de um modelo — por exemplo, de 16 bits (FP16) para 8 ou 4 bits. O efeito prático: o modelo ocupa muito menos memória e roda mais rápido, com perda de qualidade geralmente pequena.
Por que isso importa: é o que permite rodar LLMs grandes em hardware modesto — até em um notebook ou GPU única. Um modelo que exigiria dezenas de GB passa a caber em poucos.
Aparece junto com o LoRA na variação QLoRA, que combina quantização com ajuste fino eficiente. É uma das técnicas que democratizaram o uso de modelos open-source fora dos grandes data centers.