본문 바로가기

TECH NOTES

기술노트

현장에서 검증된 개발 지식을 기록합니다.

전체 1건
1
AI5분 읽기
LLM 양자화 — GPTQ·AWQ·GGUF, INT4가 뭘 버리고 뭘 지키나
가중치를 4비트로 줄여도 왜 멀쩡한지, GPTQ·AWQ·GGUF의 차이와 Q4_K_M 같은 이름 읽는 법, 품질과 크기의 스위트스폿까지 정리한 로컬 LLM 양자화 가이드.
#양자화#GPTQ#AWQ
2026.08.19