Q4_K_M 에서 벤치마크 점수가 실제 성능을 왜 배신하는가

Q4_K_M 양자화 과정에서 특정 히든딤이 잘려나가면서 발생하는 instruction following 저하 현상, 이는 단순히 파라미터 수축 문제를 넘어 시스템의 핵심 논리 구조를 교란시키는 원인이 됩니다. 처음엔 단순히 점수 차이로만 생각했지만, 실제로는 더 깊은 원인이 작용해 모델이 의도한 명령을 제대로 처리하지 못하게 만들죠. 벤치마크 점수는 실제 추론 품질과 반비례하는 경우가 많으므로, 숫자에 현혹되지 않도록 주의해야 합니다.

### Constraints: 예산

홍대 코인노래방 할인