[llm-compressor] iMatrix Transform: 중요도 행렬 기반 가중치 리스케일IMatrixGatherer Modifier가 입력 활성화의 E[x^2]를 수집해 가중치를 리스케일하는 구조 분석#llm-compressor#iMatrix#Transform2026년 4월 13일댓글 수 로딩 중
[llm-compressor] iMatrix Observer: 입력 채널 중요도 가중 MSEIMatrixMSEObserver가 forward pre-hook으로 입력의 E[x^2]를 수집해 채널별 중요도를 계산하고, 그 가중치로 MSE grid search를 수행하는 구조 분석#llm-compressor#Observer#iMatrix#Quantization2026년 4월 13일댓글 수 로딩 중