[논문리뷰] Your Transformer Can Hold Two Thoughts at Once: Evidence of Linear Superposition in LLMs최신 LLM의 기반이 되는 Transformer 아키텍처는 Self-Attention 및 MLP 블록과 같은 고도로 비선형적인 구성 요소를 사용합니다.#Review#Superposition Linearity Hypothesis#Fine-tuning#Decoding#Transformer#LLMs#Inference Throughput#Hidden-state Additivity2026년 9월 24일댓글 수 로딩 중
[논문리뷰] Mix-Quant: Quantized Prefilling, Precise Decoding for Agentic LLMs본 논문은 Agentic LLM의 추론 과정에서 발생하는 입력 기반(input-heavy) 오버헤드와 연산 단계 간 성능 저하 문제를 해결합니다. Agentic 워크플로우는 도구 사용 및 메모리 검색으로 인해 컨텍스트가 반복적으로 길어지며, 이는 Prefilling 단계가 전체 추론의 주요 병목이 되게 합니다 .#Review#Agentic LLMs#Model Quantization#Prefilling#Decoding#NVFP4#Efficiency2026년 5월 20일댓글 수 로딩 중