[논문리뷰] Dynamic Multi-Byte Prediction With Hierarchical Language Models본 논문은 바이트 단위 언어 모델의 추론 속도 병목 현상을 해결하기 위해 Multi-Byte Prediction (MBP) 프레임워크를 제안합니다. 기존의 바이트 단위 모델은 subword 기반 모델 대비 어휘 제약이 없다는 장점이 있으나, 시퀀스 길이가 훨씬 길어 추론 과정에서 심각한 Latency를 유발합니다.#Review#Byte-level Language Model#Hierarchical Language Models#Multi-Byte Prediction#Latent Causal Attention#Inference Acceleration#Parallel Decoding2026년 8월 18일댓글 수 로딩 중
[논문리뷰] Fast Byte Latent Transformer본 논문은 byte-level language model이 지닌 고질적인 추론 속도 문제를 해결하는 것을 목적으로 한다. 기존의 바이트 단위 모델은 Subword 모델과 달리 입력 길이가 훨씬 길어지기 때문에, Naive한 자기회귀(Autoregressive) 방식으로는 매우 느린 추론 속도를 보인다는 한계가 있다.#Review#Byte-level Language Model#BLT#Diffusion#Inference Acceleration#Speculative Decoding#Latent Tokenization2026년 5월 10일댓글 수 로딩 중