[논문리뷰] Motif 3: Technical Report본 논문은 대규모 모델의 파라미터 확장과 효율적인 컴퓨팅 자원 활용 사이의 간극을 해결하기 위해 Motif 3를 제안합니다. 기존의 일반적인 LLM들은 모델 크기가 커짐에 따라 추론 비용과 메모리 소모가 비효율적으로 증가하며, 특히 학습 과정에서의 expert 쏠림 현상이나 고차원 정보 처리의 안정성 문제가 발생합니다.#Review#Large Language Model#Mixture-of-Experts#Grouped Differential Latent Attention#Multi-token Prediction#Inference Efficiency#Training Stability2026년 8월 10일댓글 수 로딩 중
[논문리뷰] Speculative Jacobi-Denoising Decoding for Accelerating Autoregressive Text-to-image Generation본 논문은 순차적인 토큰별 디코딩 과정으로 인해 수천 번의 모델 포워드 패스를 요구하는 자율회귀 텍스트-투-이미지 모델의 느린 추론 속도 문제를 해결하는 것을 목표로 합니다. 병렬 토큰 디코딩을 통해 자율회귀 텍스트-투-이미지 생성 모델의 추론을 가속화하고자 합니다.#Review#Autoregressive Models#Text-to-Image Generation#Inference Acceleration#Jacobi Decoding#Denoising Diffusion Models#Speculative Decoding#Multi-token Prediction#Fine-tuning2025년 10월 13일댓글 수 로딩 중