[논문리뷰] WorldToken: Time-First Sequence Modeling for Robotic Imitation Learning본 연구는 로봇 정책 모델링에서 입력 데이터의 이질성을 어떻게 구조화할 것인가에 대한 근본적인 문제를 해결하고자 합니다. 기존의 로봇 학습 모델들은 다중 모달 입력(카메라, proprioception, 언어 등)과 시간적 흐름을 다루는 방식이 제각기 다르며, 이로 인해 일관된 시퀀스 조직화가 부족한 실정입니다.#Review#Robotic Imitation Learning#Sequence Modeling#WorldToken#Time-First#Multimodal Encoding#Causal Transformer#Diffusion Action Head2026년 8월 24일댓글 수 로딩 중
[논문리뷰] Listening Forward: Next Patch Embedding Prediction Enables Scalable Audio Learners본 논문은 오디오 표현 학습에서 사용되는 기존의 복잡한 SSL(Self-Supervised Learning) 방법론들이 가진 과도한 의존성 문제를 해결하고자 합니다.#Review#Self-Supervised Learning#Audio Representation Learning#Causal Transformer#Next-Patch-Embedding Prediction#Autoregressive#NAPE2026년 8월 20일댓글 수 로딩 중
[논문리뷰] Heptapod: Language Modeling on Visual Signals이 논문은 시각 생성 모델에서 외부 의미론적 정보 주입 및 CFG(Classifier-Free Guidance)에 대한 의존성을 비판하며, 재구성 중심의 토크나이저 와 Transformer의 내재적 의미 학습 이라는 언어 모델링의 기본 원칙으로 회귀하는 것을 목표로 합니다.#Review#Autoregressive Models#Image Generation#Language Modeling#Causal Transformer#2D Distribution Prediction#Visual Tokenization#Self-Supervised Learning#Generative Models2025년 10월 9일댓글 수 로딩 중
[논문리뷰] EntroPE: Entropy-Guided Dynamic Patch Encoder for Time Series Forecasting기존 Transformer 기반 시계열 예측 모델들이 사용하는 temporal-agnostic 패칭 방식은 시간적 일관성을 해치고 단기 종속성을 파괴하며 훈련-추론 불일치를 야기하는 문제를 해결하고자 합니다.#Review#Time Series Forecasting#Transformer#Dynamic Patching#Entropy#Predictive Uncertainty#Adaptive Encoding#Attention Mechanisms#Causal Transformer2025년 10월 1일댓글 수 로딩 중
[논문리뷰] STream3R: Scalable Sequential 3D Reconstruction with Causal Transformer논문은 기존 다중 뷰 3D 재구성 방법론들이 높은 연산 비용을 요구하거나 시퀀스 길이에 따라 확장성이 떨어지는 문제를 해결하고자 합니다.#Review#3D Reconstruction#Causal Transformer#Sequential Modeling#Streaming Data#Pointmap Prediction#Online Perception#KVCache2025년 8월 15일댓글 수 로딩 중