[논문리뷰] Apertus 1.5: From Open Text Models to Open Multimodal Reasoners본 연구는 폐쇄적인 모델 제공자들에 대한 의존성을 줄이고, 투명하고 공개된 데이터를 기반으로 하는 Infrastructure로서의 멀티모달 모델을 구축하고자 합니다. 기존의 폐쇄형 모델 생태계에서는 모델의 데이터 구성, 학습 레시피, 정렬 방식이 불투명하여 학계나 공공 기관의 주도적인 기술 발전에 한계가 있었습니다.#Review#Multimodal Reasoners#Continued Pretraining#Open Models#Long-Context Extension#Direct Preference Optimization#Instruction Following2026년 10월 14일댓글 수 로딩 중
[논문리뷰] SpectralShift: Effective Context Window Extension of Gated DeltaNet via Spectral Reparameterization본 논문은 현대 LLM에서 요구되는 긴 컨텍스트 처리를 위해 Gated DeltaNet의 컨텍스트 윈도우를 확장하는 과정에서의 근본적인 한계를 해결하고자 한다.#Review#Gated DeltaNet#Long-Context Extension#Spectral Reparameterization#Continual Pretraining#Linear Attention#Spectral Dynamics#Information Decay2026년 9월 16일댓글 수 로딩 중
[논문리뷰] Jet-Long: Efficient Long-Context Extension with Dynamic Bifocal RoPE기존의 Zero-shot context extension 방법들은 고정된 하나의 리스케일링 팩터를 사용하므로, 짧은 컨텍스트에서의 충실도와 긴 컨텍스트에서의 외삽(extrapolation) 성능 사이에서 불가피한 트레이드오프를 겪습니다.#Review#Long-Context Extension#Zero-shot#RoPE#Bifocal RoPE#Inclusion–Exclusion Attention#CuTe Kernel2026년 7월 9일댓글 수 로딩 중
[논문리뷰] EndPrompt: Efficient Long-Context Extension via Terminal Anchoring본 논문은 LLM의 컨텍스트 윈도우 확장이 요구하는 막대한 계산 자원과 데이터 수집의 어려움을 해결하기 위해 EndPrompt를 제안합니다.#Review#Long-Context Extension#EndPrompt#Terminal Anchoring#Positional Interpolation#RoPE#Transformer#Sparse Supervision2026년 5월 18일댓글 수 로딩 중