본문으로 건너뛰기

최신 포스트

[논문리뷰] When Teachers Mislead: Spurious-Signal-Aware On-Policy Distillation

본 논문은 OPD에서 교사 모델이 내리는 토큰 단위의 판단이 항상 신뢰할 수 있는 것은 아니라는 점을 지적합니다. 기존 연구들은 교사의 신호가 자신감이 높거나 학습 가능하면 유용하다고 가정하지만, 실제로는 입력과 무관한 관례나 편향된 추론 패턴이 포함된 'Spurious Signals'가 학습을 오염시킵니다 .
#Review#On-Policy Distillation#Spurious Signals#Input-Groundedness#Token-level Selection#Large Language Models#Vision-Language Models
댓글 수 로딩 중

[논문리뷰] UniWorld-View: Large-Baseline View Synthesis via Video Diffusion Models

본 연구는 모노큘러 입력으로부터 대규모 시점 변화(Large-Baseline)가 포함된 상황에서 기하학적으로 일관되고 사실적인 새로운 뷰를 생성하는 문제를 해결하고자 한다. 기존의 NeRF나 3DGS 기반 복원 방식은 입력 데이터가 희소할 때 성능이 급격히 저하되며 가림 현상을 제대로 처리하지 못한다.
#Review#Novel View Synthesis#Video Diffusion Models#Large-Baseline#Point Cloud Rendering#Occlusion-aware#Geometry Guidance
댓글 수 로딩 중

[논문리뷰] TriGlue: a Biology-Inspired Generative Model for Generating Molecular Glue-Induced Ternary Complex

본 논문은 Molecular Glue를 설계하는 과정에서 발생하는 복합적인 문제를 해결하기 위해 TriGlue 프레임워크를 제안한다. 기존의 AI 기반 약물 설계는 주로 단일 단백질의 결합 포켓을 가정한 이진 단백질-리간드 결합 모델에 집중되어 있어, 삼원 복합체 구조를 동시에 최적화하는 데 한계가 있다 .
#Review#Molecular Glue#Ternary Complex#Generative Modeling#Flow Matching#Protein-Protein Interaction#Drug Design
댓글 수 로딩 중

[논문리뷰] Towards Physics of Multimodal Pretraining: Knowledge Flow, Modality Synergy, Early Unification, and Recipes

본 논문은 Foundation Model이 단일 양식에서 다중 양식으로 발전함에 따라, Multimodal Pretraining의 설계 공간과 양식 간 상호작용의 근본적인 메커니즘이 충분히 탐구되지 않았다는 문제의식에서 출발합니다.
#Review#Multimodal Pretraining#Knowledge Flow#Modality Synergy#Early Unification#Vision Laziness#Data Mixing Ratios#Transformer Architecture
댓글 수 로딩 중

[논문리뷰] Toward Skill-Native LLMs: Skill Entropy for Benchmarking and Training Long-Horizon Reasoning

본 논문은 최신 LLM이 개별 Skill은 우수하게 수행함에도 불구하고, 서로 다른 Skill을 순차적으로 요구하는 Long-Horizon 작업에서는 성능이 급격히 저하되는 'Skill-Switching Gap' 문제를 해결하고자 합니다.
#Review#Large Language Models#Long-Horizon Reasoning#Skill Entropy#Skill-Native#Reinforcement Learning#Cross-Skill Capability
댓글 수 로딩 중

[논문리뷰] The Personalization Mirage: How LLMs Fabricate User Profiles, and Why Self-Monitoring Misleads

개인화된 LLM은 장기 메모리(Persistent Memory)를 통해 사용자 정보를 저장하고 활용하지만, 이러한 정보가 사용자가 실제로 공유한 근거에 기반하는지에 대한 신뢰성(Faithfulness)은 미검증 상태로 남아있습니다.
#Review#Large Language Models#Personalization#Over-Inference#Faithfulness#MirageBench#Self-Monitoring#User Modeling
댓글 수 로딩 중

[논문리뷰] Self-Evolving Coding Agents

본 논문은 현대의 Coding Agents가 배포 후 정적인 상태로 머물러 있어, 변화하는 소프트웨어 환경에 적응하지 못하는 문제를 해결하고자 한다. 대부분의 에이전트는 고정된 프롬프트와 컨트롤 로직을 사용하는데, 이는 저장소의 지속적인 변화와 반복적인 버그 수정 과정에서 최적의 성능을 발휘하기 어렵다.
#Review#Coding Agents#Self-Evolving Agents#Software Engineering#Repository-level Context#Executable Feedback#Agent Framework#Automated Programming
댓글 수 로딩 중

[논문리뷰] SKILL-KD: Contrastive Skill Distillation for LLM Agents

기존의 LLM 에이전트 기술 습득 방식은 모델 자체의 경험이나 교사의 성공적인 Trajectory를 단순히 요약하는 수준에 머물러 있어, 학생 모델이 요구하는 구체적인 Procedural 전략을 내재화하기 어렵다는 한계가 있습니다. .
#Review#LLM Agents#Knowledge Distillation#Skill Acquisition#Contrastive Learning#Adaptive Distillation#Drift-Aware Consolidation
댓글 수 로딩 중

[논문리뷰] NOLLI: A Difficulty-Calibrated Puzzle Benchmark for Diagnosing the English-Korean Performance Gap

본 논문은 LLM이 단순 pattern matching을 넘어 진정한 logical reasoning 능력을 갖추고 있는지에 대한 불확실성과 multilingual evaluation에서 language-specific failure가 단일 performance gap으로 뭉뚱그려지는 문제를 해결하고자 한다.
#Review#Puzzle Benchmark#Cross-Lingual Evaluation#Performance Gap#Hangul Jamo#Difficulty Calibration#Procedural Generation#LLM Reasoning#Korean NLP
댓글 수 로딩 중

[논문리뷰] K-EXAONE 2.0 Technical Report

본 연구는 글로벌 AI 경쟁 시대에 대응하여 국산 거대언어모델의 독자적인 구축 및 운영 능력을 확보하기 위해 수행되었다. 기존 모델을 폐기하고 처음부터 모델을 학습시키는 것은 방대한 계산 자원과 데이터, 학습 노하우를 낭비하는 결과를 초래한다.
#Review#Foundation Model#Mixture-of-Experts#Upcycling#Speculative Decoding#Long-Context#Agentic Capability#Post-training
댓글 수 로딩 중