[LlamaFactory] LLaMA Factory v1: 멀티모달 및 메모리 효율적인 SFT를 위한 Ulysses CP와 Chunk Loss 지원LLaMA Factory v1에서 Ulysses Context Parallelism과 메모리 효율적인 Chunk Loss를 도입하여 멀티모달 학습 및 SFT 성능을 최적화했습니다.#LLaMA Factory#SFT#Multimodal#Context Parallelism#Chunk Loss#Optimization2026년 9월 9일댓글 수 로딩 중
[논문리뷰] Miles v0.1: Production-Level Post-Training본 연구는 고성능 LLM을 구축하기 위한 Post-Training 과정의 파편화와 높은 진입 장벽 문제를 해결하는 것을 목표로 합니다. 많은 오픈 소스 모델이 등장하고 있으나, 이를 실제 Production 환경에 배포하기 위한 체계적인 Post-Training 파이프라인은 여전히 부족한 실정입니다.#Review#Post-Training#LLM Alignment#SFT#RLHF#Production-Level#Model Optimization2026년 9월 8일댓글 수 로딩 중
[논문리뷰] MBA: Multimodal Benchmark and Agents for Real-World Business Ideation본 연구는 기존 비즈니스 아이디어 생성 연구들이 텍스트 데이터에만 의존하여 실세계의 다중 모달 맥락을 충분히 반영하지 못하는 한계를 해결하고자 합니다.#Review#Multimodal Business Ideation#Agentic AI#Benchmark#Reinforcement Learning#GRPO#SFT#MLLM-as-a-Judge2026년 8월 12일댓글 수 로딩 중
[논문리뷰] SkillCoach: Self-Evolving Rubrics for Evaluating and Enhancing Agentic Skill-Use본 논문은 기존의 LLM Agent 평가 방식이 최종적인 Verifier 성공 여부에만 의존하여, 실제 과정상의 비효율이나 부적절한 Skill 사용 방식을 간과하는 문제를 해결하고자 한다.#Review#Agentic Skill-Use#Self-Evolving Rubrics#Process Supervision#Skill Libraries#Trajectory Evaluation#LLM Agents#SFT2026년 7월 2일댓글 수 로딩 중
[논문리뷰] On the Geometry of On-Policy Distillation본 논문은 OPD가 SFT와 RLVR의 특성을 모두 공유함에도 불구하고, 파라미터 공간에서의 구체적인 학습 동역학(training dynamics)은 제대로 규명되지 않았다는 점을 핵심 문제로 정의합니다.#Review#On-policy Distillation#Parameter-space Geometry#Subspace Locking#SFT#RLVR#Large Language Models2026년 6월 8일댓글 수 로딩 중
[논문리뷰] Where to Look: Can Foundation Models Reach a Target Viewpoint Through Active Exploration?본 논문은 Foundation Models가 수동적인 시각적 이해를 넘어, 능동적인 탐색을 통해 3D 공간에서 목표 시점을 정확히 재현할 수 있는지 질문합니다 . 기존 연구들은 주로 사전에 수집된 데이터에 의존하여 '무엇이 어디에 있는가'를 묻는 정적인 공간 지능에 집중해 왔습니다.#Review#Target Viewpoint Reproduction#TVRBench#Active Exploration#Foundation Models#Spatial Intelligence#Embodied AI#GRPO#SFT2026년 6월 1일댓글 수 로딩 중
[논문리뷰] OpenSeeker-v2: Pushing the Limits of Search Agents with Informative and High-Difficulty Trajectories본 연구는 고성능 search agent 개발이 자본과 컴퓨팅 자원이 막대한 기업 주도의 CPT+SFT+RL 파이프라인에 종속된 현실을 비판적으로 접근합니다. 기존의 복잡한 학습 방식은 학계의 진입 장벽을 높이고 연구 생태계의 폐쇄성을 야기합니다.#Review#Search Agent#SFT#ReAct#Data Quality#Long-horizon Reasoning#Data Synthesis2026년 5월 5일댓글 수 로딩 중
[논문리뷰] DiRL: An Efficient Post-Training Framework for Diffusion Language ModelsDiffusion Language Models (dLLMs)의 미흡한 post-training (특히 RL) 성능을 개선하여 수학적 추론 능력과 실제 배포 효율성을 향상시키는 것을 목표로 합니다.#Review#Diffusion Language Models#Post-Training#Reinforcement Learning#GRPO#FlexAttention#LMDeploy#Math Reasoning#SFT2025년 12월 29일댓글 수 로딩 중
[논문리뷰] Compressing Chain-of-Thought in LLMs via Step EntropyLarge Language Models(LLMs)의 Chain-of-Thought(CoT) 추론 과정에서 발생하는 과도한 상세함과 중복성으로 인한 높은 추론 비용 및 비효율성을 해결하는 것이 주요 목표입니다.#Review#LLM#Chain-of-Thought#CoT Compression#Step Entropy#Reinforcement Learning#SFT#GRPO2025년 8월 12일댓글 수 로딩 중