[논문리뷰] CausalMix: Data Mixture as Causal Inference for Language Model Training본 논문은 LLM pretraining 시 데이터 배합(Data Mixture)의 불확실성이 모델의 일반화 성능을 저해하는 비효율적인 탐색 문제를 해결하고자 한다.#Review#Data Mixture#Causal Inference#Language Model Training#Data Selection#Causal Structural Model2026년 7월 1일댓글 수 로딩 중
[논문리뷰] DataFlex: A Unified Framework for Data-Centric Dynamic Training of Large Language Models본 논문은 LLaMA-Factory의 모델 관리 및 최적화 기능을 보존하면서, 데이터 최적화 전략을 모듈형으로 통합한 DataFlex를 제안합니다. DataFlex는 7개의 데이터 선택, 2개의 데이터 혼합, 1개의 재가중치 알고리즘을 통합하여 단일 인터페이스 하에서 연구 및 실행할 수 있도록 설계되었습니다 .#Review#Data-Centric AI#Large Language Models#Dynamic Training#Data Selection#Data Mixture#Data Reweighting#LLaMA-Factory2026년 4월 2일댓글 수 로딩 중