[논문리뷰] Omni-Embed-Mini: Binding Modalities Without Forgetting via Dense Distillation본 연구는 멀티모달 임베딩 모델 학습 시 발생하는 Catastrophic Forgetting과 모델 크기의 과도한 팽창인 Modality Bloat 문제를 해결하는 데 목적이 있습니다. 기존의 Omni-modal 모델들은 여러 모달리티를 공동 학습하면서 텍스트 검색의 기초적인 성능을 저하시키는 결과를 초래합니다.#Review#Omni-modal Embedding#Frozen Backbone#Dense Distillation#Matryoshka Representation Learning#Multimodal Retrieval#Catastrophic Forgetting2026년 10월 1일댓글 수 로딩 중
[논문리뷰] SAIL-Embedding Technical Report: Omni-modal Embedding Foundation Model기존 멀티모달 임베딩 모델의 한계인 제한된 모달리티 지원, 불안정한 학습 메커니즘, 산업 도메인 간극을 해결하는 것을 목표로 합니다. 이를 통해 다양한 실세계 시나리오에서 효과적인 옴니모달 임베딩(omni-modal embedding) 을 제공하는 SAIL-Embedding 이라는 파운데이션 모델을 제안합니다.#Review#Omni-modal Embedding#Multimodal Learning#Recommendation Systems#Hard Negative Mining#Contrastive Learning#Large Language Models (LLMs)#Data Balancing#Multitask Learning2025년 10월 15일댓글 수 로딩 중