[논문리뷰] Paragraph Boundaries Are Not White Space:Compression Depth as the Signature of Hierarchical Structure본 연구는 문단(paragraph) 경계가 단순한 공백이 아닌 계층적 구조의 표현임에도 불구하고, 기존의 Transformer 기반 모델들은 이를 1차원적인 reading-order 기반의 위치 정보로만 처리한다는 문제의식에서 출발합니다.#Review#Hierarchical Positional Encoding#hRoPE#Paragraph Boundaries#Attention Compression#Causal Intervention#Long-Document Modeling2026년 9월 27일댓글 수 로딩 중
[논문리뷰] MLLMs Hallucinate when Information Distribution Drifts in Synergy Heads본 논문은 MLLMs가 시각적 맥락과 사실적으로 불일치하는 그럴듯한 응답을 생성하는 Hallucinations 문제에 직면해 있음을 지적합니다.#Review#MLLMs#Hallucinations#Attention Heads#Information Disentanglement#Dynamic Calibration#Causal Intervention#Counterfactual Analysis#Synergy Heads2026년 9월 20일댓글 수 로딩 중
[논문리뷰] Reason Through the Latent! Making Latent Visual Reasoning Necessary본 논문은 기존 Latent Visual Reasoning 방법론들이 latent state에 task-relevant visual information을 포함하더라도, 모델이 실제로 해당 state에 의존하여 예측을 수행하는지에 대한 근본적인 모호성을 해결하고자 한다.#Review#Latent Visual Reasoning#Causal Intervention#Recurrent Neural Networks#Multimodal LLMs#Visual Question Answering#Vision-Language Models2026년 9월 8일댓글 수 로딩 중
[논문리뷰] Mechanist: AI as a Scientific Instrument for Discovering the Mechanisms of Intelligence본 논문은 AI 모델의 지능적 역량과 잠재적 위험을 규명하는 기제적 이해(Mechanistic Understanding)가 모델의 발전 속도를 따라가지 못하는 격차 문제를 해결하고자 합니다.#Review#Mechanistic Interpretability#Agentic Framework#Belief-state Reasoning#Scientific Discovery#Causal Intervention#Subliminal Learning2026년 8월 12일댓글 수 로딩 중
[논문리뷰] Answer Presence Drives RAG Rewriting Gains본 논문은 RAG 파이프라인에서 Rewriter 도입으로 얻는 성능 향상이 실제 정답 문자열 노출에 의한 것인지, 혹은 증거 문서의 질적 개선(Curation)에 의한 것인지 규명하고자 합니다.#Review#Retrieval-Augmented Generation (RAG)#LLM Rewriting#Causal Intervention#Answer-string Surfacing#Sentinel-Fragility#Audit Protocol2026년 6월 8일댓글 수 로딩 중
[논문리뷰] Structural Graph Probing of Vision-Language Models본 논문은 VLM의 복잡한 내부 연산 구조를 파악하기 위해, 기존의 국소적(local) 어트리뷰션 방식을 넘어선 population-level의 해석 가능성(interpretability) 프레임워크를 제안합니다.#Review#Vision-Language Models#Neural Topology#Mechanistic Interpretability#Neuron Correlation#Graph Neural Networks#Causal Intervention2026년 4월 9일댓글 수 로딩 중
[논문리뷰] Friends and Grandmothers in Silico: Localizing Entity Cells in Language Models본 논문은 templated prompts를 사용하여 특정 개체에 반응하는 뉴런을 추출하고, 이를 인과적 개입(Causal Intervention)을 통해 검증하는 파이프라인을 제안합니다. 먼저, 여러 프롬프트에서 안정적으로 활성화되는 뉴런을 순위화하여 Entity Cells를 식별합니다.#Review#Mechanistic Interpretability#LLM#Entity Cells#Factual Recall#Causal Intervention#MLP Neurons#Canonicalization2026년 4월 2일댓글 수 로딩 중
[논문리뷰] Beyond Objects: Contextual Synthetic Data Generation for Fine-Grained Classification텍스트-이미지(T2I) 모델을 활용한 합성 데이터 생성 에서 발생하는 과적합 및 다양성 감소 문제를 해결하고, 특히 소량 데이터(few-shot) 환경에서 미세 조정 분류(fine-grained classification) 성능을 극대화하는 것을 목표로 합니다.#Review#Text-to-Image Synthesis#Synthetic Data Generation#Fine-Grained Classification#Few-Shot Learning#Diffusion Models#Contextual Conditioning#Causal Intervention2025년 11월 9일댓글 수 로딩 중
[논문리뷰] Generalization or Memorization: Dynamic Decoding for Mode Steering대규모 언어 모델(LLMs)이 보이는 예측 불가능한 일반화(Generalization)와 암기(Memorization) 간의 전환 문제를 해결하는 것이 목표입니다. 이러한 이중적인 추론 모드를 이해하고, 식별하며, 제어하는 통일된 프레임워크를 제시하여 LLM의 신뢰성을 향상시키고자 합니다.#Review#Large Language Models (LLMs)#Generalization#Memorization#Information Bottleneck (IB)#Activation Steering#Decoding Strategy#Causal Intervention#LLM Reliability2025년 10월 29일댓글 수 로딩 중