js-kkk 님의 블로그

안녕하세요. 이번 글에서는Retrieval-Augmented Generation forKnowledge-Intensive NLP Tasks (NeurlPS 2020)에 대해서 정리해보려고 합니다. RAG가 처음 나오게 된 배경이 되는 논문입니다. 이해한 흐름대로 최대한 쉽고 자세하게 정리해보겠습니다.

안녕하세요. 이번 글에서는DEEPRAG: THINKING TO RETRIEVE STEP BY STEPFOR LARGE LANGUAGE MODELS (ICLR 2026)에 대해서 정리해보려고 합니다. 이해한 흐름대로 최대한 쉽고 자세하게 정리해보겠습니다.

안녕하세요. 이번 글에서는 Reflexion: Language Agents with Verbal Reinforcement Learning (NeurlPS 2023) (Noah Shinn, Federico Cassano) 에 대해서 정리해보려고 합니다. 본 논문에서는 전통적인 강화학습 방법인 기존의 스칼라 값을 피드백으로 주어 모델의 성능을 올리는 방식이 아닌,언어적인 피드백을 통해 모델의 성능을 올리는 방법을 제안합니다. 쉽게 설명하자면, 수학 문제를 푸는 상황을 가정했을 때, 문제를 풀고 -> 답이 틀렸다면 -> 오답 노트(Self-Reflexion)를 작성하고 -> 오답 노트를 토대로 다시 문제를 푸는 것을 반복하는 과정 이라고 보면 될 것 같습니다. 이해한 흐름대로 최대한 쉽고 자세하게 정리해보겠..

안녕하세요. 이번 글에서는ReAct: Synergizing Reasoning and Acting in Language Models (ICLR 2023)에 대해서 정리해보려고 합니다. 에이전트 구조의 기초 논문입니다. 이해한 흐름대로 최대한 쉽고 자세하게 정리해보겠습니다. 1. 연구 배경이 논문은 2022년에 나온 논문인데,기존에는 언어모델에서추론(Reasoning)행동(Acting)이 두 가지를 따로 연구해왔다고 합니다.여기서 행동이라고 하면 좀 애매할 수 있는데,행동을외부 정보를 가져오는 것 (예: Wikipedia API를 활용한 검색)정도로 생각하면 될 것 같습니다. 기존 방법의 한계Reasoning only (추론만 하는 경우)대표적으로 Chain-of-Thought(CoT)가 있는데,이 방식은 ..