1. 들어가며우리는 매일같이 ChatGPT나 Claude에 PDF 문서나 코드를 업로드하고 질문을 던집니다. "이 논문 요약해 줘", "이 코드 아키텍처 설명해 줘"라고 말이죠.하지만 며칠 뒤, 혹은 한 달 뒤에 비슷한 질문을 하려면 어떻게 해야 할까요? 똑같은 문서를 다시 업로드하고, 우리 팀의 상황을 다시 설명해야 합니다. AI가 아무리 훌륭한 답변을 내놓아도, 그 지식은 대화창이 닫히는 순간 허공으로 사라져 버리기 때문입니다.이러한 '지식 휘발' 문제에 답답함을 느낀 전 OpenAI 공동창업자 안드레 카파시(Andrej Karpathy)는 2026년 4월, 자신의 GitHub Gist에 짧은 텍스트 파일 하나를 올렸습니다. 논문도, 복잡한 코드도 아닌 이 폴더 3개짜리 아이디어는 순식간에 1,600..

1. 들어가며최근 ChatGPT, Claude, Gemini와 같은 대규모 언어 모델(LLM)을 활용한 애플리케이션 개발이 급증하면서, "LLM에게 JSON 형식으로 응답해달라고 했는데 문자열이 깨져서 온다"는 고충을 겪는 개발자들이 많습니다. 따옴표가 빠져있거나, 끝에 쉼표가 더 붙어있거나, JSON 앞뒤로 "여기 결과입니다:" 같은 자연어가 섞여 있는 식이죠. 이런 상황에서 망가진 JSON을 마법처럼 자동으로 고쳐주는 필수 라이브러리가 바로 json-repair입니다.json-repair는 단순히 텍스트(문자열)의 구문 오류를 분석하고 교정하는 로컬 구문 파서(Parser)이며, 라이브러리를 통해 파이프라인을 구축할 때 마주하게 되는 핵심 원리와 사용법은 매우 중요합니다. 이번 포스팅에서는 json-..

1. 들어가며불과 몇 년 전까지만 해도 기업들의 최대 화두는 'DX(디지털 전환, Digital Transformation)'였습니다. 종이 서류를 PDF로 바꾸고, 수기 장부를 ERP 시스템으로 옮기며 업무의 효율을 높였죠.하지만 2022년 말 ChatGPT의 등장과 함께, 세상은 완전히 새로운 국면을 맞이했습니다. 이제 AI는 인간이 시키는 단순 작업을 돕는 '도구'를 넘어, 스스로 데이터를 학습하고 판단하여 의사결정을 내리는 '주체'로 진화했습니다.이렇게 조직의 의사결정 구조와 운영 방식, 일하는 문화 전체를 인공지능(AI) 중심으로 재설계하는 거대한 패러다임의 전환을 'AX(AI Transformation, 인공지능 전환)'이라고 부릅니다. 이번 포스팅에서는 AX가 도대체 무엇인지, DX와는 어떻..

1. 들어가며최근 인공지능 분야에서 가장 주목받는 기술 중 하나는 단연 RAG(검색 증강 생성, Retrieval-Augmented Generation)입니다. 챗GPT가 모르는 최신 정보나 사내 기밀 문서를 던져주고 "이 문서를 바탕으로 대답해"라고 지시하여 AI의 거짓말(할루시네이션)을 막는 훌륭한 기술이죠.하지만 기존의 일반적인 RAG(Naive RAG)는 치명적인 단점이 있습니다. 질문을 받으면 딱 한 번만 검색하고, 그 검색 결과가 엉망이어도 무조건 그 틀 안에서만 대답을 만들어낸다는 것입니다. 만약 질문이 "A와 B의 2024년 매출을 비교하고 분석해 줘"처럼 복잡하다면, 단순한 한 번의 검색으로는 절대 제대로 된 답을 낼 수 없습니다.이러한 한계를 완벽하게 극복하기 위해 등장한 개념이 바로 ..

1. 들어가며챗GPT가 처음 등장했을 때, 사람들은 인공지능에게 질문을 얼마나 기깔나게 던지느냐, 즉 '프롬프트 엔지니어링(Prompt Engineering)'이 미래의 핵심 스킬이 될 것이라고 열광했습니다.하지만 AI가 단순한 질문 답변을 넘어, 회사의 방대한 데이터를 읽고 스스로 계획을 세워 행동하는 AI 에이전트(AI Agent) 시대로 접어들면서 상황이 바뀌었습니다. 단순히 "넌 10년 차 마케터야, 마케팅 플랜 짜줘"라고 묻는 것만으로는, AI가 우리 회사의 현재 예산, 과거의 실패 사례, 타겟 고객의 특징을 전혀 알 수 없기 때문입니다.이러한 한계를 깨고 AI가 진짜 내 비즈니스를 이해하고 똑똑하게 행동하게 만드는 새로운 학문이자 기술, 바로 '컨텍스트 엔지니어링(Context Engineer..

1. 들어가며우리가 흔히 아는 챗GPT(ChatGPT)와 같은 대규모 언어 모델(LLM)은 뛰어난 지능을 가진 '두뇌'입니다. 하지만 텍스트 창에 갇혀 있다는 치명적인 한계가 있습니다. "오늘 서울 날씨 어때?", "이메일 좀 보내줘", "2345 곱하기 6789는 뭐야?"라고 물으면, 실시간 데이터를 모르거나, 실제로 메일을 보낼 수 없거나, 수학 계산에서 실수를(환각 현상) 저지르기도 합니다.이러한 LLM의 한계를 극복하고, 두뇌(AI)가 외부 세계와 상호작용할 수 있도록 '손과 발'을 달아주는 핵심 기술이 바로 'Tool Calling(도구 호출)'입니다.AI 에이전트(AI Agent)가 스스로 판단하고 행동하는 자율형 시스템으로 진화할 수 있었던 가장 큰 이유가 바로 이 Tool Calling 기..

1. 들어가며RAG(Retrieval-Augmented Generation) 시스템을 구축해 본 개발자라면 누구나 한 번쯤 이런 고민에 빠집니다."Vector DB에서 유사한 문서를 5개나 가져왔는데, 왜 LLM은 엉뚱한 대답을 할까?"이유는 간단합니다. 벡터 검색(Vector Search)은 '의미적 유사도'를 기반으로 빠르게 검색하지만, 질문의 미묘한 뉘앙스나 정확한 정답을 포함하는지 여부를 완벽하게 판단하지는 못하기 때문입니다.이때 필요한 것이 바로 Reranker(리랭커)입니다. 1차로 검색된 문서들을 다시 한번 꼼꼼하게 채점하여, 진짜 정답을 LLM의 코앞에 가져다주는 역할을 합니다. 이번 포스팅에서는 RAG 성능 향상의 치트키, Reranker의 모든 것을 파헤쳐 보겠습니다.2. Reranke..

1. 들어가며ChatGPT나 Claude 같은 대규모 언어 모델(LLM)은 놀라운 지능을 가지고 있지만, 명확한 한계가 있습니다.실시간 정보 부재: "오늘 서울 날씨 어때?"라고 물으면 모릅니다. (학습 데이터가 과거니까요)할루시네이션(거짓말): 모르는 것도 아는 척 지어냅니다.외부 도구 사용 불가: 엑셀 파일을 열거나 이메일을 보낼 수 없습니다.마치 "뇌(Brain)는 천재인데 눈, 귀, 손발이 없는 상태"와 같습니다. 이 뇌에게 눈(검색), 손(API 호출), 기억(Memory)을 달아주고, 복잡한 업무를 순서대로 처리하도록 지휘하는 기술이 필요합니다.그것이 바로 LLM 오케스트레이션(LLM Orchestration)입니다. 이번 포스팅에서는 단순한 챗봇을 넘어 'AI 에이전트'를 만드는 핵심 기술인..

1. 들어가며불과 몇 년 전까지만 해도 AI는 '텍스트'라는 단일 데이터만 처리하는 유니모달(Unimodal) 모델이 주류였습니다. 챗봇은 글자만 읽을 수 있었고, 이미지 인식 모델은 그림만 볼 수 있었죠.하지만 인간은 세상을 그렇게 인식하지 않습니다. 우리는 친구의 목소리 톤(청각)을 듣고, 표정(시각)을 보며, 말하는 내용(언어)을 종합해 상대방의 감정을 이해합니다. AI도 이처럼 텍스트, 이미지, 오디오, 비디오 등 다양한 형태의 데이터를 동시에 이해하고 처리할 수 있다면 어떨까요?이것이 바로 멀티모달(Multi-Modal) AI의 시작입니다. GPT-4o나 Gemini 같은 최신 AI가 이미지를 보고 시를 짓거나, 영상을 보고 요약해 주는 마법 같은 일들이 가능한 이유입니다. 이번 포스팅에서는 차..

1. 들어가며우리는 "사과"라는 단어를 보면 빨갛고 맛있는 과일을 떠올립니다. 하지만 컴퓨터, 특히 인공지능(AI)에게 텍스트는 그저 0과 1로 이루어진 데이터일 뿐입니다. LLM이 인간의 언어를 이해하고 생성하기 위해서는 텍스트를 기계가 처리할 수 있는 숫자(Vector)로 변환하는 과정이 반드시 필요합니다.이 과정의 가장 기초이자 핵심이 바로 토크나이제이션(Tokenization)이며, 이때 잘라진 조각을 토큰(Token)이라고 부릅니다. 토큰은 LLM의 성능, 비용, 속도를 결정짓는 가장 중요한 단위입니다.이번 포스팅에서는 딥러닝과 LLM의 시작점인 토큰의 정의, 동작 원리(BPE, WordPiece), 그리고 파이썬을 이용한 실습까지 A to Z를 다뤄보겠습니다.2. 토큰(Token)이란 무엇인가..