1. 들어가며최근 인공지능 분야에서 가장 주목받는 기술 중 하나는 단연 RAG(검색 증강 생성, Retrieval-Augmented Generation)입니다. 챗GPT가 모르는 최신 정보나 사내 기밀 문서를 던져주고 "이 문서를 바탕으로 대답해"라고 지시하여 AI의 거짓말(할루시네이션)을 막는 훌륭한 기술이죠.하지만 기존의 일반적인 RAG(Naive RAG)는 치명적인 단점이 있습니다. 질문을 받으면 딱 한 번만 검색하고, 그 검색 결과가 엉망이어도 무조건 그 틀 안에서만 대답을 만들어낸다는 것입니다. 만약 질문이 "A와 B의 2024년 매출을 비교하고 분석해 줘"처럼 복잡하다면, 단순한 한 번의 검색으로는 절대 제대로 된 답을 낼 수 없습니다.이러한 한계를 완벽하게 극복하기 위해 등장한 개념이 바로 ..

1. 들어가며안녕하세요! AI의 정석 Jaylen H입니다.오늘은 비영리 AI R&D 커뮤니티인 '가짜연구소(Pseudo Lab)' 시즌 12 러너(Runner) 합격 소식과 함께, 가짜연구소 소개 및 합격 후기를 들고 왔습니다. 🔥본격적인 스터디와 프로젝트가 시작되기 전, 가짜연구소가 어떤 곳인지, 제가 왜 지원했는지, 그리고 앞으로 16주 동안 어떤 팀에서 무슨 프로젝트를 진행하게 될지 자세히 풀어보려고 합니다! 2. 지원 동기 및 과정판교에 위치한 해양 IT 기업에서 AI 엔지니어로 일한 지 어느덧 1년 차가 되었습니다. 실무를 하면서 LLM과 AI Agent, RAG 등에 대한 관심이 자연스럽게 깊어졌는데, 혼자 공부하기보다는 열정 넘치는 사람들과 함께 부딪히며 성장하고 싶다는 갈증이 항상 있었..

1. 들어가며ChatGPT의 등장 이후, 인공지능은 우리가 묻는 말에 대답하는 훌륭한 '지식 자판기' 역할을 해왔습니다. 하지만 현실의 비즈니스와 일상에서는 단순히 대답만 하는 것을 넘어, "내 이메일을 읽고, 일정을 캘린더에 등록한 뒤, 관련 자료를 구글링해서 요약 문서를 만들어줘"와 같이 직접 '행동'해 주기를 원합니다.이렇게 스스로 환경을 인지하고 행동하는 AI를 우리는 AI Agent(AI 에이전트)라고 부릅니다. 그리고 최근에는 여러 에이전트가 모여 거대한 팀처럼 협업하며 고도의 자율성을 갖춘 Agentic AI(에이전틱 AI)라는 새로운 패러다임이 등장했습니다.이 두 가지 패러다임이 텍스트 창을 벗어나 실제 현실 세계의 시스템(웹, DB, API 등)과 상호작용할 수 있게 해주는 가장 결정적인..

1. 들어가며우리가 흔히 아는 챗GPT(ChatGPT)와 같은 대규모 언어 모델(LLM)은 뛰어난 지능을 가진 '두뇌'입니다. 하지만 텍스트 창에 갇혀 있다는 치명적인 한계가 있습니다. "오늘 서울 날씨 어때?", "이메일 좀 보내줘", "2345 곱하기 6789는 뭐야?"라고 물으면, 실시간 데이터를 모르거나, 실제로 메일을 보낼 수 없거나, 수학 계산에서 실수를(환각 현상) 저지르기도 합니다.이러한 LLM의 한계를 극복하고, 두뇌(AI)가 외부 세계와 상호작용할 수 있도록 '손과 발'을 달아주는 핵심 기술이 바로 'Tool Calling(도구 호출)'입니다.AI 에이전트(AI Agent)가 스스로 판단하고 행동하는 자율형 시스템으로 진화할 수 있었던 가장 큰 이유가 바로 이 Tool Calling 기..

1. 들어가며우리는 질문에 대답을 해주는 ChatGPT와 같은 대규모 언어 모델(LLM)에 이미 익숙해져 있습니다. 하지만 "내 이메일을 읽고, 중요한 회의 일정을 구글 캘린더에 등록한 다음, 팀원들에게 요약 메일을 보내줘"라는 복합적인 요청을 한다면 기존의 챗봇은 어떻게 반응할까요? 아마 방법만 텍스트로 알려줄 뿐, 실제로 행동에 옮기지는 못할 것입니다.이러한 '수동적인 챗봇'의 한계를 깨고, 인간을 대신해 스스로 계획을 세우고 도구를 사용해 목표를 달성하는 능동적인 인공지능, 그것이 바로 AI 에이전트(AI Agent)입니다.2026년 현재, AI 기술의 패러다임은 단순히 말을 잘하는 AI(Generative AI)에서 직접 행동하는 AI(Agentic AI)로 빠르게 이동하고 있습니다. 본 포스팅에..

1. 들어가며ChatGPT나 Claude 같은 대규모 언어 모델(LLM)은 놀라운 지능을 가지고 있지만, 명확한 한계가 있습니다.실시간 정보 부재: "오늘 서울 날씨 어때?"라고 물으면 모릅니다. (학습 데이터가 과거니까요)할루시네이션(거짓말): 모르는 것도 아는 척 지어냅니다.외부 도구 사용 불가: 엑셀 파일을 열거나 이메일을 보낼 수 없습니다.마치 "뇌(Brain)는 천재인데 눈, 귀, 손발이 없는 상태"와 같습니다. 이 뇌에게 눈(검색), 손(API 호출), 기억(Memory)을 달아주고, 복잡한 업무를 순서대로 처리하도록 지휘하는 기술이 필요합니다.그것이 바로 LLM 오케스트레이션(LLM Orchestration)입니다. 이번 포스팅에서는 단순한 챗봇을 넘어 'AI 에이전트'를 만드는 핵심 기술인..

1. 들어가며GPT-4, Gemini 같은 최신 LLM(거대언어모델)들은 파라미터 수가 수천억 개에 달합니다. 모델이 커질수록 성능은 좋아지지만, 그만큼 엄청난 계산 비용(VRAM, FLOPs)을 요구합니다. 모든 입력 토큰에 대해 수천억 개의 파라미터를 전부 사용해야 하기 때문이죠."천재 한 명이 모든 걸 다 하기보다, 각 분야 전문가 여러 명에게 일을 나눠주면 훨씬 효율적이지 않을까?"이 질문에서 시작된 기술이 바로 MoE (Mixture of Experts)입니다. 모델의 크기(Capacity)는 키우면서도, 실제 계산에 사용되는 비용(Cost)은 획기적으로 줄이는 마법 같은 기술이죠. 최근 Mistral 8x7B, GPT-4, DeepSeek-V2 등 SOTA(State-of-the-Art) 모델..

1. 들어가며대규모 언어 모델(LLM)은 놀라운 지능을 가졌지만, 두 가지 치명적인 한계가 있습니다. 첫째는 "학습 시점 이후의 정보는 모른다"는 것이고, 둘째는 "외부 세상과 단절되어 있다"는 것입니다.이를 해결하기 위해 우리는 지금까지 복잡한 API 연동 코드를 직접 짜거나, LangChain 같은 프레임워크에 의존해 왔습니다. 하지만 AI 에이전트와 도구(Tool)의 수가 폭발적으로 늘어나면서, 모든 AI 모델과 모든 도구를 일일이 연결하는 것(M×N 문제)은 불가능에 가까워졌습니다.이때 등장한 것이 바로 MCP(Model Context Protocol)입니다. 마치 컴퓨터 주변기기를 연결할 때 제조사 상관없이 USB-C 하나로 통일하듯, AI 모델이 외부 데이터나 시스템과 소통하는 방식을 표준화한..

1. 들어가며기존 소프트웨어 개발에는 Datadog, Sentry 같은 모니터링 도구가 필수입니다. 그런데 LLM 애플리케이션은 어떤가요?"RAG 체인 중 검색이 느린 건지, LLM 생성이 느린 건지 모르겠음.""지난달보다 토큰 비용이 2배 늘었는데, 어떤 프롬프트 때문인지 모름.""프롬프트 수정을 엑셀이나 노션 등으로 공유하고 있음."이런 '블랙박스' 상태를 해결해 주는 것이 바로 LLM Observability(관측 가능성) 플랫폼입니다. 오늘은 그중에서도 오픈소스이자 Self-Hosting이 강력한 Langfuse에 대해 알아봅니다.Langfuse 공식 링크: https://github.com/langfuse/langfuse GitHub - langfuse/langfuse: 🪢 Open sourc..

1. 들어가며1편(기초), 2편(기본 팁), 3편(CoT), 4편(RAG/ReAct)을 거치며 우리는 AI를 똑똑하게 '튜닝'하고 '추론'하게 만들며 '외부 도구'를 쓰는 '개념'까지 익혔습니다.5편은 이 모든 것을 조합하는 '실전 응용'입니다. AI는 이제 단순한 대화 상대가 아닙니다. 우리의 개발 프로세스에 깊숙이 들어와 데이터를 '뚝딱' 생성하고(Data Generation), 코드를 '뚝딱' 짜주는(Generating Code) 강력한 '일꾼'이 될 수 있습니다.이번 편에서는 AI를 현업의 '생산성 도구'로 활용하는 구체적인 방법과, AI 에이전트의 핵심인 'Function Calling'을 마스터합니다.2. AI를 '데이터 공장'으로 쓰기 (Data Generation)현업에서 개발 테스트를 할..