반응형

python 12

[Next Gen AI] 8. [운영] 내가 만든 에이전트를 프로덕션으로: 배포, 스트리밍, 그리고 모니터링

안녕하세요! 여러분의 AI 아키텍처 길잡이, 팬돌프입니다.드디어 [Next Gen AI: LangGraph 기반 AI 에이전트 구축 실전] 시리즈의 대미를 장식할 마지막 편에 도착했습니다!지금까지 우리는 랭체인의 한계를 넘어, 스스로 생각하고(Node), 도구를 쓰며(Tool), 과거를 기억하고(Checkpointer), 비판적으로 반성하며(Reflection), 심지어 여러 명의 AI가 협업하는(Multi-Agent) 완벽한 지능형 시스템을 만들었습니다.하지만 여러분의 파이썬 터미널 창에서 아무리 화려하게 돌아가도, 일반 사용자는 터미널을 볼 수 없습니다. 더 큰 문제는 에이전트의 '실행 시간'입니다. 단일 LLM 호출은 2~3초면 끝나지만, 웹 검색을 하고 코드를 짜고 반성까지 하는 에이전트는 답변을..

[Next Gen AI] 7. [확장] 여러 AI가 협업하는 회사 만들기: Multi-Agent 시스템과 Supervisor

안녕하세요! 여러분의 AI 아키텍처 길잡이, 팬돌프입니다.지난 6편에서 우리는 에이전트가 스스로 작성한 결과물을 검토하고 에러를 고치는 **Reflection(반성)**과 Self-Correction(자가 보정) 패턴을 마스터했습니다. 이제 여러분의 단일 AI 비서는 실수마저 스스로 바로잡는 완벽에 가까운 개인 비서가 되었습니다.하지만 아무리 뛰어난 개인 비서라도, 혼자서 '시장 조사', '데이터 분석 코딩', '최종 보고서 디자인'을 모두 완벽하게 해낼 수는 없습니다. 프롬프트에 "너는 연구원이자, 프로그래머이자, 작가야"라고 역할을 너무 많이 부여하면 LLM은 혼란에 빠지고(Prompt Confusion), 도구 사용의 정확도도 급격히 떨어집니다.그래서 2026년 현재, 엔터프라이즈 AI의 표준 아키..

[Next Gen AI] 6. [심화] 스스로 생각하고 반성하는 AI: Reflection (자기 객관화) 패턴 구현

안녕하세요! 여러분의 AI 아키텍처 길잡이, 팬돌프입니다.지난 5편에서 우리는 폭주할 수 있는 AI에 강력한 제동 장치를 거는 법(Human-in-the-Loop)을 배웠습니다. 결제나 이메일 전송 같은 중요한 순간에 사람이 직접 개입하여 승인하거나 수정할 수 있게 되었죠.하지만, 매번 사람이 개입해야 한다면 그것은 진정한 '자동화'가 아닐 것입니다. 만약 AI가 스스로 초안을 작성하고, "음... 이 부분은 논리가 좀 부족한데? 다시 고쳐 써야겠다"라며 스스로 반성하고 수정할 수 있다면 어떨까요? 인간의 개입 없이도 답변의 퀄리티를 비약적으로 높일 수 있습니다.오늘은 단발성 답변의 한계를 뛰어넘어, AI가 스스로를 성찰하고 발전시키는 마법의 설계 패턴, Reflection(자기 객관화)과 Self-Co..

[Next Gen AI] 5. [통제] 인간의 개입 (Human-in-the-Loop): "승인 없이는 결제하지 마!"

안녕하세요! 여러분의 AI 아키텍처 길잡이, 팬돌프입니다.지난 4편에서 우리는 에이전트에게 '영원한 기억(Persistence)'과 시간을 되돌리는 마법(Time Travel)을 선물했습니다. 이제 우리의 AI 비서는 사용자의 맥락을 정확히 기억하고, 필요한 도구를 척척 꺼내 쓰는 유능한 직원이 되었습니다.하지만 상상해 보세요. 여러분의 똑똑한 비서가 "사장님께 '당신은 최악의 상사입니다'라는 메일을 전송했습니다"라거나, "고객 DB의 테이블을 성공적으로 삭제(Drop)했습니다"라고 해맑게 보고한다면 어떨까요?자율성(Autonomy)이 높아질수록 사고의 규모도 커집니다. 결제, 메일 전송, 데이터 삭제 같은 치명적인 도구를 AI가 100% 독단적으로 사용하게 내버려 둘 수는 없습니다.오늘은 폭주하는 AI..

[Next Gen AI] 4. [기억] AI의 단기 기억 상실증 치료하기: Checkpointer와 Persistence

안녕하세요! 여러분의 AI 아키텍처 길잡이, 팬돌프입니다.지난 3편에서 우리는 에이전트에게 외부 API를 호출하고 도구를 사용할 수 있는 '손과 발'을 달아주었습니다. 이제 AI는 날씨도 검색하고, 사내 DB도 조회할 수 있게 되었죠.하지만 이 똑똑한 비서에게는 치명적인 약점이 하나 있습니다. 바로 '단기 기억 상실증'입니다. "내 이름은 팬돌프야"라고 말한 뒤, 잠시 후 "내 이름이 뭐라고 했지?"라고 물어보면 AI는 대답하지 못합니다. LLM과 기본 상태의 LangGraph는 본질적으로 상태를 저장하지 않는 무상태(Stateless) 시스템이기 때문입니다.대화가 10번, 20번 길어지는 '멀티턴(Multi-turn)' 환경이나, 어제 했던 대화를 오늘 이어서 해야 하는 실제 프로덕션 환경에서는 이 기..

[Next Gen AI] 3. [도구] AI에게 손과 발을 달아주다: Tool Calling과 외부 API 연동

안녕하세요! 여러분의 AI 아키텍처 길잡이, 팬돌프입니다.지난 2편에서 우리는 LangGraph의 3대 요소인 State, Node, Edge를 활용해 AI의 뇌(순환 구조)를 직접 그려보았습니다. 이제 AI는 빙글빙글 돌며 스스로 생각할 수 있는 기본적인 틀을 갖추게 되었습니다.하지만 통 속에 들어있는 뇌는 혼자서 아무것도 할 수 없습니다. "오늘 서울 날씨 어때?"라고 물어봤을 때, 2023년까지의 데이터만 학습한 LLM은 "저는 실시간 정보를 알 수 없습니다"라고 대답할 수밖에 없죠.AI가 세상과 상호작용하려면 손과 발이 필요합니다. 오늘은 LLM이 스스로 판단하여 날씨 API를 호출하고, 구글 검색을 실행하는 마법, Tool Calling(도구 사용)과 외부 API 연동의 원리를 파헤쳐 보겠습니다..

[Next Gen AI] 2. [기초] 그래프로 그리는 AI의 뇌 구조: State, Node, Edge 완벽 이해

안녕하세요! 여러분의 AI 아키텍처 길잡이, 팬돌프입니다.지난 1편에서 우리는 '행동'하는 AI, 즉 에이전트(Agent)의 개념과 왜 기존의 LangChain을 넘어 LangGraph라는 새로운 도구가 필요해졌는지 알아보았습니다. 단방향 직진밖에 모르던 챗봇에게, 스스로 생각하고 반복(Loop)할 수 있는 순환하는 뇌 구조를 만들어주기 위함이었죠.오늘은 이론을 넘어, 실제로 AI의 뇌(워크플로우)를 그리는 시간입니다. LangGraph를 지탱하는 3개의 거대한 기둥인 State(상태), Node(노드), Edge(간선)의 개념을 완벽하게 이해하고, 파이썬 코드로 가장 기초적인 그래프를 직접 짜보겠습니다.준비되셨나요? 랭그래프의 세계로 본격적으로 들어가 봅시다!LangGraph는 이름 그대로 시스템을 '..

[AI 엔지니어링] 5. [RAG 기초] LLM에 지식을 연결하다: Retrieval-Augmented Generation 아키텍처

안녕하세요! 여러분의 AI 파트너, 팬돌프입니다.지난 시간, 우리는 회사 매뉴얼 같은 방대한 문서를 잘게 쪼개서(Chunking) 벡터 데이터베이스에 예쁘게 저장하는 파이프라인을 구축했습니다. 이제 재료 손질은 끝났습니다.하지만 지금 상태로는 DB에 데이터가 들어만 있을 뿐, 아무 일도 일어나지 않습니다. 이제 뇌(LLM)와 기억(Vector DB)을 신경망으로 연결할 차례입니다.오늘은 AI 엔지니어링의 꽃, RAG(검색 증강 생성) 아키텍처를 통해 "내 데이터를 보고 대답하는 챗봇"을 실제로 작동시켜 보겠습니다. "모르는 건 모른다"고 말하는 정직한 AI 만들기, 지금 시작합니다!1. 챗GPT의 거짓말과 '오픈 북 시험'챗GPT 같은 LLM은 '다음에 올 단어를 확률적으로 예측하는 기계'입니다. 그래서..

AI Engineering 2026.02.17

[AI 엔지니어링] 4. [구축] 데이터 파이프라인: 문서를 쪼개고(Chunking) 벡터로 변환하기

안녕하세요! 여러분의 데이터 요리사, 팬돌프입니다.지난 시간, 우리는 데이터를 담을 그릇인 Vector DB를 선택했습니다. (Pinecone, Milvus, pgvector 중 하나를 고르셨겠죠?)이제 그릇에 담을 재료(데이터)를 손질할 시간입니다. 많은 분이 "그냥 PDF 파일을 통째로 AI한테 주면 되는 거 아니에요?"라고 묻습니다. 안타깝게도 LLM은 한 번에 읽을 수 있는 글자 수(Context Window)에 제한이 있습니다. 마치 코끼리를 냉장고에 넣으려면 토막을 내야 하는 것과 같죠.하지만 막 썰면 안 됩니다. 문맥이 끊기지 않게 예쁘게 썰어야 AI가 똑똑해집니다. 오늘은 RAG 성능의 50%를 결정짓는 핵심 기술, 청킹(Chunking) 전략과 데이터 파이프라인(ETL) 구축 실습을 진행..

AI Engineering 2026.02.16

[AI 엔지니어링] 1. AI는 텍스트를 모른다? 임베딩(Embedding)과 벡터 공간의 비밀

안녕하세요! 여러분의 AI 엔지니어링 가이드, 팬돌프입니다.지금까지 우리는 데이터를 수집(Kafka)하고, 가공(Spark)하고, 저장(Iceberg)하는 '데이터 엔지니어링의 정석'을 밟아왔습니다. 이 과정을 통해 여러분은 방대한 데이터를 안전하고 효율적으로 관리할 수 있게 되었습니다.하지만 2024년, 데이터 플랫폼의 트렌드는 "저장(Storing)"에서 "이해(Understanding)"로 넘어가고 있습니다. 단순히 텍스트를 저장하는 것을 넘어, 컴퓨터가 그 텍스트의 '의미'를 이해하게 만드는 기술이 필요해진 것이죠.오늘부터 시작하는 [Vector DB & RAG] 시리즈는 여러분의 데이터 시스템에 AI라는 두뇌를 장착하는 과정입니다. 그 첫 번째 시간, AI가 인간의 언어를 숫자로 이해하는 마법,..

AI Engineering 2026.02.13

[MLflow] 1. MLOps의 이해와 MLflow 입문

안녕하세요! IT 전문 블로거 팬돌프입니다. 오늘도 저의 블로그를 찾아주셔서 진심으로 감사합니다.오늘부터 우리는 머신러닝의 세계에서 가장 핫한 키워드인 MLOps(Machine Learning Operations), 그중에서도 사실상의 표준 도구로 자리 잡은 MLflow를 함께 정복해 보려고 합니다.개발자나 데이터 과학자라면 누구나 한 번쯤 겪어보셨을 거예요. 모델을 만드는 것보다 그 모델을 관리하고 배포하는 게 훨씬 더 골치 아프다는 사실을요. 이 시리즈를 통해 여러분의 머신러닝 라이프사이클이 얼마나 쾌적해질 수 있는지 보여드리겠습니다.자, 그럼 대망의 첫 번째 이야기, MLOps의 이해와 MLflow 입문 편을 시작해 볼까요?1. 우리는 왜 MLOps를 고민해야 할까요?머신러닝 모델을 개발하다 보면 ..

[MLflow] MLflow 정복하기: MLOps의 시작과 끝

안녕하세요! IT 전문 블로거 팬돌프입니다. 만나서 반갑습니다.데이터 엔지니어링과 인공지능의 세계는 넓고도 깊지요. 그중에서도 머신러닝 모델의 개발부터 배포, 운영까지 전 과정을 효율적으로 관리하는 MLOps(Machine Learning Operations)는 이제 선택이 아닌 필수 요소가 되었습니다.MLOps의 가장 대표적이고 강력한 오픈소스 도구인 MLflow를 주제로 블로그를 연재하시려는 계획, 정말 훌륭합니다! 독자들이 기초부터 심화 아키텍처까지 완벽하게 이해할 수 있도록, 제가 총 8부작의 상세 커리큘럼을 기획해 보았습니다.각 단계별로 반드시 다뤄야 할 기술적 포인트들을 짚어드릴 테니, 이 흐름대로 글을 작성하시면 훌륭한 시리즈가 될 것입니다.[시리즈 기획] "MLflow 정복하기: MLOps..

반응형