반응형

LLM 6

[Next Gen AI] 3. [도구] AI에게 손과 발을 달아주다: Tool Calling과 외부 API 연동

안녕하세요! 여러분의 AI 아키텍처 길잡이, 팬돌프입니다.지난 2편에서 우리는 LangGraph의 3대 요소인 State, Node, Edge를 활용해 AI의 뇌(순환 구조)를 직접 그려보았습니다. 이제 AI는 빙글빙글 돌며 스스로 생각할 수 있는 기본적인 틀을 갖추게 되었습니다.하지만 통 속에 들어있는 뇌는 혼자서 아무것도 할 수 없습니다. "오늘 서울 날씨 어때?"라고 물어봤을 때, 2023년까지의 데이터만 학습한 LLM은 "저는 실시간 정보를 알 수 없습니다"라고 대답할 수밖에 없죠.AI가 세상과 상호작용하려면 손과 발이 필요합니다. 오늘은 LLM이 스스로 판단하여 날씨 API를 호출하고, 구글 검색을 실행하는 마법, Tool Calling(도구 사용)과 외부 API 연동의 원리를 파헤쳐 보겠습니다..

[Next Gen AI] 2. [기초] 그래프로 그리는 AI의 뇌 구조: State, Node, Edge 완벽 이해

안녕하세요! 여러분의 AI 아키텍처 길잡이, 팬돌프입니다.지난 1편에서 우리는 '행동'하는 AI, 즉 에이전트(Agent)의 개념과 왜 기존의 LangChain을 넘어 LangGraph라는 새로운 도구가 필요해졌는지 알아보았습니다. 단방향 직진밖에 모르던 챗봇에게, 스스로 생각하고 반복(Loop)할 수 있는 순환하는 뇌 구조를 만들어주기 위함이었죠.오늘은 이론을 넘어, 실제로 AI의 뇌(워크플로우)를 그리는 시간입니다. LangGraph를 지탱하는 3개의 거대한 기둥인 State(상태), Node(노드), Edge(간선)의 개념을 완벽하게 이해하고, 파이썬 코드로 가장 기초적인 그래프를 직접 짜보겠습니다.준비되셨나요? 랭그래프의 세계로 본격적으로 들어가 봅시다!LangGraph는 이름 그대로 시스템을 '..

[Next Gen AI] 1. [개념] 단순한 챗봇을 넘어 '행동'하는 AI로: Agent와 LangGraph의 등장

안녕하세요! 여러분의 AI 아키텍처 길잡이, 팬돌프입니다.데이터의 파도를 타는 Flink의 세계에서 무사히 돌아오신 것을 환영합니다! 완벽한 데이터 파이프라인과 RAG(검색 증강 생성) 시스템까지 구축하셨으니, 이제 우리는 AI의 최전선, '에이전트(Agent)'의 세계로 진입할 준비가 되었습니다.지금까지 우리가 만든 RAG 챗봇은 아주 똑똑한 '도서관 사서'와 같았습니다. 책을 찾아주고 요약은 기가 막히게 잘하지만, 사서에게 "내일 부산 가는 KTX 예매하고 호텔 예약한 다음 팀장님한테 메일로 보고해 줘"라고 지시할 수는 없죠.2026년 현재, AI 업계의 화두는 단순한 '대답'을 넘어 스스로 '행동'하는 자율형 AI 에이전트(Autonomous AI Agent)입니다. 오늘 그 위대한 여정의 첫걸음,..

[AI 엔지니어링] 5. [RAG 기초] LLM에 지식을 연결하다: Retrieval-Augmented Generation 아키텍처

안녕하세요! 여러분의 AI 파트너, 팬돌프입니다.지난 시간, 우리는 회사 매뉴얼 같은 방대한 문서를 잘게 쪼개서(Chunking) 벡터 데이터베이스에 예쁘게 저장하는 파이프라인을 구축했습니다. 이제 재료 손질은 끝났습니다.하지만 지금 상태로는 DB에 데이터가 들어만 있을 뿐, 아무 일도 일어나지 않습니다. 이제 뇌(LLM)와 기억(Vector DB)을 신경망으로 연결할 차례입니다.오늘은 AI 엔지니어링의 꽃, RAG(검색 증강 생성) 아키텍처를 통해 "내 데이터를 보고 대답하는 챗봇"을 실제로 작동시켜 보겠습니다. "모르는 건 모른다"고 말하는 정직한 AI 만들기, 지금 시작합니다!1. 챗GPT의 거짓말과 '오픈 북 시험'챗GPT 같은 LLM은 '다음에 올 단어를 확률적으로 예측하는 기계'입니다. 그래서..

AI Engineering 2026.02.17

[AI 엔지니어링] 1. AI는 텍스트를 모른다? 임베딩(Embedding)과 벡터 공간의 비밀

안녕하세요! 여러분의 AI 엔지니어링 가이드, 팬돌프입니다.지금까지 우리는 데이터를 수집(Kafka)하고, 가공(Spark)하고, 저장(Iceberg)하는 '데이터 엔지니어링의 정석'을 밟아왔습니다. 이 과정을 통해 여러분은 방대한 데이터를 안전하고 효율적으로 관리할 수 있게 되었습니다.하지만 2024년, 데이터 플랫폼의 트렌드는 "저장(Storing)"에서 "이해(Understanding)"로 넘어가고 있습니다. 단순히 텍스트를 저장하는 것을 넘어, 컴퓨터가 그 텍스트의 '의미'를 이해하게 만드는 기술이 필요해진 것이죠.오늘부터 시작하는 [Vector DB & RAG] 시리즈는 여러분의 데이터 시스템에 AI라는 두뇌를 장착하는 과정입니다. 그 첫 번째 시간, AI가 인간의 언어를 숫자로 이해하는 마법,..

AI Engineering 2026.02.13

[AI 엔지니어링] LLM의 뇌에 기억을 심다: Vector DB & RAG 구축 실전 로드맵

📋 Vector DB & RAG 연재 시리즈 리포트제1편. [개념] AI는 텍스트를 모른다? 임베딩(Embedding)과 벡터 공간의 비밀컴퓨터가 언어를 이해하는 법: 단어(Text)를 실수형 리스트인 벡터(Vector)로 변환하는 임베딩의 원리.의미 기반 검색(Semantic Search): "맛있는 과일"을 검색했을 때 "사과"가 검색되는 원리 (유클리드 거리, 코사인 유사도).왜 RDB로는 안 되는가?: 정확히 일치하는 키워드(Exact Match)만 찾는 기존 DB의 한계와 벡터 공간의 필요성.제2편. [구조] Vector DB의 핵심 엔진: ANN(Approximate Nearest Neighbor)과 HNSW속도의 딜레마: 수억 개의 벡터와 일일이 거리를 계산하는 KNN(Exact) 방식의 ..

AI Engineering 2026.02.12
반응형