반응형

HumanInTheLoop 2

[Next Gen AI] 5. [통제] 인간의 개입 (Human-in-the-Loop): "승인 없이는 결제하지 마!"

안녕하세요! 여러분의 AI 아키텍처 길잡이, 팬돌프입니다.지난 4편에서 우리는 에이전트에게 '영원한 기억(Persistence)'과 시간을 되돌리는 마법(Time Travel)을 선물했습니다. 이제 우리의 AI 비서는 사용자의 맥락을 정확히 기억하고, 필요한 도구를 척척 꺼내 쓰는 유능한 직원이 되었습니다.하지만 상상해 보세요. 여러분의 똑똑한 비서가 "사장님께 '당신은 최악의 상사입니다'라는 메일을 전송했습니다"라거나, "고객 DB의 테이블을 성공적으로 삭제(Drop)했습니다"라고 해맑게 보고한다면 어떨까요?자율성(Autonomy)이 높아질수록 사고의 규모도 커집니다. 결제, 메일 전송, 데이터 삭제 같은 치명적인 도구를 AI가 100% 독단적으로 사용하게 내버려 둘 수는 없습니다.오늘은 폭주하는 AI..

[Next Gen AI] 랭체인을 넘어 자율주행 AI로: LangGraph 기반 AI 에이전트 구축 실전

안녕하세요! 여러분의 AI 아키텍처 길잡이, 팬돌프입니다.데이터 엔지니어링의 끝판왕인 실시간 처리(Flink)를 정복하셨으니, 이제 다시 AI의 최전선으로 돌아올 완벽한 타이밍입니다.지금까지 우리가 만들었던 RAG 시스템은 질문을 하면 문서를 찾아 읽고 답변하는 '수동적인 챗봇(Reader)'에 불과했습니다. 하지만 2024~2025년 이후 AI 업계의 가장 뜨거운 화두는 스스로 계획을 세우고, 도구를 사용하며, 실패하면 다시 시도하는 '자율 행동 AI(Agent)'입니다.기존 LangChain의 단순한 파이프라인(Chain) 구조로는 복잡한 분기 처리와 무한 루프를 도는 에이전트를 만들기 어려웠습니다. 이를 해결하기 위해 등장한 것이 바로 상태(State) 기반의 순환 그래프 구조를 가진 LangGra..

반응형