반응형

langsmith 2

[Next Gen AI] 8. [운영] 내가 만든 에이전트를 프로덕션으로: 배포, 스트리밍, 그리고 모니터링

안녕하세요! 여러분의 AI 아키텍처 길잡이, 팬돌프입니다.드디어 [Next Gen AI: LangGraph 기반 AI 에이전트 구축 실전] 시리즈의 대미를 장식할 마지막 편에 도착했습니다!지금까지 우리는 랭체인의 한계를 넘어, 스스로 생각하고(Node), 도구를 쓰며(Tool), 과거를 기억하고(Checkpointer), 비판적으로 반성하며(Reflection), 심지어 여러 명의 AI가 협업하는(Multi-Agent) 완벽한 지능형 시스템을 만들었습니다.하지만 여러분의 파이썬 터미널 창에서 아무리 화려하게 돌아가도, 일반 사용자는 터미널을 볼 수 없습니다. 더 큰 문제는 에이전트의 '실행 시간'입니다. 단일 LLM 호출은 2~3초면 끝나지만, 웹 검색을 하고 코드를 짜고 반성까지 하는 에이전트는 답변을..

[AI 엔지니어링] 8. [평가] 내 챗봇은 똑똑한가? RAGAS를 이용한 정량적 평가와 LLMOps

안녕하세요! 여러분의 AI 여정을 끝까지 함께한 러닝 메이트, 팬돌프입니다.드디어 [AI 엔지니어링: Vector DB & RAG] 시리즈의 마지막 편에 도착했습니다.우리는 텍스트를 숫자로 바꾸는 임베딩부터 시작해, 1억 개의 데이터에서 정답을 찾는 HNSW, 그리고 하이브리드 검색과 리랭킹을 통해 챗봇의 지능을 극한까지 끌어올렸습니다. 이제 여러분의 RAG 시스템은 기술적으로 매우 완성도가 높습니다.하지만 상사나 클라이언트가 이렇게 묻는다면 어떻게 대답하시겠습니까? "그래서 이 챗봇, 정확도가 몇 점입니까? 어제보다 똑똑해진 거 맞아요?""써보니까 좋던데요?"라는 답변은 통하지 않습니다. 대장정의 마지막은 '감(Feeling)'이 아닌 '숫자(Metric)'로 AI의 성능을 증명하고, 지속적으로 개선하..

AI Engineering 2026.02.20
반응형