반응형

persistence 2

[Next Gen AI] 5. [통제] 인간의 개입 (Human-in-the-Loop): "승인 없이는 결제하지 마!"

안녕하세요! 여러분의 AI 아키텍처 길잡이, 팬돌프입니다.지난 4편에서 우리는 에이전트에게 '영원한 기억(Persistence)'과 시간을 되돌리는 마법(Time Travel)을 선물했습니다. 이제 우리의 AI 비서는 사용자의 맥락을 정확히 기억하고, 필요한 도구를 척척 꺼내 쓰는 유능한 직원이 되었습니다.하지만 상상해 보세요. 여러분의 똑똑한 비서가 "사장님께 '당신은 최악의 상사입니다'라는 메일을 전송했습니다"라거나, "고객 DB의 테이블을 성공적으로 삭제(Drop)했습니다"라고 해맑게 보고한다면 어떨까요?자율성(Autonomy)이 높아질수록 사고의 규모도 커집니다. 결제, 메일 전송, 데이터 삭제 같은 치명적인 도구를 AI가 100% 독단적으로 사용하게 내버려 둘 수는 없습니다.오늘은 폭주하는 AI..

[Next Gen AI] 4. [기억] AI의 단기 기억 상실증 치료하기: Checkpointer와 Persistence

안녕하세요! 여러분의 AI 아키텍처 길잡이, 팬돌프입니다.지난 3편에서 우리는 에이전트에게 외부 API를 호출하고 도구를 사용할 수 있는 '손과 발'을 달아주었습니다. 이제 AI는 날씨도 검색하고, 사내 DB도 조회할 수 있게 되었죠.하지만 이 똑똑한 비서에게는 치명적인 약점이 하나 있습니다. 바로 '단기 기억 상실증'입니다. "내 이름은 팬돌프야"라고 말한 뒤, 잠시 후 "내 이름이 뭐라고 했지?"라고 물어보면 AI는 대답하지 못합니다. LLM과 기본 상태의 LangGraph는 본질적으로 상태를 저장하지 않는 무상태(Stateless) 시스템이기 때문입니다.대화가 10번, 20번 길어지는 '멀티턴(Multi-turn)' 환경이나, 어제 했던 대화를 오늘 이어서 해야 하는 실제 프로덕션 환경에서는 이 기..

반응형