1. LangGraph를 활용한 효율적인 멀티 에이전트 협업 시스템 구축 | 이경록
LangChain Interrupt RECAP Multi-Agent Trends 2025 참여 후기
행사 특징 및 인사이트
- 기술적 내용보다는 비즈니스와 연계된 논의가 활발
- 각 국가별 LLM 애플리케이션에 대한 관심도 및 도입 현황 공유
- 바이브 코딩과 비즈니스 도입에 관한 실무진 간 경험 교류
- LangChain-OpenTutorial 프로젝트에 국내 개발자 85명이 기여하는 활발한 커뮤니티 활동
LangChain 생태계 현황
- LangChain Interrupt 팟캐스트 한글 더빙 제공
- 개인 사용자가 아닌 기업 수준의 활용 가능한 솔루션 지향
- 다양한 모델 의존성 관리 및 목적별 최적 모델 선택 지원의 강점
에이전트 개발의 핵심 요소
주요 구성
- 프롬프트 엔지니어링: 에이전트 성능에 가장 중요한 요소
- 프로덕트 설계: 비즈니스 요구사항과 기술적 구현의 연결점
- 머신러닝: 모델 선택 및 최적화
신뢰성 확보 방안
- 컨텍스트 관리: 시스템 메시지, 대화 내용, 도구 메시지 등의 체계적 관리
- LangGraph 활용: Low Level에서의 맥락 세밀 조정 가능
- 올바른 컨텍스트 관리의 복잡성 인식 및 대응
협업 체계 구축
팀 스포츠적 접근
- 개발자 단독 의존성 극복 필요
- 비개발자 직군의 에이전트 이해도 향상 중요성
- LangSmith 메트릭: 비개발자도 이해 가능한 다양한 지표 제공
도구 추적 및 검토
- 멀티 에이전트 환경에서의 도구 사용 추적 및 검토 역할 중요성
- Trajectory Observability를 통한 방향성 검토
- Open Agent Platform에서의 무료 에이전트 구현 가능
기업 도입 사례
Nu Bank 사례
- 남미 소재 디지털 은행, 약 2억 명의 고객 보유
- 일일 3천만 건의 에이전트 기반 송금 서비스 처리
- 대규모 실제 운영 환경에서의 성공적 적용 사례
평가(Evaluation) 전략
- 완벽한 평가 지표 추구보다는 실용적 접근법 채택
- Andre Ng의 20분 빠른 평가 방법론 참조
- 70점 수준의 평가로도 런칭 진행하는 실무적 접근
- Agent + MCP 조합에 대한 업계 긍정적 평향
멀티 에이전트 협업 네트워크
시스템 구조
- 여러 AI 에이전트의 상호 협력을 통한 복잡한 업무 분산 처리
- 효율적 작업 분배 및 병렬 처리의 중요성
- 인간도 어려운 협업을 AI가 수행하는 도전과제 인식
실행 방법론
- Human in the loop: 사용자에게 주도권과 책임을 이관하는 방식
- 메모리 업데이트: 반복적 피드백 대신 메모리 기반 학습
- MCP 활용: 계층적 도구 호출 구조를 통한 컨텍스트 최적화
Ambient Agent 개념 및 구현
핵심 특징
- 명령 없이도 이벤트 스트림을 청취하고 적절히 행동하는 에이전트
- Chat UX에 의존하지 않는 백그라운드 자동 처리
- 2025년 1월 LangChain에서 공식 출시된 혁신적 기술
Agent Inbox 데모 기능
- 이메일 자동 읽기 및 답변 작성
- 사용자 피드백 기반 실시간 교정 반복
- 이전 피드백을 기반으로 한 학습 및 적용
- 오픈소스 링크
기술 구현 요소
- Human in the loop 중심의 피드백 시스템
- Interrupt 메커니즘을 통한 적절한 개입
- Triage Router의 인터럽트 종류별 라우팅 (정크 메일 필터링, 인터럽트 트리거)
- 결과, 라우팅, 도구 사용에 대한 종합적 평가 체계
MCP(Model Context Protocol) 활용
기본 개념
- AI 도구와 데이터 소스 간의 안전하고 표준화된 양방향 연결을 가능하게 하는 오픈 표준
- USB-C와 같은 표준화된 연결 방식으로 AI 모델과 다양한 도구를 연결
- 여러 툴을 에이전트에 연결하는 표준화된 방법
계층적 호출 구조
- MCP Server 구축을 통한 목적별 MCP 나열
- 여러 호스트가 공통으로 사용 가능한 구조
- 문서 리스트(URL) 수집 → 인덱싱 → 벡터 DB 검색 → 페이지 Fetch → 컨텍스트 필터링
최신 동향
- 2025년 3월 OpenAI의 MCP 공식 채택으로 업계 표준화 가속화
- MCP 서버의 계층적 구성이 주요 트렌드
2. LangGraph로 따라해보는 멀티에이전트 아키텍처 | 우성우
NOTE
실제 예제 코드와 함께 진행된 발표로 매우 유익했습니다. 코드는 연사님이 공유해주신 레포지토리에서 볼 수 있습니다.
LangGraph 선택 이유
기술적 장점
- 요구사항에 따른 세밀한 컨트롤 가능
- 조건 분기 코딩의 복잡성 해결
- 유연성, 확장성, 디버깅 용이성 제공
실무 적용 고려사항
- 공식 문서의 messages 사용이 필수가 아님
- 예외 상황 처리의 어려움 존재
- PostgreSQL, Redis 등 실제 운영 환경 고려 필요
- Checkpoint(단기 기억)와 Store(장기 기억)의 구분 및 인메모리 대안 필요
멀티 에이전트 아키텍처 패턴
Supervisor 패턴 (중앙 집중식 계층형)
구조적 특징
- 감독자 에이전트가 모든 결정을 담당하는 중앙 집중 방식
- 명확한 제어 구조와 예측 가능한 흐름 제공
- 병목 현상 가능성 및 확장성 제한 존재
- 감독자의 부하 집중 문제
적용 분야
- 은행 고객센터 시스템
- 의료 협진 시스템
- 제조업 품질 관리
- 보험 청구 처리
개발 방법론
- 하향식(밑에서 위로) 코딩 방식 권장
- 최소 단위 태스크를 에이전트로 구분
- 에이전트당 단일 도구 사용이 성능 최적화에 효과적
- 영문 프롬프트가 한글 대비 우수한 성능
- Agent 이름과 프롬프트 내 명칭의 일치성 필수
Swarm 패턴 (분산형 협업)
구조적 특징
- 에이전트들의 자율적 결정을 통한 분산 처리
- 높은 유연성과 창발적 문제 해결 능력
- 병렬 처리 가능하나 예측 및 디버깅 어려움
- 순환 핸드오프 위험성 존재
적용 분야
- 연구개발 프로젝트
- 컨설팅 서비스
- 투자 자문 서비스
- 맞춤형 교육 시스템
개발 방법론
- Hand-off 개념을 통한 수평적 협업 구조
- 에이전트 간 자율적 업무 처리
- Agent 이름의 명확성과 작업 분배 기준의 정확한 설명 중요
- 초기 대화 상대 에이전트 지정 필요
- 영어 프롬프트 권장
성능 최적화 전략
속도 향상 기법
- 비동기 처리: 병렬 작업 수행을 통한 응답 시간 단축
- 캐싱 시스템: Redis 기반 의미 기반 캐싱 구현
- 검색 기술: 시맨틱 서치 및 TF-IDF 활용
- 벡터 데이터베이스: PG Vector를 통한 효율적 검색
파인튜닝 및 개인화
- SLLM 파인튜닝의 범용성 vs 도메인 특화 성능 트레이드오프
- 개인화된 답변과 캐싱의 상충관계 해결 방안
- TTL(Time To Live) 1시간 설정을 통한 속도와 악성 사용자 대비 균형
실무 프롬프트 관리
- 실제 에이전트별 프롬프트는 300-400줄 수준의 상세함
- Supervisor 프롬프트에 에이전트 존재 및 명칭 정보 포함 필수
- 영문 프롬프트 사용 시 한글 대비 현저한 성능 향상
3. A2A 관련 주제 | 김태영
핵심 개념 구분
A2A (Agent to Agent)
- 에이전트 간 직접적인 상호작용 및 협업
- 분산형 의사결정 및 자율적 업무 처리 지향
MCP (Model Context Protocol)
- 에이전트와 도구 간의 표준화된 연결 프로토콜
- 외부 데이터 소스 및 도구 접근을 위한 표준 인터페이스
선택 기준 및 고려사항
- A2A와 MCP는 경쟁 관계가 아니나 실무에서는 선택이 필요한 상황 빈번
- 프로젝트 요구사항, 시스템 복잡도, 확장성 등을 종합적으로 고려한 의사결정 필요
- 각 접근법의 장단점을 명확히 이해하고 상황별 최적 선택 중요