Ashpreet Bedi(Agno 창업자)가 에이전트 구축과 프로덕션 운영 사이의 격차를 지적하며, 에이전틱 소프트웨어를 분산 시스템으로 다뤄야 한다는 체계적 프레임워크를 제시합니다.
원문: Systems Engineering: Building Agentic Software That Works / Agentic Software Engineering
핵심 주장
“에이전트 구축은 쉽지만, 프로덕션 환경에서 안정적으로 운영하는 것은 어렵다”
사용자 식별, 상태 유지, 동시 요청 처리, 환불 같은 민감한 작업, 실패한 도구 호출 처리가 필요한 순간, 그것은 더 이상 “LLM + 도구의 루프"가 아닌 분산 시스템 이 된다.
에이전틱 소프트웨어 배포의 3단계
| 단계 | 설명 | 핵심 |
|---|---|---|
| Build(구축) | 모델, 도구, 지식베이스, 메모리, 저장소, 보호 장치 정의 | AI 엔지니어링 중심. 대부분의 프레임워크가 지원하는 영역 |
| Serve(서빙) | API로서 제공. 사용자별 범위 지정, 세션 관리, 수평 확장 | 대부분의 에이전트 제품이 여기서 정체됨 — 인프라 부족 |
| Connect(연결) | 사용자가 있는 곳과 통합 (Slack, Discord, MCP 등) | “노트북의 에이전트는 실험, 사용자가 있는 곳의 에이전트가 제품” |
에이전틱 소프트웨어의 6가지 기둥
1. Durability(내구성)
에이전트가 15단계 중 12단계에서 충돌하면, 재시작 시 부작용이 중복되거나 중요 컨텍스트가 손실된다. 일시 중지, 재개, 체크포인트, 우아한 복구가 필요하며, 내구성은 완전 재시작이 아닌 재개로 실패를 전환 한다.
2. Isolation(격리)
수천 명의 사용자가 동시에 에이전틱 소프트웨어를 사용할 때, 에이전트가 접촉하는 모든 리소스를 격리하는 것이 핵심이다. 데이터베이스, 벡터 저장소, 모델 제공자가 모두 사용자 경계를 존중해야 한다. “하나의 누락된 필터가 데이터 유출이 될 수 있다”
3. Governance(거버넌스)
행동할 수 있는 에이전트는 피해도 입힐 수 있다. 계층화된 권한 구조가 필요하다:
- 자동 실행 도구
- 사용자 승인 필요 도구
- 관리자 승인 필요 도구
“대부분의 에이전트는 최소한의 감독으로 자동 실행된다. 더 강해질수록 거버넌스가 제품 자체가 된다”
4. Persistence(지속성)
“지속 저장소 없는 에이전트는 학습하거나, 컨텍스트를 구축하거나, 개선될 수 없다.” 세션, 메모리, 지식을 데이터베이스에 저장해야 하며, 매 대화가 다음 대화를 더 좋게 만드는 것 이 챗봇을 제품으로 만든다.
5. Scale(규모 확장)
기존 서비스는 자체 백엔드를 호출하지만, 에이전틱 소프트웨어는 외부 모델 API와 서드파티 도구를 호출한다. 제어 불가능한 종속성의 속도 제한, 지연, 다운타임을 상속 받는다는 특수성이 있다.
6. Composability(조합가능성)
에이전트가 서비스가 되면 다른 에이전트가 이를 호출할 수 있다. 프론트엔드, Slack 봇, MCP 클라이언트가 모두 호출 가능하며, 단일 에이전트 도구가 다중 에이전트 시스템으로 변한다.
3가지 전문 엔지니어링 분야
| 분야 | 범위 | 핵심 |
|---|---|---|
| AI 엔지니어링 | Build 단계 | 모델 선택, 도구·기능 정의, 지식베이스 구축, guardrails 설정 |
| 데이터 엔지니어링 | Serve + Persistence | 지속성 저장소(PostgreSQL), 세션/메모리 관리, 벡터 저장소, 데이터 격리 |
| 보안 엔지니어링 | Governance + Isolation | 사용자별 접근 제어, 도구 실행 권한 계층화, 승인 흐름, 감사 추적 |
구체적 예시: 고객 환불 처리 에이전트
도구 구성:
- lookup_order (자동 실행)
- search_help_docs (자동 실행)
- issue_refund (사용자 확인 필요)
- UserFeedbackTools (구조화된 질문)
워크플로우 :
- 자동 조회 — 고객이 환불 요청 → 에이전트가 독립적으로 주문 조회 (권한 불필요)
- 구조화된 질문 — 환불 이유 파악 필요 → 사전 정의된 선택지 제시 → 고객이 선택
- 승인 대기 — 환불 도구 호출 전 금전 영향으로 관리자 승인 필요 → 승인 후 실행
“에이전트는 언제 행동할지, 언제 질문할지, 언제 기다릴지를 안다. 이것이 실제 거버넌스다”
역사적 교훈
“이것은 새로운 것이 아니다. 우리는 수십 년 동안 안정적인 분산 시스템을 구축해왔다. AI 산업은 단지 그 교훈을 가져오지 않았고, 우리는 모든 실패한 배포에서 이를 느끼고 있다”
80년 된 시스템 엔지니어링의 교훈: 개별 구성요소를 최적화해서는 시스템을 최적화할 수 없다. 전체의 행동(라우팅, 안정성, 용량, 비용)은 부분들이 상호작용하는 방식에서 나온다.
결론
“에이전틱 소프트웨어 엔지니어링은 학문이다. 이를 일찍 내재화하는 팀이 훌륭한 제품을 배포할 것이다. 에이전트를 스크립트로 계속 취급하는 팀은 계속 목표를 놓칠 것이다”