Context Engineering

Richard MacManus의 **「5 Trends That Defined AI Engineering at World’s Fair 2026」**은 AI Engineer World’s Fair 2026에서 반복해서 등장한 주제를 다룬다. 2023년의 관심사가 LLM이 자율적으로 행동할 수 있는지 증명하는 일이었다면, 이제는 에이전트를 신뢰할 수 있는 제품과 조직 시스템으로 운영하는 일이 중심이 되었다. 원문: 5 Trends That Defined AI Engineering at World’s Fair 2026 TL;DR 핵심 정리 관심사의 이동: 에이전트의 능력보다 에이전트를 둘러싼 하네스, 컨텍스트, 권한, 평가, 상태 관리가 중요해졌다. 루프 설계: 에이전트가 작업을 반복하는 내부 루프와 사람이 방향을 조정하고 결과를 평가하는 외부 루프를 분리해야 한다. 기업 도입: FDE와 소프트웨어 팩토리는 조직의 데이터·업무 흐름·승인 지점까지 함께 설계하는 역할로 확장된다. 개발자 인터페이스: 코딩 에이전트는 자동완성 도구를 넘어 저장소를 탐색하고 코드를 수정·검증하는 작업 환경이 되고 있다. 스킬의 부상: 스킬은 절차와 품질 기준을 에이전트가 재사용할 수 있게 만들지만, 작고 목적이 분명해야 유지할 수 있다. 1) 에이전트보다 에이전트를 둘러싼 시스템이 중요해진다 초기의 에이전트 논의는 모델이 계획을 세우고 도구를 사용해 목표를 달성할 수 있는지에 집중했다. AutoGPT, BabyAGI 같은 프로젝트는 자율성의 가능성을 보여주는 실험이었다. 그러나 실제 운영 환경에서는 모델의 한 번의 능력보다 어떤 컨텍스트를 주고, 어떤 도구와 권한을 열어주며, 결과를 어떻게 평가하고, 상태를 어떻게 보존하는가가 더 큰 차이를 만든다. ...

Lilian Weng의 글 Harness Engineering for Self-Improvement는 AI 자기개선을 모델 가중치의 문제로만 보지 않는다. 모델 주변에서 실행을 조율하는 하네스, 즉 도구 호출, 메모리, 워크플로, 권한, 평가 루프까지 포함한 시스템이 가까운 미래의 핵심 개선 대상이라는 주장이다. Harness 핵심 정리 하네스의 역할: 베이스 모델이 어떻게 생각하고, 어떤 도구를 쓰고, 무엇을 기억하고, 어떤 결과를 통과시킬지 정하는 실행 시스템이다. 가까운 경로: 자기개선은 모델이 곧장 자기 가중치를 수정하는 장면보다, 하네스와 연구 파이프라인을 개선하는 형태로 먼저 올 가능성이 크다. 중요 패턴: 워크플로 자동화, 파일 시스템 기반 장기 기억, 서브에이전트와 백엔드 작업 관리가 반복해서 등장한다. 최적화 대상: 프롬프트에서 구조화 컨텍스트, 워크플로, 하네스 코드, 옵티마이저 코드로 점점 내려간다. 현실적 한계: 평가가 흐릿한 영역에서는 보상 해킹, 실패 은폐, 다양성 붕괴, 장기 유지보수 비용을 피하기 어렵다. 1) 하네스는 프롬프트보다 실행 시스템에 가깝다 초기 에이전트 설명은 보통 LLM + memory + tools + planning + action 같은 공식으로 끝났다. Weng은 여기에 한 층을 더 얹는다. 실제 제품에서 중요한 것은 모델에게 좋은 말을 건네는 것만이 아니라, 모델이 어떤 루프 안에서 관찰하고, 실행하고, 실패를 기록하고, 다시 시도하게 만드는가다. ...