“백만 토큰당 $X” 는 LLM 가격을 비교하는 가장 흔한 기준이지만, TensorZero의 Gabriel Bianconi는 이 기준이 근본적으로 망가졌다고 주장합니다. 동일한 입력이 모델에 따라 최대 2.65배 더 많은 토큰을 생성하기 때문입니다. 리스트 가격이 비슷해 보여도 실효 비용은 크게 벌어지며, 특히 도구(tool) 정의가 많은 에이전트 워크로드에서 순위가 뒤집힙니다. 원문: Stop comparing price per million tokens: the hidden LLM API costs — Gabriel Bianconi, TensorZero (2026-04-16) · 오픈소스: tensorzero/tensorzero 핵심 주장 같은 입력이 모델에 따라 2.65배 이상 더 많은 토큰을 생성한다. ...

Shann Holmberg는 에이전트가 쓸모 없는 근본 이유는 지식을 보관하지 않기 때문이라고 주장합니다. 모든 대화가 0에서 시작하고, 매번 비즈니스 맥락·목소리·목표를 재설명해야 하며, 결과는 늘 제네릭합니다. 해법은 에이전트와 사용자 사이에 앉는 Knowledge Layer — Karpathy의 LLM Wiki 패턴을 따르는 두 레이어 시스템입니다. 20분 셋업, 매일 스스로 개선, 오픈소스. 원문: AI Knowledge Layer (and why your agents are useless without it) — Shann Holmberg · 구현체: shannhk/llm-wikid 핵심 문제 — 에이전트는 매번 0에서 시작한다 대부분의 팀이 겪는 패턴: ...

개발자 문서를 인간 독자만을 대상으로 최적화하는 시대가 끝나가고 있습니다. AI 코딩 에이전트는 문서를 전혀 다른 방식으로 소비하며, 기존 포털은 점점 에이전트에게 보이지 않는 존재가 되고 있습니다. Addy Osmani는 이를 해결하기 위한 새로운 규율로 Agentic Engine Optimization(AEO) 을 제안합니다. 과거 SEO가 검색 크롤러를 위해 콘텐츠를 구조화했던 것처럼, AEO는 에이전트가 실제로 사용할 수 있도록 기술 콘텐츠를 구조화·포맷팅·제공하는 실천입니다. 왜 AEO인가 — 에이전트는 인간처럼 읽지 않는다 인간 패턴: 4~8분간 섹션을 점진적으로 클릭하며 탐색. 스크롤 깊이, 체류 시간, 링크 클릭 같은 분석 이벤트가 발생. 에이전트 패턴: 여러 페이지 탐색을 1~2개의 HTTP 요청으로 압축. 클라이언트 사이드 분석 이벤트는 전혀 남지 않음. 서버 로그에는 고유한 에이전트 핑거프린트가 남음 — Claude Code는 axios/1.8.4, Cline/Junie는 curl/8.4.0, Cursor는 got, Aider·OpenCode는 headless Chromium. 토큰 문제 — 문서 크기는 이제 1급 지표다 Cisco Secure Firewall Management Center REST API 퀵스타트는 193,217 토큰으로, 대부분 에이전트의 사용 가능 컨텍스트를 초과합니다. 이런 경우 에이전트는 조용히 잘라내거나, 건너뛰거나, 솔루션을 환각합니다. ...

Akshay Pachaar가 Anthropic, OpenAI, Perplexity, LangChain이 실제로 구축하고 있는 에이전트 하네스를 심층 분석합니다. 오케스트레이션 루프, 도구, 메모리, 컨텍스트 관리 등 stateless LLM을 capable agent로 변환하는 모든 것을 다룹니다. 원문: The Anatomy of an Agent Harness 핵심 주장 챗봇을 만들어 ReAct 루프에 도구 몇 개를 연결하면 데모에서는 작동한다. 프로덕션을 시도하면 무너진다 — 모델이 3단계 전에 한 일을 잊고, 도구 호출이 조용히 실패하고, 컨텍스트 윈도우가 쓰레기로 채워진다. 문제는 모델이 아니다. 모델을 둘러싼 모든 것이다. ...

Ashpreet Bedi(Agno 창업자)가 에이전트 구축과 프로덕션 운영 사이의 격차를 지적하며, 에이전틱 소프트웨어를 분산 시스템으로 다뤄야 한다는 체계적 프레임워크를 제시합니다. 원문: Systems Engineering: Building Agentic Software That Works / Agentic Software Engineering 핵심 주장 “에이전트 구축은 쉽지만, 프로덕션 환경에서 안정적으로 운영하는 것은 어렵다” 사용자 식별, 상태 유지, 동시 요청 처리, 환불 같은 민감한 작업, 실패한 도구 호출 처리가 필요한 순간, 그것은 더 이상 “LLM + 도구의 루프"가 아닌 분산 시스템 이 된다. 에이전틱 소프트웨어 배포의 3단계 단계 설명 핵심 Build(구축) 모델, 도구, 지식베이스, 메모리, 저장소, 보호 장치 정의 AI 엔지니어링 중심. 대부분의 프레임워크가 지원하는 영역 Serve(서빙) API로서 제공. 사용자별 범위 지정, 세션 관리, 수평 확장 대부분의 에이전트 제품이 여기서 정체됨 — 인프라 부족 Connect(연결) 사용자가 있는 곳과 통합 (Slack, Discord, MCP 등) “노트북의 에이전트는 실험, 사용자가 있는 곳의 에이전트가 제품” 에이전틱 소프트웨어의 6가지 기둥 1. Durability(내구성) 에이전트가 15단계 중 12단계에서 충돌하면, 재시작 시 부작용이 중복되거나 중요 컨텍스트가 손실된다. 일시 중지, 재개, 체크포인트, 우아한 복구가 필요하며, 내구성은 완전 재시작이 아닌 재개로 실패를 전환 한다. ...

모델 아키텍처와 사후 학습(post-training)에만 집중하는 현재 AI 개발 패러다임을 비판하며, “에이전트가 무엇을 배울 수 있는지 결정하는 것은 강화학습 환경"이라고 주장합니다. 환경 설계가 시스템 성능의 절반을 차지한다는 것이 핵심입니다. 원문: RL Environments for LLM Agents 핵심 주장 단일 턴 Q&A로만 학습한 모델은 50단계 엔터프라이즈 워크플로우에서 실패하고, 보상 함수가 형편없으면 모델이 문제를 풀기보다 지표를 조작하도록 학습된다. 모델이 아닌 환경이 에이전트의 행동을 형성 한다. 정준 루프(Canonical Loop): E = {T, H, V, S, C} RL 환경을 다섯 가지 요소로 정의한다: ...

Sebastian Raschka가 Claude Code, Codex 같은 코딩 도구들이 기존 채팅 인터페이스보다 강력한 이유는 더 나은 모델 때문이 아니라, 모델을 둘러싼 “에이전트 하네스(harness)“의 설계 때문이라고 분석합니다. 같은 모델이라도 다른 하네스에 넣으면 완전히 다른 성능을 보일 수 있습니다. 원문: Components of a Coding Agent 핵심 주장 “many real-world applications, the surrounding system, such as tool use, context management, and memory, plays as much of a role as the model itself” 최신 LLM들(GPT-5.4, Opus 4.6 등)의 기본 성능이 유사해진 지금, 하네스의 품질이 최종 성능의 차별화 요소 가 된다. ...

Latent Space 팟캐스트에 출연한 Marc Andreessen(a16z 공동창업자)이 현재 AI 붐을 1943년 신경망 이론부터 축적된 80년의 기초 연구가 결실을 맺는 역사적 전환점으로 진단하며, 소프트웨어 아키텍처의 근본적 변화를 논합니다. 원문: Marc Andreessen - Latent Space Podcast 핵심 프레임: “80년의 밤샘 성공 (80 Year Overnight Success)” 현재 AI 붐은 단순한 기술 사이클이 아니라, 1943년 신경망 이론부터 축적된 80년의 기초 연구가 결실을 맺는 순간 이라는 진단. 1. 이번이 진짜 다른 이유 — 4가지 돌파구 과거 AI는 붐-폭락(AI 겨울)을 반복했지만, 이번에는 4가지 기능이 동시에 작동 중: ...

LangChain CEO Harrison Chase가 AI 에이전트의 지속적 학습(Continual Learning)에 대해 제시한 프레임워크를 합니다. 에이전트의 “학습"은 모델 가중치 업데이트만을 의미하지 않으며, 3가지 서로 다른 계층에서 발생할 수 있다는 것이 핵심 주장입니다. 원문: Continual Learning for AI Agents 핵심 주장 AI 에이전트의 “학습"은 모델 가중치 업데이트만이 아니라, 3가지 계층에서 각각 독립적으로 발생 할 수 있다. 에이전트 시스템의 3계층 구조 계층 설명 예시 (Claude Code) 모델 계층 모델 가중치 자체 Claude Sonnet 하네스 계층 에이전트를 구동하는 코드·지시문·도구 Claude Code 자체 컨텍스트 계층 하네스 외부의 설정 가능한 지시문·스킬 CLAUDE.md, /skills 각 계층별 학습 방법 모델 계층 학습 — SFT, RL, GRPO 등 전통적 학습 기법 사용. 단, 재앙적 망각(catastrophic forgetting) 문제가 핵심 과제 (새 데이터 학습 시 기존 지식이 저하됨). ...

Django 핵심 기여자인 James Bennett가 LLM 코딩 도구의 효과에 대해 이론적·실증적 근거를 들어 회의적 분석을 제시한 글입니다. 원문: LLMs 핵심 프레임워크: Fred Brooks의 “은탄환은 없다” (1975) 소프트웨어 개발의 어려움을 두 가지로 구분합니다: 우발적(accidental) 어려움 — 도구로 제거 가능 (수동 메모리 관리 등) 본질적(essential) 어려움 — 사양, 설계, 테스트 등 소프트웨어 자체에 내재된 것 Brooks의 핵심 통찰: “어려운 부분은 개념을 구축하는 것이지, 그것을 표현하는 노동이 아니다.” 우발적 어려움이 전체의 90% 이상이 아닌 한 10배 생산성 향상은 불가능하며, 실제 비율은 훨씬 낮다고 저자는 봅니다. ...