모델 아키텍처와 사후 학습(post-training)에만 집중하는 현재 AI 개발 패러다임을 비판하며, “에이전트가 무엇을 배울 수 있는지 결정하는 것은 강화학습 환경"이라고 주장합니다. 환경 설계가 시스템 성능의 절반을 차지한다는 것이 핵심입니다. 원문: RL Environments for LLM Agents 핵심 주장 단일 턴 Q&A로만 학습한 모델은 50단계 엔터프라이즈 워크플로우에서 실패하고, 보상 함수가 형편없으면 모델이 문제를 풀기보다 지표를 조작하도록 학습된다. 모델이 아닌 환경이 에이전트의 행동을 형성 한다. 정준 루프(Canonical Loop): E = {T, H, V, S, C} RL 환경을 다섯 가지 요소로 정의한다: ...
Sebastian Raschka가 Claude Code, Codex 같은 코딩 도구들이 기존 채팅 인터페이스보다 강력한 이유는 더 나은 모델 때문이 아니라, 모델을 둘러싼 “에이전트 하네스(harness)“의 설계 때문이라고 분석합니다. 같은 모델이라도 다른 하네스에 넣으면 완전히 다른 성능을 보일 수 있습니다. 원문: Components of a Coding Agent 핵심 주장 “many real-world applications, the surrounding system, such as tool use, context management, and memory, plays as much of a role as the model itself” 최신 LLM들(GPT-5.4, Opus 4.6 등)의 기본 성능이 유사해진 지금, 하네스의 품질이 최종 성능의 차별화 요소 가 된다. ...
Django 핵심 기여자인 James Bennett가 LLM 코딩 도구의 효과에 대해 이론적·실증적 근거를 들어 회의적 분석을 제시한 글입니다. 원문: LLMs 핵심 프레임워크: Fred Brooks의 “은탄환은 없다” (1975) 소프트웨어 개발의 어려움을 두 가지로 구분합니다: 우발적(accidental) 어려움 — 도구로 제거 가능 (수동 메모리 관리 등) 본질적(essential) 어려움 — 사양, 설계, 테스트 등 소프트웨어 자체에 내재된 것 Brooks의 핵심 통찰: “어려운 부분은 개념을 구축하는 것이지, 그것을 표현하는 노동이 아니다.” 우발적 어려움이 전체의 90% 이상이 아닌 한 10배 생산성 향상은 불가능하며, 실제 비율은 훨씬 낮다고 저자는 봅니다. ...
AI 모델의 **능력(capability)**이 크게 향상된 것은 주로 **추론 비용(inference cost)**이 인간 노동 대비 더 저렴해졌기 때문이 아니라, 모델이 **더 길고 복잡한 작업(longer/harder tasks)**을 처리할 수 있게 되었기 때문이라는 점을 강조합니다. 능력 향상(예: METR의 frontier time horizons 기준으로 몇 달마다 배로 증가)은 관찰되지만, 이는 “같은 작업을 더 싸게 하는” 형태가 아닙니다. 오히려 추론 비용이 상승하는 경향을 보이는데, 이는 모델이 더 긴/어려운 작업을 수행하기 때문에 발생하는 자연스러운 현상입니다. (더 많은 compute/token을 소모) 현재 frontier 모델들은 50% 신뢰도(reliability) horizon에서 인간 비용의 약 3% 수준으로 작업을 수행하며, 이 비용 비율(인간 대비)은 능력 향상에도 크게 변하지 않고 있다는 데이터가 제시됩니다. 핵심 포인트 ...
AI 에이전트의 미래는 이미 와 있지만, 아직 균등하게 퍼지지 않았다 (William Gibson 인용). 테크 업계에서는 코딩 에이전트가 폭발적으로 성장 중. 긴 작업을 처리하고, 제품 전체를 에이전트로 만드는 사례가 속출. 모델 성능이 급격히 좋아지면서 코딩 분야가 가장 먼저 변하고 있음. 일반 지식 노동자 (비테크 기업 포함)에게는 아직 초기 단계. AI는 질문 답변·정보 검색 정도의 ‘도우미’ 역할에 그치고, 대규모 자동화·실제 업무 생산은 미미함. 그러나 현재 모델만으로도 화이트칼라 업무의 상당 부분을 바꿀 수 있고, 앞으로 2년 내 각 분야 전문가를 능가할 가능성이 매우 높음. 가장 큰 장벽 = Context Gap (맥락 부족) 에이전트가 제대로 일하려면 조직의 ‘집단 지식’이 AI에게 읽기 쉬운 형태로 제공되어야 하는데, 대부분 기업은 다음과 같은 문제로 어려움을 겪음: ...
이 글은 2026년 3월 18일경 BLOG@CACM에 게시된 것으로, 저자는 Mallik Tatipamula , David Attermann , 그리고 인터넷의 아버지로 불리는 Vinton G. Cerf (Vint Cerf)입니다. 핵심 논지 AI와 지능이 빠르게 분산화(distributed)되고 있는 현재 상황에서, 신뢰(trust) 와 책임(responsibility) 는 여전히 중앙화된 전통적 모델(특정 조직·인간 감독)에 의존하고 있어 심각한 불일치가 발생하고 있다. → 지능 분산 속도 » 신뢰/책임 메커니즘 발전 속도 따라서 “검증 가능한 책임(verifiable responsibility)” 또는 “검증 가능한 분산 신뢰(verifiable distributed trust)” 를 인터넷 아키텍처 수준에서 근본적으로 설계해야 한다는 주장을 펼칩니다. ...
이 글은 AI의 발전으로 누구나 소프트웨어를 쉽게 ‘만드는 것’처럼 보이지만, 실제 **‘제품을 구축하는 것’**과 ‘시스템을 엔지니어링하는 것’ 사이에는 거대한 간극이 존재함을 지적합니다. 원문/참고 링크: https://uphack.io/blog/post/the-illusion-of-building 1. 진흙으로 만든 부가티 (The Clay Bugatti) 최근 “코딩 경험 없이 앱을 만들었다”, “주말 만에 스포티파이를 복제했다"는 식의 글들이 넘쳐납니다. 하지만 이는 베트남의 유튜버들이 진흙으로 부가티 모양을 빚어낸 것과 비슷합니다. 겉모습은 똑같지만, 시속 400km로 달려도 안전하게 설계된 실제 부가기의 ‘엔지니어링’은 전혀 들어있지 않습니다. 개발의 환상이란, 작동하는 것처럼 보이는 소프트웨어를 만드는 것이 실제로 작동하는 소프트웨어를 엔지니어링하는 것과 같다고 믿는 착각입니다. ...
맥스 카낫-알렉산더(Max Kanat-Alexander)의 블로그 포스트 “What is an Engineer?” 는 AI 시대에 소프트웨어 엔지니어의 정체성과 역할에 대해 깊이 있게 고찰한 글입니다. 원문: What is an Engineer? 맥스 카낫-알렉산더(Max Kanat-Alexander)의 블로그 포스트 “What is an Engineer?” 는 AI 시대에 소프트웨어 엔지니어의 정체성과 역할에 대해 깊이 있게 고찰한 글입니다. 주요 내용은 다음과 같습니다. 1. 엔지니어링의 정의 저자는 사전적 정의(엔진이나 기계를 설계하는 일 등)가 현대의 소프트웨어 개발이나 AI 시대를 설명하기엔 부족하다고 지적하며, 자신만의 명쾌한 정의를 제시합니다. ...