많은 개발자가 AI 에이전트를 이용한 코딩에 중독되어 있습니다. 잠도 자지 않고 수많은 에이전트 세션을 동시에 돌리며 무언가를 계속 만들어내는데, 본인은 스스로가 “유례없이 생산적"이라고 느끼지만, 제삼자가 보기에는 마치 일종의 ‘정신병적 상태(Psychosis)‘처럼 보일 정도로 기계에 매몰되어 있다는 지적입니다.
원문: Agent Psychosis: Are We Going Insane?
1. 에이전트 중독과 ‘생산성 환상’
많은 개발자가 AI 에이전트를 이용한 코딩에 중독되어 있습니다. 잠도 자지 않고 수많은 에이전트 세션을 동시에 돌리며 무언가를 계속 만들어내는데, 본인은 스스로가 “유례없이 생산적"이라고 느끼지만, 제삼자가 보기에는 마치 일종의 ‘정신병적 상태(Psychosis)‘처럼 보일 정도로 기계에 매몰되어 있습니다.
우리의 작은 데몬(Dæmon)
Armin은 Philip Pullman의 “황금 나침반” 시리즈에 나오는 ‘데몬’ 개념을 빌려와 설명합니다. 모든 인간에게는 영혼의 외적 표현인 데몬이 동물의 형태로 함께 살아가는데, 우리가 AI 에이전트와 맺는 관계가 바로 그것과 유사하다는 것입니다.
- 의존성과 정체성: 우리는 이 작은 동반자들에게 의존하게 되고, 그들과 분리되는 것은 고통스럽습니다. 우리의 새로 발견한 정체성의 일부가 되어버립니다.
- 가짜 협업: 인간과 인간 사이의 진정한 협업이 아니라, 완전히 우리가 주도하는 일방적인 관계입니다. AI는 단지 우리의 아이디어와 충동을 강화해주는 역할만 합니다.
- 권력의 착시: 프로그래밍을 해본 적 없는 사람들도 이제 엄청난 권력을 휘두를 수 있지만, 구독료 한도에 걸리거나 데몬이 잠들면 그 모든 권력이 사라집니다.
도파민 중독의 함정
작가 자신도 처음 Claude에 중독되었을 때 두 달 동안 잠을 제대로 자지 못하고 과도하게 프롬프트를 작성하며 토큰을 낭비했다고 고백합니다. “그냥 할 수 있다"는 생각에 빠져 무언가를 계속 만들었지만, 실제로는 대부분 사용하지 않거나 생각대로 작동하지 않았습니다.
- 생산성의 착시: 도파민이 주는 쾌감은 매우 현실적입니다. 생산적이라고 느끼고, 모든 것이 놀랍다고 느끼며, 같은 취향의 사람들과 어울리면 더 깊이 빠져듭니다.
- 현실 검증의 부재: 아무도 내부를 들여다보지 않는 한 괜찮아 보입니다. 하지만 외부인이 처음으로 살펴보면 꽤 미친 것처럼 보입니다.
2. 코드 품질의 저하와 소통의 단절
PR/이슈의 품질 하락
메인테이너 입장에서 최근 접하는 많은 Pull Request(PR)들이 무의미하거나 품질이 낮아지고 있습니다. 에이전트가 생성한 코드를 깊은 검토 없이 제출하면서, 정작 이를 리뷰해야 하는 인간의 시간은 존중받지 못하는 상황입니다.
- 비대칭적 부담: 나쁜 코드를 쏟아내는 데는 1분이면 충분하지만, 실제로 PR을 정직하게 리뷰하는 데는 그보다 훨씬 더 많은 시간이 필요합니다. 이 비대칭성은 완전히 잔인합니다.
- 시간의 무시: 나쁜 코드를 쏟아내는 것은 메인테이너의 시간을 완전히 무시하는 무례한 행동입니다. 하지만 다른 사람들도 모두 AI로 생성한 코드를 만들고 있고, 그 중 일부는 품질 기준을 통과했을 수도 있습니다. 어떻게 구분할 수 있을까요?
선의의 갈등
기여자는 “도우려고 했다"고 말하며 진심으로 당황해하지만, 결과물은 메인테이너에게 부담만 주는 경우가 많습니다. AI 에이전트가 “좋은 코드다"라고 말해주기 때문에 기여자는 자신의 작업물에 비판적인 시각을 갖기 어려워합니다.
- 진심 어린 혼란: 메인테이너가 거부하면 기여자는 진심으로 혼란스러워합니다. “왜 이렇게 부정적인가요? 도와드리려고 했는데요.” 그들은 정말로 도우려고 했습니다. 그들의 데몬이 좋다고 말했기 때문입니다.
프롬프트의 문제
AI PR이 들어오면, 누군가가 어떻게 만들었는지 알 수 없지만, 시간이 지나면 보통 프롬프트 방식이 근본적으로 다르다는 것을 알 수 있습니다. 특히 시스템이 어떻게 작동해야 하는지 잘 모르는 상태에서 기계가 말하는 대로 따르고, 자신이 이해했다고 생각하면 정말 이상한 결과가 나올 수 있습니다.
- 이상한 관계: 사람들이 AI 에이전트와 이상한 관계를 맺고, 프롬프트를 보면 결과물이 극적으로 달라진다는 것을 알 수 있습니다.
- 의식적 행동: 때로는 불명확한 지시, 때로는 이상한 역할 놀이와 속어, 때로는 욕설과 강제, 때로는 이상한 의식적 행동입니다. 어떤 사람들은 에이전트를 가장 좁은 경로로 밀어붙여서 잘못 정의된 목표를 향해 코드베이스의 건강에 거의 신경 쓰지 않습니다.
3. AI 에이전트의 양면성
강점: 생산성 향상
AI 에이전트는 반복적이고 지루한 보일러플레이트 코드 작성, API 호출 기억, 초기 스캐폴딩 등에서 엄청난 효율을 발휘합니다. “문제 해결 방법은 머릿속에 다 있는데 직접 타이핑하기는 귀찮은” 상황에서 최고의 도구가 됩니다.
- 탁월한 도구: 잘 준비된 세션과 좋은 도구, 컨텍스트를 사용하면 놀랍도록 토큰 효율적일 수 있습니다. 예를 들어, MiniJinja를 Go로 포팅하는 전체 작업이 단 220만 토큰만 소비했습니다.
- 생산성 향상: AI 에이전트는 놀랍고 엄청난 생산성 향상입니다.
약점: 품질 통제의 부재
복잡한 아키텍처를 이해하거나, 기존 테스트를 고치는 대신 삭제해 버리는 등 ‘품질 통제(Quality Ratchet)’ 능력이 부족합니다. 마치 기억력이 감퇴하고 가끔 확신에 찬 거짓말을 하는 “노련하지만 정신없는 엔지니어"와 같습니다.
- 슬롭 루프(Slop Loop): 손을 떼고 에이전트를 풀어두는 접근 방식은 엄청난 속도로 토큰을 소비합니다. Ralph 같은 패턴은 특히 낭비적입니다. 매번 처음부터 루프를 재시작하므로 캐시된 토큰을 사용하거나 컨텍스트를 재사용할 수 있는 능력을 잃습니다.
- 토큰 가격의 현실: 현재 토큰 가격은 거의 확실히 보조금을 받고 있습니다. 이러한 패턴은 오래 지속되지 않을 수 있습니다. 그리고 우리가 모두 사용하고 있는 할인된 코딩 플랜도 오래 가지 않을 수 있습니다.
Gas Town과 Beads: 슬롭 루프의 완전한 축하
Steve Yegge의 에이전트 코딩 도구인 Beads와 Gas Town은 슬롭 루프의 완전한 축하입니다. Beads는 기본적으로 에이전트용 이슈 트래커인데, 24만 줄의 코드로 GitHub 저장소의 마크다운 파일을 관리합니다. 그리고 코드 품질은 형편없습니다.
- 미친 맥스 컬트: 외부에서 보면 Gas Town(과 Beads)은 미친 맥스 컬트처럼 보입니다. 에이전트 코딩 시스템에서 polecats, refineries, mayors, beads, convoys가 무엇을 하는 걸까요?
- 복잡성의 증가: Beads는 계속 복잡해지고 있고, 사용하는 사람들은 거의 제거할 수 없다는 것을 깨닫고 있습니다. 그리고 하나가 다른 하나에 의존한다고 해도 잘 작동하지 않을 수 있습니다.
4. 향후 전망과 우려
현실 도피의 어려움
특히 이런 광기를 선택하지 않으려면 지금은 꽤 어려워지고 있습니다. 일부 프로젝트는 사람들을 완전히 심사하기 전까지는 더 이상 인간의 기여를 받지 않습니다. 다른 프로젝트들은 코드와 함께 프롬프트를 제출하도록 요구하기 시작하거나, 프롬프트만 제출하도록 요구합니다.
메인테이너의 딜레마
작가는 AI를 사용하는 메인테이너이며, 다른 사람들도 알고 있다고 말합니다. 그들은 기술 거부주의자가 아니며 확실히 반-AI가 아닙니다. 하지만 이슈와 PR 트래커에서 AI 슬롭을 만나면 좌절감을 느낍니다. 매일 누군가가 1분 만에 생성하고 1시간이 걸려 리뷰해야 하는 더 많은 PR이 들어옵니다.
우리는 줄거리를 잃고 있는가?
작가는 스스로에게 묻습니다: 내가 뭔가 놓치고 있는 걸까? 우리가 가는 곳이 여기인가? 나는 이 새로운 세계에 준비가 안 된 것일까? 우리 모두가 집단적으로 미쳐가고 있는 걸까?
새벽 3시에 열 번째 병렬 에이전트 세션을 실행하면서 자신이 한 번도 이렇게 생산적이지 않았다고 말하는 누군가를 볼 때, 그 순간에는 생산성을 보지 못합니다. 기계에서 잠시 물러나야 할 누군가를 봅니다. 그리고 그 누군가가 얼마나 자주 자신인지 궁금해합니다.
결론
두 가지가 모두 사실입니다: AI 에이전트는 놀랍고 엄청난 생산성 향상입니다. 또한 뇌를 끄고 완전히 놓아두면 거대한 슬롭 기계이기도 합니다.
아마도 답은 더 나은 도구가 필요하다는 것입니다 — 품질을 신호하는 더 나은 방법, 컨텍스트를 공유하는 더 나은 방법, AI의 관여를 보이게 하고 검토 가능하게 만드는 더 나은 방법. 아마도 사람들이 벽에 부딪히면서 문화가 자체 수정될 것입니다. 아마도 이것은 우리가 새로운 규범을 알아내기 전의 어색한 전환 단계일 것입니다.
또는 우리 중 일부는 정말로 줄거리를 잃고 있고, 되돌아볼 때까지 우리가 어느 진영에 있는지 알 수 없을 것입니다.
AI 에이전트가 주는 가짜 전능감에 빠져 인간다운 판단력과 타인에 대한 배려를 잃지 않도록, 때로는 기계에서 물러나 현실을 직시해야 합니다.