{"title":"우리에게 남은 일은 무엇인가 — ICML 2026 키노트에서 본 AI 시대 일자리","url":"https://hugo-blog-static-site.haxlys.workers.dev/posts/what-will-be-left-for-us-to-work/","section":"posts","date":"2026-07-15T11:14:28+09:00","lastmod":"2026-07-15T11:14:28+09:00","description":"Arvind Narayanan의 ICML 2026 키노트를 바탕으로, AI as Normal Technology 프레임워크, 능력-신뢰성 격차, Decide-Execute-Deliver 구조, 그리고 평가로 이동하는 인간 역할 변화를 정리한다.","summary":"프린스턴 대학의 Arvind Narayanan이 ICML 2026 키노트에서 던진 질문은 단순하다. AI 능력이 계속 올라갈 때, 우리에게 남은 일은 무엇인가? 그는 이 불안을 정면으로 다루며 AI as Normal Technology 프레임워크를 중심으로 세 가지 주장을 펼친다. 첫째, 재귀적 자기개선 같은 불연속성이 오기 전까지 이 프레임은 유효하다. 둘째, 랩에서 어떤 마일스톤을 달성해도 그것이 곧바로 전면 실업을 만들지 않는다. 셋째, 미래 직업은 지금과 근본적으로 달라지므로 대규모 적응이 필요하다.\nTL;DR 핵심 정리 AI as Normal Technology: AI는 산업혁명급 변환 기술이지만, 경제적 영향은 능력 → 제품 → 초기 채택 → 조직 적응의 네 단계를 거치며 적응은 수십 년이 걸린다. 능력-신뢰성 격차: 최근 24개월 프론티어 모델에서 accuracy는 크게 올랐으나 reliability는 5~10%p 수준만 개선되어, 완전 자동화보다 협업 에이전트가 당분간 더 성공적이다. Decide-Execute-Deliver: AI는 중간 Execute(코딩 등)만 압축하고, 양 끝의 결정·기획과 검증·책임은 오히려 확장될 수 있다. 역할 이동: 검증 가능한 구축 작업은 AI로 넘어가고, 인간의 핵심 역할은 평가·조향·판단·취향으로 이동한다. 목표: 랩의 마일스톤에 굴복하는 것이 아니라, AI를 정신의 크레인으로 쓰는 공초지능(co-superintelligence)을 향해 통제권을 유지하는 것이다. 원문: What will be left for us to work on?\n주석 슬라이드: ICML 2026 annotated slides\n","content":"프린스턴 대학의 Arvind Narayanan이 ICML 2026 키노트에서 던진 질문은 단순하다. AI 능력이 계속 올라갈 때, 우리에게 남은 일은 무엇인가? 그는 이 불안을 정면으로 다루며 AI as Normal Technology 프레임워크를 중심으로 세 가지 주장을 펼친다. 첫째, 재귀적 자기개선 같은 불연속성이 오기 전까지 이 프레임은 유효하다. 둘째, 랩에서 어떤 마일스톤을 달성해도 그것이 곧바로 전면 실업을 만들지 않는다. 셋째, 미래 직업은 지금과 근본적으로 달라지므로 대규모 적응이 필요하다.\nTL;DR 핵심 정리 AI as Normal Technology: AI는 산업혁명급 변환 기술이지만, 경제적 영향은 능력 → 제품 → 초기 채택 → 조직 적응의 네 단계를 거치며 적응은 수십 년이 걸린다. 능력-신뢰성 격차: 최근 24개월 프론티어 모델에서 accuracy는 크게 올랐으나 reliability는 5~10%p 수준만 개선되어, 완전 자동화보다 협업 에이전트가 당분간 더 성공적이다. Decide-Execute-Deliver: AI는 중간 Execute(코딩 등)만 압축하고, 양 끝의 결정·기획과 검증·책임은 오히려 확장될 수 있다. 역할 이동: 검증 가능한 구축 작업은 AI로 넘어가고, 인간의 핵심 역할은 평가·조향·판단·취향으로 이동한다. 목표: 랩의 마일스톤에 굴복하는 것이 아니라, AI를 정신의 크레인으로 쓰는 공초지능(co-superintelligence)을 향해 통제권을 유지하는 것이다. 원문: What will be left for us to work on?\n주석 슬라이드: ICML 2026 annotated slides\n두 가지 내러티브 사이에서 AI 담론은 오래전부터 두 진영으로 갈라져 왔다. 이제는 철학 논쟁이 아니라 개인의 실무 선택 이 된다.\n관점 함의 대응 대체 기술 수년 안에 인간 업무를 대부분 대체한다 스킬이 무용지물이 되기 전에 자산을 최대한 축적한다 증폭 기술 인간 잠재력을 크게 키운다 AI에 상보적인 스킬, 주체성, 취향, 판단력을 지금 쌓는다 Narayanan은 후자를 택한다. 만약 실제로는 증폭 기술인데 대체 기술로 가정하고 스킬 투자를 포기하면, 역사상 가장 강력한 보완 역량을 기를 시기를 놓치게 된다.\nAI as Normal Technology란 무엇인가 \u0026ldquo;Normal\u0026quot;은 망치나 칫솔처럼 사소하다는 뜻이 아니다. 저자들은 AI를 산업혁명 수준의 변환 기술로 인정한다. 다만 슬로건이 아니라, 능력이 경제·사회에 영향을 미치는 인과 모델 로 제시한다.\n확산 이론을 AI에 적용한 네 단계 전기의 역사를 참고하면 발명 → 혁신 → 확산의 흐름이 보인다. 이를 AI에 적용하면 대략 다음과 같다.\nMethods / Capabilities — 모델 능력이 빠르게 오른다. Products / Applications — 사람들은 LLM 자체를 쓰지 않는다. 코딩 에이전트처럼 잠재 능력을 쓸모 있는 제품으로 바꾸는 단계가 필요하다. Early adoption — 바이브 코딩에서 에이전틱 엔지니어링으로, 사용 방식이 정교해진다. Adaptation / structural transformation — 조직·산업·역할의 구조적 재편. 가장 느리고, 수십 년이 걸리며, 소프트웨어 엔지니어링조차 아직 본격 시작되지 않았다 고 본다. 코딩 에이전트가 수백만 줄 규모의 견고한 시스템을 만들 수 있게 되면, 수십억 명이 쓰는 단일 소프트웨어보다 팀·개인 맞춤 소프트웨어가 합리적이 될 수 있다. 이는 기술 변화가 아니라 산업 구조 변화 다. 소프트웨어 회사가 여전히 필요한지, 개발이 사용 조직 내부로 대거 이동할지 같은 질문이 열린다. 과거 기술을 보면 이런 조직적 변화는 매우 느리다.\n전기 공장 비유: 드롭인 교체는 실패한다 전기 도입 초기, 공장 소유주들은 증기 보일러를 발전기로 단순 교체하려 했다. 이른바 drop-in replacement 다. 오늘날 AI 에이전트를 인간 노동의 즉시 대체재로 보는 시각과 닮았다. 실제로 먹힌 것은 전력이 이동 가능하다는 특성을 살려 조립 라인 논리로 공장 전체를 재설계한 쪽이었다. 그 과정에는 작업자 교육, 고용·해고 방식, 노동법 변화까지 포함됐고 약 40년 이 걸렸다.\nAI도 같은 종류의 조직 적응을 거칠 것이라고 저자는 주장한다. 그리고 그 적응을 완성하는 주체는 AI 회사가 아니다. 전기 유틸리티가 공장 배치를 대신 설계하지 않았던 것과 같다.\n능력과 신뢰성의 격차 Anthropic 데이터 등을 보면, 직군별로 AI를 쓸 수 있는 범위와 실제로 쓰는 범위 사이에 큰 갭이 있다. 채택 지연만이 원인은 아니다. 현장 사용자는 산업계가 과소평가하는 실무적 한계 를 이미 알고 있을 수 있다.\n사람들이 AI에 대해 가장 자주 드는 우려는 신뢰성(reliability) 이다. 저자 팀은 accuracy와 구분되는 reliability를 다음 네 축으로 묶는다.\nConsistency — 70% 정확도가 \u0026ldquo;특정 70% 작업에서는 항상 성공\u0026quot;인지, \u0026ldquo;매 작업마다 30% 확률로 예측 불가능하게 실패\u0026quot;인지. 배포 관점에서는 전혀 다른 의미인데, 기존 벤치마크는 둘을 구분하지 않는다. Robustness — 환경이 조금만 바뀌어도 버티는가. Calibration — 자기 결과가 맞았는지 스스로 판단할 수 있는가. Operational safety — 실패 시 복구 가능한가, 아니면 프로덕션 DB 삭제 같은 비가역 사고인가. 지난 약 24개월, 프론티어 3사 모델에서 능력(accuracy)은 급등 했지만 신뢰성은 5~10%p 수준 만 올랐다. 이 격차의 실무 함의는 분명하다.\n협업 에이전트 vs 자동화 에이전트 산업계는 둘을 아직 충분히 구분하지 않는다. 헤드리스 모드로 돌리면 자동화 에이전트라는 식의 구분은 조잡하다. 자동화에는 높은 신뢰성이 필수지만, 창작 협업 에이전트에는 오히려 일정한 예측 불가능성·탐색성이 바람직하다. 스캐폴딩과 사후학습도 목적에 따라 달라져야 한다.\n당분간 에이전트는 다음 세 속성 중 둘만 동시에 가질 수 있다.\nGeneral-purpose (언어모델 기반의 범용 지시 가능) High-stakes (고위험 현장 배포) Automated (사람 없이 완주) 이 때문에 AI는 당분간 노동을 통째로 대체하는 기술보다 협업 기술 에 가깝다.\n소프트웨어 엔지니어링은 선행 지표다 코딩 에이전트는 가장 빠르게 채택된 영역이므로 노동 영향의 선행 지표가 된다. \u0026ldquo;엔지니어를 10배 생산적으로 만들면 엔지니어가 10분의 1만 필요하다\u0026quot;는 직관은 데이터와 모순 된다. 저자들이 후속 글에서 살펴본 해고 사례 대부분은 재정 압박 속에서 AI를 편리한 명분으로 쓴 경우였다. 관련 분석은 AI가 소프트웨어 엔지니어를 대체하지 못한 이유 에서도 다룬다.\nDecide-Execute-Deliver 샌드위치 레이어 내용 AI 압축 여부 Decide 요구사항 이해, 스펙, 기획 거의 압축되지 않음 Execute 코딩·디버깅 압축됨 (원래도 전체의 일부) Deliver 출시 책임, 통합, 유지보수, 테스트 거의 압축되지 않음 중간이 압축되면 양 끝은 오히려 팽창할 수 있다. 지식 노동자는 점점 크레인 조작수 에 가까워진다. 기계가 무거운 인지 노동을 하지만, 조작·이해·통제는 인간이 맡는다. 직업 전체가 \u0026ldquo;인지 작업을 직접 수행\u0026quot;에서 \u0026ldquo;기계를 운용·감독\u0026quot;으로 재정의된다.\n머신코드에서 고수준 추상화로 올라오며 소프트웨어 생산성은 반복적으로 한 자릿수 배 올랐다. 그 기간 동안 엔지니어 고용은 줄어들지 않았고, 대략 1만 배 규모 로 늘었다. 쓸 코드의 양이 더 빠르게 늘어났기 때문이다.\n노동 총량 오류 경제학에서 반복 확인되는 lump-of-labor fallacy 다. ATM은 은행 지점을 늘렸고, 지점에는 여전히 창구 직원이 필요했다. Hinton의 방사선의 소멸 예측과 달리 방사선의 고용은 늘었고, 번역은 인간 패리티에 가깝게 된 지 약 10년이 지났는데도 통번역 고용은 비교적 안정적이다. 작업이 싸지고 빨라지면 수요 자체가 확장 되는 경우가 많다.\n재귀적 자기개선이 와도 즉시 실업은 아니다 많은 기업이 RSI(Recursive Self-Improvement)를 향해 경쟁한다고 말한다. 흔한 서사는 RSI → AGI → ASI → 인간 일자리 소멸을 거의 자동 연쇄로 그린다. Narayanan은 이를 네 개의 서로 다른 진전 축 으로 분해한다. 어느 하나도 다른 셋을 함의하지 않는다.\n1) Recursive Self-Improvement \u0026ldquo;AI가 후속 시스템을 만들었다\u0026quot;는 말도 스펙트럼이 넓다. 한쪽 끝은 아키텍처·데이터 파이프라인 트윅을 자동 탐색해 개선을 유지하는 화려한 하이퍼파라미터 서치 에 가깝다. AutoML은 오래전부터 있었다. 다른 쪽 끝은 전 세계 수십만 AI 연구자의 창의성·판단까지 대체하는 수준이다. 사람들이 RSI를 말할 때 어느 쪽을 가리키는지 불명확하다.\nAI는 여전히 검증 가능한 과제 에 강하고, 속도·효율 같은 축은 단기 RSI로 크게 개선될 수 있다. 반면 창의성은 비검증적 과제의 전형이다. 인간 창의성조차 인지과학적으로 충분히 정의되지 않아 테스트가 어렵다.\n2) 인간형 AI / 창의성 Dwarkesh Patel의 지적처럼, 서로 무관해 보이는 영역을 잇는 유레카형 연결에서 LLM은 아직 멀다. 가설적으로는 다음과 같다.\n지각 표상 품질은 딥러닝으로 크게 따라잡혔지만, 창의·추론용 표상 은 아직이다. 인간 표상은 Chollet이 말한 극단적 조합성(atoms of meaning)에 가깝고, 작업기억 한계가 오히려 효율적 표상을 강제한다. 인간은 추론 시점에 문제 관련 표상을 개선한다(잠자고 다시 보면 더 잘 풀리는 경험). 현재 연속 학습 연구는 재앙적 망각 방지와 사실·스킬 축적에 치우쳐, 표상 품질 개선과는 결이 다르다. 연구팀은 아직 arXiv에 올라오지 않은 ML 문제를 AI 에이전트에 주고, 해당 문제를 깊이 고민한 인간 연구자가 채점하는 open-world evaluation 도 진행 중이다. App Store 앱 제출 같은 평가도 같은 계열이다.\n3) 경제적 변환 AI 어떤 의미에서 \u0026ldquo;AGI는 이미 있다\u0026quot;는 말에 저자는 동의한다. 모순처럼 들리지만 Part 1과 같은 주장의 다른 표현이다. 병목은 모델이 아니라 다운스트림 에 있다. 신뢰성, 기존 시스템 통합, 의학·법률 등 암묵지, 규제 등이 그 예다. 이것들은 다음 화요일 모델 릴리즈로 풀리지 않고, 수십 년에 걸친 점진적 채택 으로 풀린다.\n따라서 AGI 능력 마일스톤을 맨해튼 프로젝트처럼 먼저 차지하면 경제 과실을 독식한다는 지정학 서사는 설득력이 약하다. 경제적 잠재력은 이미 열려 있고, 누가 다운스트림 행동을 하느냐에 달렸다.\n4) 초지능 암 치료의 병목은 종종 수천 명·10~15년이 걸리는 임상시험이다. 1년 후 날씨를 정확히 맞히는 초지능도 혼돈 이론상 사실상 불가능에 가깝다. 상당수 과제는 이미 외부 한계에 가깝다.\n더 중요한 점은, 대부분 과제에서 인간 성능의 한계는 생물학이 아니라 학습과 도구 에 있다. 고대인이 현대인을 초지능으로 느끼는 이유도 생물학적 업그레이드가 아니라 축적된 학습·디지털 도구 때문이다. AI는 그 도구 중 하나이므로, AI 개선은 AI 지능만이 아니라 AI 증강 인간 의 지능도 끌어올린다.\n\u0026ldquo;미래에 AI가 회사를 소유·운영하고 사람을 고용·해고한다\u0026quot;는 시나리오 자체가 이미 디스토피아다. 정렬 여부와 무관하게 인간 존엄과 민주적 거버넌스 측면에서 재앙이다. 정렬에 기대어 그 미래를 불가피한 것으로 받아들이는 태도는, 저자에게 안전이 아니라 안전 포기에 가깝다. 필요한 것은 정책과 정치, 그리고 무책임한 배포를 막는 사회적 통제다.\n정리하면, 랩에서 달성한 어떤 것도 자동으로 전 인류 실업을 만들지 않는다. 위험은 실재하고 변화는 크지만, 배포 방식에 대한 인간의 행위자성은 수십 년에 걸쳐 작동한다.\n남는 일: 구축에서 평가로 미래 직업이 현재와 같다는 뜻은 아니다. 순수 기술 스킬은 검증 가능하므로 상대적으로 평가 절하된다. 20여 년 전에도 \u0026ldquo;프로그래밍\u0026quot;과 \u0026ldquo;소프트웨어 엔지니어링\u0026rdquo; 수요는 갈라지기 시작했다. 전자는 코딩·디버깅 중심이고, 후자는 Decide-Execute-Deliver 전 계층과 도메인 지식·판단을 포함한다. 이런 분화가 더 많은 분야로 퍼질 것이라고 예측한다.\n노 젓기에서 조향으로 과거 대부분 배가 노를 젓는 배였을 때는 이동과 방향 결정이 한 몸에 있었다. 엔진이 물리 노동을 맡자 인간 역할은 사라지지 않았고, 오히려 어디로 갈지·어떻게 갈지에 특화된 수십 개의 전문 역할로 쪼개졌다.\nAI/ML도 비슷하다. 구축의 상당 부분은 검증 가능 과제로 AI에 넘어가고, 평가 — 커뮤니티가 어디로 가야 하는지, 어떤 속성이 바람직한지 — 는 자동화에 매우 강하다. 에이전트 평가는 이미 구축 커뮤니티와 분리되는 독자 분과가 되고 있다. 기업 쪽에서는 \u0026ldquo;evals are the new IP\u0026quot;라는 말까지 나온다.\n저자는 ICML 같은 학회에서 평가 논문 비중이 지금보다 훨씬 커져야 한다고 본다. 생각 있는 평가는 모델 정렬만이 아니라 커뮤니티 정렬 — 현재 궤적과 원하는 방향의 맞춤 — 이기도 하다. 평가가 없으면 강한 엔진만 달린 방향타 없는 배가 된다.\n연구·과학에서의 함의 벤치마크 SOTA만이 가치 기준이 되면 가로등 아래만 찾는 검색이 된다. 논문 가치 평가는 더 비싸지고 어려워져야 하며, 동료심사 자동화는 진보 방향의 통제권을 AI에 넘기는 함정 에 가깝다. 과학에서도 \u0026ldquo;문제 → 해답\u0026rdquo; 경로를 자동화하면 과학이 가속된다는 가정은 오해다. 인간 이해는 제거해야 할 마찰이 아니라 과학의 목적 자체 에 가깝다. AI 솔루션에서 인간 이해를 다시 끌어내는 도구와 역할이 새로 필요할 것이다.\n개인 차원의 적응 휴리스틱 Narayanan은 자신의 연구 워크플로 기준으로 주당 약 10시간 을 새 워크플로 실험과 학습에 쓴다. AI로 아낀 시간을 단기 생산성에 쓰지 않고, 상보 스킬과 장기 성장에 재투자 한다.\nFloor — AI가 단독으로 할 수 있는 것 Ceiling — AI가 인간을 증강해 가능하게 만드는 야심 찬 일. 천장은 자동으로 오르지 않으며, 밀어 올려야 한다. 하루 끝에 지치지 않았다면 잘못한 것일 수 있다. AI에 너무 많이 떠넘겨 장기 성장을 희생한 신호다. 성장·생산성·통제 는 세 다리 의자와 같다.\n두 가지 휴리스틱을 강조한다.\n블랙박스 유혹 거부 — 프롬프트만 주고 에이전트가 알아서 하게 두면 통제권을 점진적으로 잃는다. 의존 나선(dependence spiral) 회피 — 아직 전문가가 아닌 일에 AI를 먼저 쓰면 미숙한 스킬마저 약해진다. 먼저 직접 숙달한 뒤 생산성 증강에 쓰는 편이 장기적으로 낫다. 비전은 co-superintelligence 다. 컴퓨터가 정신의 자전거였다면, AI는 정신의 크레인 이 될 수 있다. 학습 곡선은 가파르고 러닝머신 위에 선 느낌이지만, 5년 전보다 더 야심 찬 일을 할 수 있게 된 것 자체가 이미 일종의 초능력에 가깝다. 먼 미래에 불가능해질 수도 있으나, 지금 싸움을 포기하기에는 너무 이르다.\n결론 및 시사점 한 줄 결론: AI 시대에 남는 핵심 일은 더 빨리 노를 젓는 것이 아니라, 검증 가능한 구축을 AI에 넘긴 뒤에도 평가·조향·판단을 통해 배를 어디로 보낼지 인간이 계속 쥐는 일이다.\n이 키노트의 핵심은 낙관론이나 회의론의 구호가 아니라, AI 영향의 시간 구조와 역할 재배치 를 정확히 보자는 요청이다. 능력 향상은 빠르지만 신뢰성·조직 적응·규제·암묵지 같은 다운스트림 장벽은 느리다. 그 사이에서 검증 가능한 실행 노동은 AI로 이동하고, 인간에게 남는 중심 업무는 무엇을 만들지 정하고, 결과를 평가하며, 배를 어디로 몰지를 결정하는 일이다. 랩의 이정표에 운명을 맡기기보다, 배포·정책·개인 학습 습관에서 통제권을 지키는 쪽이 현실적인 대응이다.\n관련 포스트 Understanding Is the New Bottleneck - AI 시대의 병목은 이해다 AI가 소프트웨어 엔지니어를 대체하지 못한 이유, 그리고 앞으로도 대체하지 못할 이유 AI 프로토타입 시대에도 여전히 엔지니어가 필요한 이유 ","wordCount":1830,"tags":["AI","노동시장","에이전트","평가","Normal Technology","ICML","일자리"],"categories":["AI"],"frameworks":["Diffusion of Innovations","Second-order thinking","Systems Thinking"],"mental_models":["Lump of Labor Fallacy","Jevons Paradox","Decide-Execute-Deliver Sandwich"],"philosophy_type":"decision-making","schema_type":"Article","actionable":true,"priority":"high","key_points":["AI as Normal Technology는 능력 향상이 곧바로 경제·일자리 충격을 만들지 않으며, 조직적 적응(adaptation)에 수십 년이 걸린다는 프레임이다","최근 24개월간 에이전트 능력(accuracy)은 급등했지만 신뢰성(reliability)은 5~10%p 수준만 올랐다","검증 가능한 작업은 AI로 넘어가고, 인간 역할은 구축(building)에서 평가·조향(evaluation/steering)으로 이동한다","RSI·AGI·경제적 변환·초지능은 서로 함의하지 않는 네 축이며, 랩의 마일스톤이 일자리 소멸을 즉시 만들지 않는다","목표가 되는 비전은 AI 단독 초지능이 아니라 인간-AI 공초지능(co-superintelligence)이다"],"related":["posts/understanding-is-the-new-bottleneck-geoffrey-litt","posts/why-ai-hasnt-replaced-software-engineers","posts/yes-we-still-need-engineers"]}