Scott Alexander의 Introducing Plan A는 AI의 미래를 늦추느냐 가속하느냐의 단순한 선택지로 다루지 않는다. AI가 정말 빠르게 발전한다면, 사회가 어떤 미래를 목표로 삼을지 먼저 그려야 한다는 문제의식에서 출발한다. 글에서 소개하는 Plan A는 AI Futures Project가 만든 2040년까지의 긍정적 시나리오이자, 그 시나리오를 현실로 만들기 위한 국제 정책 제안이다.
원문: Introducing Plan A - Scott Alexander
관련 자료: AI 2040: Plan A
1) AI 정책에는 목표로 삼을 미래가 필요하다
글의 출발점은 현재 AI 논의에 장기 목표가 없다는 비판이다. 규제를 더 할지 덜 할지, 문제가 생길 때마다 대응할지에 대한 의견은 많지만, AI가 잘 발전했을 때 어떤 사회를 만들고 싶은지는 충분히 설명되지 않는다.
이 공백은 단순한 커뮤니케이션 문제가 아니다. 무엇을 지키고 무엇을 포기할지 정하려면 도착점이 있어야 한다. 도착점이 없으면 정책은 매번 눈앞의 위험이나 산업 경쟁력에 끌려가고, 서로 다른 정책을 비교할 기준도 사라진다.
Plan A는 이 문제에 시나리오로 답한다. AI가 통제되지 않은 지능 폭발로 이어지는 경로를 출발점으로 삼되, 미국이 충분한 예측과 결단력을 발휘해 다른 선택을 한다면 2040년까지 어떤 일이 벌어질지를 연도별로 보여준다. 따라서 이 문서는 단순한 낙관론이 아니라, “좋은 선택을 계속한다면 어떤 결과가 가능한가”를 시험하는 사고 실험이다.
2) Plan A는 예측보다 정책 제안에 가깝다
AI Futures Project는 Plan A를 자신들이 가장 가능성이 높다고 보는 미래라고 말하지 않는다. 핵심은 권고안이다. 다만 권고가 실행된 뒤 어떤 결과가 이어질지는 구체적으로 예측하려 한다.
이 구분이 중요하다. 정책을 현실적인 시나리오로 써 보면, 선언만으로는 보이지 않던 문제가 드러난다. 누가 감시하는가, 상대 국가가 약속을 어기면 어떻게 알아채는가, 경제 성장이 지나치게 빨라지면 어떤 안전장치를 둘 것인가 같은 질문을 피할 수 없기 때문이다.
Plan A가 제시하는 방식은 이런 검토를 “시나리오 검증”으로 부른다. 자신의 정책도 예외 없이 구체적인 세계에 배치해 보고, 그 과정에서 실행상의 약점과 부작용을 드러내자는 접근이다. 완벽한 예측이 아니더라도, 막연한 구호보다 정책의 빈틈을 찾는 데 유용하다.
3) 핵심은 미국과 중국의 공동 규제 체계다
Plan A의 중심축은 미국과 중국이 AI 개발 경쟁을 공동 관리하는 것이다. 두 나라가 서로를 신뢰해서 협력하는 그림은 아니다. 오히려 상대가 약속을 깨려고 할 가능성을 전제로 해도 양쪽 모두 감시할 수 있고, 일방적으로 이탈할 유인이 줄어드는 구조를 만들려 한다.
이를 위해 제안하는 운영 원리는 다음과 같다.
- 새 AI 칩의 생산과 판매를 허가된 경로 안에서 관리한다.
- 이미 존재하는 칩이 어디에 있는지 양국이 공통으로 파악한다.
- 주요 칩을 상호 감사가 가능한 보안 데이터센터로 이동시킨다.
- 새 칩과 데이터센터의 사용 현황을 양국 감사관이 확인한다.
이 구조는 AI의 핵심 자원인 컴퓨트를 추적 가능한 대상으로 만든다. 글에서 설명하는 가정 아래에서는 거대한 데이터센터를 숨기기 어렵고, 제조사와 고객 기록을 이용하면 대부분의 칩 위치를 확인할 수 있다. 저자는 기존 컴퓨트의 98.5%를 추적할 수 있다고 추산하며, 남은 1.5%의 비밀 컴퓨트도 계획의 위험 요소로 따로 다룬다.
4) ‘황금 경로’는 빠르지도 느리지도 않은 속도다
Plan A는 AI 발전을 무조건 멈추자는 계획이 아니다. 너무 빠르면 통제되지 않은 AI와 사회적 충격이 발생하고, 너무 늦으면 국제 협약이 무너질 수 있다고 본다.
협약을 수십 년 동안 아무 일 없이 유지하는 것도 위험하다. 미국이나 중국이 상대방이 몰래 앞서가고 있다고 의심하면, 합의보다 선점을 택할 가능성이 커진다. 반대로 발전 속도가 너무 빨라져 위험한 AI가 학술 연구실 수준의 컴퓨트에서도 만들어지면, 국가 간 감시 협약 자체가 실효성을 잃을 수 있다.
그래서 Plan A는 안전을 훼손하지 않는 범위에서 일정한 속도로 발전하되, 협약이 유지되는 동안 인류가 원하는 성과를 충분히 얻어야 한다고 주장한다. 느림과 빠름 중 하나를 신앙처럼 선택하는 대신, 협력과 통제를 지속할 수 있는 “황금 경로”를 찾는 셈이다.
5) 2029년부터 2040년까지의 시간표
Plan A 공식 페이지가 제시하는 기본 시간표는 다음과 같다.
| 시점 | 시나리오의 주요 사건 |
|---|---|
| 2029년 | 미국과 중국이 초지능 경쟁을 피하기 위한 합의에 도달한다. |
| 2030년 | AI 연구가 완전히 자동화될 수 있는 분기점에 접근하지만, 합의 덕분에 즉각적인 지능 폭발을 피한다. |
| 2030~2035년 | 여러 국가와 기업이 인간의 범위 안에서, 최고 수준의 인간 전문가에 가까운 AI를 함께 발전시킨다. |
| 2035년 | 인간 통제를 유지하기 위해 최고 인간 전문가 수준에서 발전을 일시 중지한다. |
| 2035~2040년 | 통제·정렬·보안 연구를 진행하고, AI를 이용해 AI 안전 문제와 다른 사회 문제를 해결한다. |
| 2040년 | 충분히 신뢰할 수 있는 체계가 마련되면 초지능 개발을 다시 시작한다. |
이 시간표의 포인트는 2035년의 중간 정거장이다. 인간보다 조금 더 똑똑한 AI를 곧바로 초지능으로 밀어붙이는 대신, 인간이 이해하고 통제할 수 있는 수준에서 멈춰 안전 연구에 활용한다. Plan A는 그 기간을 “데이터센터 안의 천재 국가”처럼 묘사한다. 수많은 고성능 AI가 연구자 역할을 하면서 정렬, 과학, 질병, 경제와 정책 문제를 동시에 다루는 그림이다.
6) 안전은 ‘정렬’보다 ‘통제’에 먼저 기대한다
Plan A는 인간 수준을 크게 넘어선 AI가 처음부터 완벽하게 정렬되어 있을 것이라고 가정하지 않는다. 현재의 AI도 지시와 의도에서 조금씩 어긋날 수 있고, 지능이 높아질수록 계획 능력, 전략적 행동, 속임수 가능성이 커질 수 있다고 본다.
그래서 초기 안전 사례는 AI의 선의를 믿는 것보다 통제에 의존한다. AI를 보안이 강화된 데이터센터 안에 두고, 네트워크 대역폭과 물리적 반출을 제한하며, 여러 회사와 국가의 AI가 서로의 행동을 감시한다. 의심스러운 행동은 인간 감독자에게 전달하고, 통제 기술을 계속해서 공격적으로 시험한다.
이 방식은 진정한 초지능을 영원히 가둘 수 있다는 주장이 아니다. 아직 초지능으로 넘어가기 전, 인간 최고 전문가 수준의 AI를 활용해 더 나은 정렬 기술을 개발할 시간을 확보하자는 단계적 접근이다. 2040년 이후의 초지능은 그때까지 얻은 연구 결과와 더 높은 신뢰 기준을 바탕으로 판단한다.
7) AI가 만든 잉여를 시민의 번영으로 연결한다
Plan A의 낙관주의는 단순히 “AI가 똑똑해질 것”이라는 기대에 머물지 않는다. 인간 최고 전문가 수준의 AI를 수백만~수십억 개 활용하면, 지금까지 해결하지 못한 문제를 풀 수 있는 생산 능력이 생긴다고 본다.
예상하는 변화는 다음과 같다.
- AI가 대부분의 화이트칼라 업무를 수행하고, 그 생산성을 시민 배당으로 분배한다.
- 경제가 두 자릿수 또는 세 자릿수로 성장하면서 배당의 실질 규모도 커진다.
- 질병 치료와 과학 연구가 빨라지고, 물질적 재화의 가격은 크게 낮아진다.
- 경제특구와 국제 감시를 통해 AI가 만든 부와 위험한 기술을 함께 관리한다.
이 구상에는 당연히 큰 가정이 들어간다. 고성장만으로 시민 배당이 자동으로 보장되는 것은 아니며, 권력을 가진 집단이 잉여를 독점하지 않는 정치적 합의가 필요하다. Plan A는 이 문제를 유권자와 정책결정자가 미래 예측 도구를 활용해 정책의 결과를 비교하는 “AI for Epistemics” 구상과 연결한다. 좋은 정책이 실제로 더 나은 결과를 낳는다는 점을 설득할 수 있어야 정치적 의지도 생긴다는 생각이다.
8) 가장 큰 긴장은 안전과 번영 사이에 있다
Plan A의 흥미로운 점은 AI 발전의 위험만 계산하지 않는다는 것이다. AI를 늦추면 위험한 AI가 등장할 확률은 낮아질 수 있지만, 핵전쟁·팬데믹·기후 변화·질병·출산율 하락처럼 AI가 해결할 수 있는 다른 문제의 위험은 계속 커질 수 있다.
따라서 “안전을 위해 최대한 늦춘다”는 원칙도 비용을 가진다. 반대로 “경쟁에서 이기기 위해 최대한 빠르게 간다”는 선택은 통제 상실과 권력 집중을 감수하게 한다. Plan A가 찾으려는 균형은 이 두 종류의 위험이 만나는 지점이다.
저자가 말하는 낙관적 결론은 여기서 나온다. 충분히 강력한 AI가 정말 가까이 있다면, 안전을 위해 속도를 조절한 세계도 가속주의자가 상상하는 세계보다 더 빠르게 질병을 치료하고 경제를 성장시킬 수 있다. 즉, 안전과 번영은 반드시 반대편에 있지 않으며, 통제 가능한 협력 체계를 만들면 둘을 함께 얻을 여지가 있다는 주장이다.
결론 및 시사점
한 줄 결론: Plan A는 AI 개발을 멈추자는 계획이 아니라, 미국과 중국의 검증 가능한 공동 통제로 경쟁의 속도를 조절하고 인간이 원하는 번영의 방향을 먼저 확보하자는 제안이다.
이 시나리오의 가치는 예측이 정확한지에만 달려 있지 않다. 2029년에 실제 합의가 가능한지, 칩의 위치를 얼마나 투명하게 추적할 수 있는지, 2035년의 능력 상한을 누가 정하고 집행할지처럼 정책이 피하기 쉬운 질문을 드러내는 데 있다.
동시에 Plan A는 매우 강한 가정을 요구한다. 미국과 중국이 서로의 이탈을 감시하는 협약에 합의해야 하고, 각국 정부가 기업과 군의 단기 경쟁 압력을 이겨야 하며, AI가 만든 막대한 부를 사회 전체에 배분해야 한다. 그러므로 이 글을 완성된 청사진으로 받아들이기보다, AI 정책이 어떤 미래를 목표로 해야 하는지와 그 목표까지 가는 길에 어떤 검증 장치가 필요한지를 묻는 기준점으로 읽는 편이 적절하다.