AGI를 둘러싼 논쟁이 계속 헛도는 이유는 기술이 너무 빨라서만이 아니다. 더 근본적인 이유는 사람들이 같은 단어를 쓰면서도 서로 다른 미래를 말하고 있기 때문이다. 어떤 이는 AGI를 “대부분의 경제적으로 가치 있는 일을 인간 수준 이상으로 해내는 체계”로 이해하고, 또 어떤 이는 “사람이 지시하지 않아도 목표를 세우고 추구하는 자율적 시스템”으로 받아들인다. 누군가는 AI 연구개발을 스스로 가속하는 존재를 떠올리고, 또 누군가는 경제와 노동시장 전체를 구조적으로 바꾸는 거대한 전환을 먼저 상정한다. 이렇게 보면 “AGI는 언제 오나”라는 질문은 사실 하나의 질문이 아니다. 그것은 능력, 자율성, 배치, 사회적 파급, 경제 변환이라는 서로 다른 층위를 한데 뭉뚱그린 표현에 가깝다. RAND가 이번 분석에서 가장 먼저 건드린 것도 바로 이 지점이었다. AGI는 단일한 문턱이 아니라 서로 다른 전략적 함의를 가진 개념들의 묶음이며, 이 구분을 놓치는 순간 타임라인 논쟁도, 준비 논의도 모두 흐려진다는 문제의식이다.
이 점은 지금 AGI 담론의 가장 중요한 출발점이기도 하다. 대중은 종종 AGI를 “인간처럼 생각하는 범용 인공지능” 정도로 막연히 이해한다. 그러나 실제 현장에서는 그보다 훨씬 세분화된 정의들이 병렬적으로 쓰인다. 경제적 가치가 있는 일을 수행하는 능력, 인간 직업 전반을 수행하는 수준, 최고 전문가 수준의 인지 작업 자동화, 교육받은 성인의 전반적 인지 능력과의 동등성, 자율적 목표 추구, AI 연구개발 자동화, 과학 연구 자동화, 산업혁명급 사회 변환이 모두 다른 문턱을 뜻한다. 어느 정의를 택하느냐에 따라 예측은 달라지고, 경고의 강도도 달라지며, 무엇을 먼저 준비해야 하는지도 달라진다. 그래서 AGI 논쟁은 단순한 기술 전망이 아니라 개념 정치의 성격까지 띤다. 누가 어떤 정의를 쓰느냐는 곧 누가 어떤 위험과 기회를 더 크게 보느냐와 연결되기 때문이다.
경제적 수행 능력으로서의 AGI는 지금 가장 널리 통용되는 정의 가운데 하나다. 여기서 핵심은 인간처럼 느끼거나 의식을 갖느냐가 아니다. 경제적으로 의미 있는 다수의 업무를 폭넓은 분야에서 인간 수준 이상으로 수행할 수 있느냐가 기준이 된다. OpenAI 창립 헌장에 가까운 이 정의는 철학적 정체성보다 측정 가능한 과업 수행에 초점을 둔다. 이 방식은 현실적인 장점이 있다. 업무, 직무, 생산성, 비용 절감, 자동화 가능성처럼 비교적 구체적인 기준과 연결되기 때문이다. 정부, 기업, 투자자들이 관심을 두는 것도 대체로 이런 축이다. “이 시스템이 인간처럼 생각하느냐”보다 “이 시스템이 실제로 어떤 일을 얼마나 대체하느냐”가 훨씬 직접적인 질문이기 때문이다. RAND 역시 연재의 중심 대상인 AGI를 이 방향, 곧 경제적 과업 수행과 HLMI에 가까운 인간 수준 일반 능력으로 잡고 있다. 변혁적 AI라는 더 넓은 프레임과는 일정한 거리를 둔 셈이다.
그러나 같은 경제적 정의 안에서도 미묘한 차이가 있다. 대표적인 것이 HLMI, 즉 고수준 기계지능이다. 이는 “대부분의 인간 직업을 적어도 전형적인 인간만큼 수행할 수 있는 시스템”을 가리킨다. 경제적 가치라는 추상적 표현보다 직업 범주를 중심으로 사고하기 때문에 전문가 설문 등에서는 자주 이 용어가 쓰인다. 겉으로 보기에는 앞서 말한 경제적 과업 정의와 유사해 보이지만, 실제로는 비교 기준이 달라질 수 있다. 어떤 직업은 경제적 가치가 크지만 수행 범위가 좁고, 어떤 직업은 폭넓지만 가치 환산이 애매하다. 그래서 HLMI와 경제적 수행 능력 기반 AGI는 닮았지만 동일하지 않다. 타임라인 예측에서 이 작은 차이도 꽤 큰 간극을 낳는다. 동일한 “AGI”라는 단어를 사용하면서도 누군가는 노동시장 단위의 대체를 떠올리고, 누군가는 산업적 가치 사슬 안의 특정 핵심 과업 자동화를 먼저 상정하기 때문이다.
여기서 한 단계 더 엄격한 정의도 등장한다. 최고 전문가 수준 지배형 AI, 즉 최상위 인간 전문가를 거의 모든 인지 과업에서 능가하는 수준이다. 이것은 일반 직업 수행 능력보다 훨씬 더 높은 기준이다. 단순히 평균적 인간 노동자를 대체하는 정도가 아니라, 최고 전문가 집단과 비교하는 문턱이기 때문이다. 이 정의가 중요해지는 이유는 “원격 인지 노동의 거의 전부를 자동화할 수 있는가”라는 질문과 맞닿아 있기 때문이다. 평균 노동자 수준 자동화와 최고 전문가 수준 자동화 사이의 차이는 단지 기술의 정밀도 차이가 아니라, 경제 구조 전체에 가하는 충격의 질이 달라진다는 점에서 의미가 크다. 연구, 전략, 설계, 고차원 판단까지 AI가 흡수하기 시작하면 더는 단순한 생산성 도구가 아니라 조직 구조를 다시 짜는 힘이 되기 때문이다. 그러니 누군가가 AGI를 이 문턱으로 정의한다면, 그 사람의 타임라인은 같은 “AGI”를 말해도 훨씬 더 뒤로 밀릴 수밖에 없다.
인지 능력 동등성이라는 정의는 또 다른 결을 갖는다. 이 접근은 직업이나 경제적 과업 대신, 인간 인지의 핵심 영역을 기준으로 삼는다. 추론, 기억, 지각 같은 여러 인지 영역에서 교육받은 성인과 비슷한 다면적 능력을 보여야 한다는 것이다. RAND는 이 정의가 심리측정학적 기반 위에서 AI의 일반성을 정량화하려는 시도라고 설명한다. 흥미로운 점은 이런 평가 틀이 현재 AI의 불균등한 프로파일을 드러낸다는 데 있다. 일부 영역에서는 뛰어난 성능을 보이지만, 장기 기억처럼 기초적인 영역에서는 중요한 결핍이 확인된다는 것이다. 이 정의가 던지는 메시지는 분명하다. 지금의 AI는 곳곳에서 놀라운 성과를 내고 있지만, 그 성과가 곧바로 균질한 일반지능을 뜻하지는 않는다. 특정 벤치마크나 특정 과제의 성능 상승을 보고 곧바로 “AGI 임박”이라고 말하기 어려운 이유도 여기에 있다. 일반성은 언제나 고른 능력과 전이 가능성을 요구하기 때문이다.
반면 자율적 목표 추구를 중심에 둔 정의는 문제의 축을 완전히 바꿔놓는다. 여기서는 경제적 과업을 얼마나 잘 수행하느냐보다, 인간이 방법을 일일이 지정하지 않아도 복잡한 목표를 스스로 세우고 여러 영역에서 이를 지속적으로 추구할 수 있느냐가 중요해진다. 이 정의는 성능보다 행위성을 강조한다. 그리고 바로 이 점 때문에 안전 논의와 훨씬 더 직접적으로 연결된다. 매우 뛰어난 업무 자동화 시스템이더라도 자율성이 낮다면 관리와 통제의 문제는 상대적으로 단순할 수 있다. 반대로 특정 과업 능력이 다소 거칠더라도 목표 설정과 집행의 자율성이 높다면 위험의 성격은 달라진다. 즉 어떤 사람에게 AGI는 “넓게 잘하는 기계”가 아니라 “자기 방식으로 움직이는 기계”다. 이 차이는 작지 않다. 경제적 정의 아래에서는 AGI에 가까워졌다고 보이는 시스템이 자율성 정의 아래에서는 아직 멀었다고 평가될 수 있기 때문이다. 반대로 자율성에 민감한 사람들은 일반적 과업 수행보다 에이전시의 증가를 훨씬 더 중요한 전조로 본다.
AI 연구개발의 재귀적 자동화라는 정의는 이보다 더 전략적이다. 여기서 주목하는 것은 인간 수준 일반지능 그 자체보다, AI가 AI를 더 빠르게 발전시키는 능력이다. 다시 말해 시스템이 코드 생성과 실험 설계, 연구 자동화의 상당 부분을 떠안기 시작하면 이후 발전 속도가 피드백을 일으켜 급격히 빨라질 수 있다는 우려다. RAND는 이 문턱이 특히 안전 측면에서 중대한 의미를 가진다고 짚는다. 현재도 AI는 제한된 방식으로 자기 개선 과정에 참여하고 있지만, 문제의 임계점은 연구개발 파이프라인 전체를 상당 부분 자동화하는 수준이다. 이 정의가 중요한 이유는 하나다. 어떤 사람들에게 “AGI 도달”보다 더 중요한 것은 “가속의 시작”이기 때문이다. 완전한 일반지능이 아니어도, AI가 AI 발전 속도를 실질적으로 끌어올리기 시작하는 순간 이후의 시간표는 이전과 전혀 다른 모양을 띨 수 있다. 이 경우 사회가 대비해야 할 것은 단순한 장기 성장曲선이 아니라, 불연속적으로 압축된 변화다.
과학 연구 자동화라는 정의 역시 빼놓을 수 없다. 이 관점에서는 AGI를 인간 과학자 수준의 연구 전 과정을 수행할 수 있는 체계와 가까운 것으로 본다. 가설 생성, 문헌 종합, 실험 설계와 실행을 포괄하는 수준이다. 노벨상급 발견을 만들어내는 AI, 혹은 자율적 AI 과학자를 발전 목표로 삼는 구상이 여기에 속한다. 이 정의는 경제적 생산성보다 과학기술 진보의 속도에 초점을 맞춘다. 만약 AI가 단지 기존 업무를 효율화하는 도구를 넘어 새로운 지식을 독립적으로 만들어내는 단계에 들어서면, 사회가 마주하는 변화는 단순한 자동화의 확장을 넘어선다. 기술 진보 자체의 속도와 방향이 달라지기 때문이다. 이 역시 “AGI”를 바라보는 전혀 다른 렌즈다. 노동시장 변화는 아직 제한적일 수 있어도, 연구개발 시스템 안에서는 이미 변혁적 문턱이 시작됐다고 보는 시선이 여기서 나온다.
그리고 가장 넓은 개념이 변혁적 AI다. 여기서는 기술이 인간 수준의 일반 능력에 도달했느냐보다, 경제와 사회 전체를 얼마나 크게 바꾸느냐가 기준이 된다. 산업혁명 혹은 그 이상의 규모로 사회를 재편하거나, 경제성장 속도를 대폭 끌어올리거나, 인지 노동의 상당 부분을 자동화하는 정도의 거대 효과가 관건이다. 이 정의는 매크로 수준의 결과를 본다. 그래서 능력의 종류보다 파급의 크기가 더 중요하다. 같은 AI라도 한쪽에서는 아직 AGI가 아니라고 부를 수 있고, 다른 쪽에서는 이미 변혁적 AI 시대가 시작됐다고 말할 수 있다. RAND가 이 개념을 AGI의 핵심 정의와 분리해 다루는 이유도 여기에 있다. 인간 수준 일반 능력과 사회 전체 변환은 겹칠 수 있지만, 결코 같은 사건이 아니기 때문이다. 특정한 위험 역량이나 자동화 능력이 먼저 나타나도 사회 전체 변환은 늦을 수 있고, 반대로 일부 경제 영역에서 큰 구조 변화가 나타나더라도 우리가 상상하는 완전한 범용 인공지능과는 거리가 있을 수 있다.
이 여러 정의들을 한 줄로 꿰는 데 가장 유용한 장치가 이번 분석의 3단계 틀이다. AGI 예측을 이해하려면 무엇이 예측되고 있는지부터 분명히 해야 한다는 전제 아래, RAND는 능력 존재, 운영적 배치, 사회적 변환이라는 세 단계를 구분한다. 첫 번째는 어떤 능력을 갖춘 AI 시스템이 처음 존재하는 순간이다. 대개 개발 기업 내부에서 먼저 나타날 가능성이 높다. 두 번째는 تلك 능력이 제품과 워크플로에 통합되어 널리 쓰이기 시작하는 단계다. 그러나 이때까지도 광범한 사회적 효과는 아직 드러나지 않을 수 있다. 세 번째는 생산성, 노동시장, 국가안보, 지정학에 의미 있는 규모의 변화가 실제로 측정되기 시작하는 시점이다. 같은 AGI라는 말이 이 세 단계를 구분하지 못할 때, 논쟁은 쉽게 꼬인다. 누군가는 첫 번째 단계를 말하고, 다른 누군가는 세 번째 단계를 말하면서 서로의 주장을 반박한다고 믿기 때문이다.
이 구분의 강점은 단지 개념을 정리하는 데 있지 않다. 준비의 순서를 바꾸게 만든다는 데 있다. 예를 들어 안전과 보안의 관점에서는 능력 존재 단계가 가장 중요할 수 있다. 위험한 능력은 널리 배치되기 전에도 치명적일 수 있기 때문이다. 특정 모델이 생물학, 사이버공격, 정교한 설득에서 위험 역량을 보이기 시작한다면, 그것이 아직 시장 전체에 확산되지 않았더라도 대응은 필요하다. 반면 노동, 교육, 복지의 관점에서는 운영적 배치나 사회적 변환 단계가 더 실질적일 수 있다. 실제로 기업이 업무를 재편하고, 노동 수요가 달라지고, 생산성 변화가 누적되는 시점이 정책 전환의 기준이 되기 때문이다. 그래서 “AGI는 아직 오지 않았다”는 말도, “사실상 이미 시작됐다”는 말도 각각 어느 단계를 보느냐에 따라 동시에 참일 수 있다. 같은 시간을 보고도 판단이 다른 이유가 여기에 있다.
역사적 비유는 이 문제를 더 또렷하게 보여준다. 전기라는 범용 기술이 산업에 본격적인 생산성 효과를 내기까지는 초기 도입 이후 수십 년의 간극이 있었다. 새로운 기술이 존재한다고 곧바로 경제 전체가 바뀌는 것은 아니라는 뜻이다. 그러나 AI는 전기와 완전히 같지 않다. 소프트웨어 기반 기술은 클라우드 인프라를 통해 거의 즉시 확산될 수 있고, 실제로 ChatGPT는 출시 두 달 만에 1억 명의 사용자를 끌어모았다. 더욱이 충분히 강한 AI 시스템은 자신의 배치와 확산을 전략적으로 도울 수도 있다. 즉 능력 존재와 대중적 배치, 사회 변환 사이의 역사적 간극이 AI에서는 크게 압축될 가능성이 있다. 여기서 중요한 것은 “늘 오래 걸린다”는 안일함도, “이번에는 즉시 전부 바뀐다”는 단정도 아니다. 중요한 것은 단계 구분은 여전히 유효하지만, 그 단계들 사이의 거리와 속도는 AI에서 과거보다 훨씬 불안정할 수 있다는 사실이다.
그래서 컴퓨터 과학자와 경제학자가 서로 다른 타임라인을 말해도 그것이 반드시 직접적인 충돌은 아니다. 한 연구자가 “2030년 무렵 AGI 수준 능력 시연이 가능하다”고 말하고, 한 경제학자가 “2045년 이전 노동시장 전반의 변환은 제한적일 것”이라고 말할 때 둘은 서로 다른 현상을 겨냥하고 있을 수 있다. RAND는 실제로 컴퓨터 과학자와 AI 연구자들은 대체로 능력 존재를, 경제학자들은 경제적 변환을 더 자주 예측한다고 짚는다. 이 점은 AGI를 둘러싼 수많은 오해를 풀어준다. 우리가 흔히 보는 타임라인 충돌 가운데 상당수는 사실 예측 대상의 차이이지, 단순한 전문성 대결이 아니다. 정치권, 언론, 대중 담론이 이 점을 구분하지 못할 때 “누가 맞느냐”는 싸움만 커지고, 준비 논의는 뒤로 밀린다.
정의의 차이는 단지 시간표를 바꾸는 데 그치지 않는다. 위험의 성격도 바꾼다. 경제적 정의 아래에서는 폭넓은 과업 수행 능력이 핵심이지만, 자율성 중심 정의에서는 목표 추구와 행위성이 더 민감한 변수다. 인지 동등성 정의에서는 특정 영역의 불균등함이 중요한 한계로 보이지만, 변혁적 AI 정의에서는 사회 전체 효과가 더 중요하다. 그래서 같은 시스템을 두고도 어떤 사람은 “아직 멀었다”고 말하고, 다른 사람은 “이미 위험 구간에 들어왔다”고 말할 수 있다. 예컨대 어떤 모델이 일반지능과는 아직 거리가 있어 보여도, 사이버 보안이나 생물학 연구처럼 특정 영역에서 위험한 역량을 드러낸다면 안전 정책의 관점에서는 이미 중대한 사건일 수 있다. RAND가 위험 역량이 일반지능 이전에 선행할 수 있다고 보는 것도 같은 맥락이다. OpenAI, Anthropic, Google DeepMind 같은 선도 연구소들이 일반지능 문턱 자체보다 구체적 위험 능력을 기준으로 안전 프로토콜을 강화하는 틀을 운영하는 이유도 여기에 있다.
이 대목은 오늘날 AI 담론에서 특히 중요하다. 대중은 자주 “AGI냐 아니냐”라는 이분법에 매달린다. 하지만 실제 의사결정은 그렇게 움직이지 않는다. 위험한 능력이 먼저 나타날 수 있고, 그 능력은 전면적 일반지능과 무관하게 이미 대응을 요구할 수 있다. 반대로 경제적으로 폭넓은 자동화가 시작돼도 그것이 곧바로 자율적 목표 추구나 재귀적 자기개선으로 이어진다고 볼 수는 없다. 다시 말해 AGI는 하나의 깃발이 아니라 여러 위험과 기회가 서로 다른 속도로 출현하는 다중 궤도다. 이 다중 궤도를 이해하지 못한 채 “도착”만 논하면, 어떤 위험은 너무 늦게 보고 어떤 기회는 지나치게 부풀리게 된다. 정의의 문제를 진지하게 다뤄야 하는 이유가 여기에 있다.
또 하나 눈여겨볼 점은 현재 AI 능력이 매끄럽게 일반화되는 대신, 여전히 ‘들쭉날쭉한’ 프로파일을 보인다는 지적이다. 일부 영역에서는 이미 인간을 압도하지만 다른 영역에서는 기초적 결함을 보이는 경우가 많다. RAND가 언급하듯, 능력은 특정 영역에서 예외적으로 높고 다른 영역에서는 약한 상태로 남을 수 있다. 이것은 중요한 함의를 갖는다. 첫째, 경제적 과업 자동화는 일반지능 이전에도 상당 부분 진전될 수 있다. 둘째, 반대로 몇몇 인상적인 시연이 곧바로 균형 잡힌 일반지능의 도래를 뜻하는 것은 아니다. 셋째, 위험 능력도 전면적 AGI가 아니라 불균등한 능력 조합에서 먼저 튀어나올 수 있다. 이 점 때문에 “AGI 전”과 “AGI 후”를 깔끔하게 나누는 사고는 갈수록 설득력을 잃고 있다. 현실은 하나의 문턱을 넘는 사건보다, 여러 능력과 영향이 시차를 두고 중첩되는 과정에 더 가깝다.
정의가 달라지면 정책의 트리거도 달라진다. 안전과 안보는 능력 존재를 더 빨리 봐야 한다. 위험 역량은 광범위한 배치 이전에도 결과를 낳을 수 있기 때문이다. 반면 노동과 교육은 사회적 변환을 추적하면서 더 긴 호흡의 적응이 가능하다. 혁신 투자와 연구개발 전략은 연구 자동화와 가속의 징후를 민감하게 봐야 하고, 규제기관은 일반지능 자체보다 구체적 위험 능력에 더 초점을 맞춘 계단형 대응이 필요할 수 있다. RAND가 “적절한 트리거는 전략 목표와 너무 이르게 혹은 너무 늦게 행동할 비용에 달려 있다”고 정리한 이유도 바로 이것이다. AGI 정의는 철학적 취향의 문제가 아니라 정책 시계의 설정 문제다. 같은 기술을 두고도 어느 영역은 지금 움직여야 하고, 어느 영역은 관찰과 보정을 우선해야 하는지가 달라지기 때문이다.
이런 관점에서 보면, AGI를 둘러싼 많은 공개 논쟁은 지나치게 단순하다. 한쪽은 “인간처럼 스스로 목표를 세우지 못하니 아직 AGI가 아니다”라고 말하고, 다른 쪽은 “이미 대부분의 지식 업무를 흔들 정도로 강하니 사실상 AGI다”라고 말한다. 둘 다 자신의 정의 안에서는 일리가 있다. 문제는 그 차이를 설명하지 않은 채 상대의 논리를 기각해버린다는 점이다. 그 결과 대중은 더 큰 혼란을 겪고, 언론은 더 자극적인 표현을 택하며, 정책은 불필요한 논쟁에 발이 묶인다. 지금 필요한 것은 어느 한 정의를 영구적 표준으로 봉인하는 일이 아니라, 어떤 맥락에서 어떤 정의가 더 유용한지 분명히 하는 것이다. 경제와 노동을 말하는 자리, 안전과 통제를 말하는 자리, 연구개발 가속을 말하는 자리는 같지 않다. 같은 단어를 공유하더라도, 그것이 겨냥하는 현상과 결정의 종류는 명확히 나뉘어야 한다.
이 점에서 이번 분석이 주는 가장 큰 교훈은 “AGI라는 한 단어를 믿지 말고, 그 단어 아래 숨은 목표를 보라”는 것이다. 누군가가 AGI를 말할 때 그는 무엇을 말하고 있는가. 인간 평균 노동자 수준의 과업 자동화인가. 최고 전문가 수준의 인지 작업 자동화인가. 목표를 스스로 세우는 자율적 행위자인가. AI 연구개발을 크게 가속하는 자기증폭적 시스템인가. 과학 발견을 주도하는 연구자형 기계인가. 아니면 경제와 사회를 산업혁명급으로 재편하는 변혁적 힘인가. 이 질문 없이 AGI 타임라인만 묻는 것은, 목적지를 말하지 않은 채 도착 시간을 묻는 것과 비슷하다. 도착지가 다르면 시간표도 달라진다.
결국 이 3회차가 도달하는 결론은 분명하다. AGI는 하나의 문턱이 아니며, 그래서 “언제 오느냐”는 질문도 단수형으로 물을 수 없다. 능력의 출현, 배치의 확대, 사회적 변환은 서로 다른 시간표를 가질 수 있고, 경제적 수행 능력, 자율성, 연구 자동화, 변혁적 효과는 서로 다른 전략적 경보를 울린다. 오늘날 AGI 논쟁의 상당 부분은 기술의 속도보다 정의의 충돌에서 생긴다. 그러나 이 충돌은 피할 수 없는 혼란이 아니라, 오히려 더 정교한 준비의 출발점이 될 수 있다. 무엇을 예측하는지 분명히 하는 순간, 무엇을 먼저 준비해야 하는지도 더 선명해지기 때문이다. AGI를 하나의 신화적 순간으로 보는 시선에서 벗어날 때, 비로소 우리는 여러 속도로 다가오는 미래를 현실적으로 읽기 시작할 수 있다.
다음 회차에서는 이처럼 정의를 가른 뒤에도 왜 사람들은 여전히 크게 엇갈리는지를 더 본격적으로 다루게 된다. 현재 접근이 정말 일반지능으로 이어질 수 있는지, 기술의 확산이 얼마나 빠르게 사회를 바꿀지, 그리고 능력 향상이 어느 시점에서 급격한 가속으로 넘어갈지를 둘러싼 핵심 쟁점들이 이어진다. 정의의 혼선이 걷힌 자리에는 더 어려운 질문이 남는다. 같은 대상을 보고도 왜 전문가들은 이렇게 다른 미래를 보는가. 그 갈라짐의 중심에는 결국 세 가지 ‘크럭스’, 즉 능력, 확산, 가속을 둘러싼 분기점이 놓여 있다.
#AGI #인공지능 #AGI정의 #HLMI #변혁적AI #AI안전 #AGI타임라인 #기술전망 #인공지능예측 #RAND
답글 남기기