수학 난제가 던진 질문, AI는 생각하고 있는가
2026년 1월, 인공지능과 수학의 경계에서 하나의 사건이 세계 지성계를 흔들었다. 인공지능 스타트업 하모닉(Harmonic)은 자사의 수학 특화 시스템 ‘아리스토텔레스’가 오픈AI의 GPT-5와 협력해 오랜 수학적 난제로 알려진 에르되스(Erdos) 문제를 해결했다고 발표했다. 인간 수학자의 독창성과 직관을 시험하는 상징적 문제의 해결 소식은 곧바로 “AI가 창의적 사고의 임계점을 넘은 것 아니냐”는 질문으로 확장됐다. 그러나 흥분은 오래가지 않았다. 이후 공개된 검증 과정에서 GPT-5가 제시한 초기 해결 경로 상당수가 이미 수십 년 전 독일어 등 비영어권 학술지에 발표된 기존 논문과 유사하다는 사실이 밝혀졌기 때문이다.
이 사건은 단순한 해프닝이 아니라, 오늘날 인공지능을 둘러싼 가장 본질적인 논쟁을 응축한다. AI는 정말로 새로운 아이디어를 생성하는가, 아니면 방대한 기존 지식을 고속으로 재배열하는 정교한 시스템에 불과한가. 더 나아가 이 질문은 “생각한다”는 말의 의미 자체를 다시 묻게 만든다.
창의성이라는 말이 혼란을 만드는 이유
AI의 창의성을 둘러싼 논쟁이 반복되는 이유는, 우리가 ‘새로운 생각’이라는 말을 지나치게 단일한 개념으로 사용해왔기 때문이다. 회의적인 입장에 서 있는 학자들은 현재의 대규모 언어 모델을 개념적 이해 없이 패턴을 재현하는 시스템으로 본다. 이 관점에서 AI는 직관적 도약이나 문제의 재정의와 같은 인간 고유의 사고 능력을 갖추지 못한 존재다. 세계적인 수학자 테렌스 타오는 AI를 “시험을 위해 모든 답을 암기한 영리한 학생”에 비유하며, 개념을 만들어내는 능력과는 거리가 있다고 평가한다. 반면 결과 중심의 시각에서는 다른 결론이 나온다. 인간이 수십 년간 탐색해도 도달하지 못한 조합을 AI가 단시간에 제시하고, 그중 일부가 실제 실험이나 증명을 통해 유효함이 입증된다면, 그것을 ‘새로운 아이디어’가 아니라고 부를 이유가 없다는 주장이다. 제약, 신소재, 생명과학 분야에서 이미 AI가 제안한 가설과 후보 물질이 실제 성과로 이어지고 있다는 점은 이러한 입장에 힘을 싣는다. 이처럼 논쟁은 ‘AI가 무엇을 했는가’보다 ‘우리가 무엇을 창의성이라 부르는가’에 대한 합의 부재에서 발생한다.
최근의 국제적 논의는 이 질문을 다른 방향으로 이동시키고 있다. 핵심은 AI가 인간을 대체하는 독립적 창조자인지 여부가 아니라, 연구가 이루어지는 방식 자체를 어떻게 변화시키고 있는가에 있다. AI의 가장 강력한 기능은 인간의 사고를 흉내 내는 데 있지 않다. 오히려 인간이 물리적으로 수행할 수 없는 규모의 탐색과 연결을 가능하게 만든다는 점에 있다. AI는 수백만 편의 논문과 데이터를 동시에 검토하며, 인간 연구자가 고려조차 하지 못했던 가설 공간을 빠르게 압축한다. 기존에는 50가지 가능성을 놓고 오랜 시간 시행착오를 거쳐야 했다면, AI는 이를 5가지 유망 후보로 줄여준다. 인간 연구자의 역할은 사라지지 않는다. 다만 질문을 던지는 위치와 검증의 방식이 달라진다.
버클리 연구소의 A-Lab처럼 AI가 화합물을 설계하고 로봇이 합성과 실험을 수행하는 자동화된 연구 환경은, 발견의 속도가 어떻게 질적으로 변하고 있는지를 보여준다. 여기서 AI는 ‘생각하는 주체’라기보다, 연구 과정을 재구성하는 인프라에 가깝다.
왜 AI가 ‘생각하는 것처럼’ 보이는가
그럼에도 불구하고 AI가 새로운 생각을 하고 있는 듯한 인상을 주는 이유는 분명하다. AI의 출력은 종종 인간이 이전에 명시적으로 정식화하지 않았던 형태로 나타난다. 이미 알려진 증명 방법을 활용하더라도, 그 조합과 표현이 새로운 경우 인간에게는 ‘새로운 생각’으로 인식된다. 다음으로, AI는 인간의 인지적 편향과 전문 분야의 경계를 무시한 채 정보를 연결한다. 이는 기존 학문 체계 안에서는 쉽게 나오지 않는 발상을 만들어낸다. 그러나 이러한 새로움은 완전히 새로운 개념적 범주를 발명한 결과라기보다는, 인간이 구축해온 지식 체계 내부에서 이루어진 고속 재구성에 가깝다. 현재의 트랜스포머 기반 모델은 기존 데이터라는 틀을 벗어나 스스로 문제의 정의를 전복하거나, 패러다임 자체를 재구성하는 단계에는 이르지 못했다. 이 지점에서 AI의 한계는 분명해진다. 현재의 AI는 점진적 개선과 최적화에는 탁월하지만, 기존 이론을 해체하고 새로운 사고의 틀을 제시하는 패러다임 전환에는 취약하다. 이는 기술의 미성숙 때문만은 아니다. AI가 학습하는 데이터 자체가 과거 인간 지식의 집적물이기 때문이다.
산업 현장에서도 비슷한 간극이 드러난다. 다수의 기업이 AI를 도입하고 실험하지만, 실제로 지속 가능한 가치를 창출하는 사례는 제한적이다. 이는 AI가 아이디어를 만들어내지 못해서가 아니라, 생성된 결과를 해석하고, 선별하며, 전략적으로 적용하는 인간의 역할이 여전히 결정적이기 때문이다. AI는 방향을 제시할 수 있지만, 무엇이 중요한 질문인지를 결정하지는 못한다.
이제 논의의 초점은 “AI가 생각할 수 있는가”라는 철학적 질문에서 벗어나고 있다. 더 중요한 질문은 “인간과 AI의 협업이 어떻게 이전에는 불가능했던 지식 생산을 가능하게 만드는가”다. 2026년의 AI는 단순한 도구를 넘어, 가설을 설정하고 실험을 제어하며 인간과 상호작용하는 연구 파트너의 형태로 진화하고 있다. 이 변화는 고독한 천재의 신화를 약화시키고, 지식 생산을 점점 더 집단적이고 시스템적인 과정으로 전환시킨다. 유레카의 순간은 여전히 존재하겠지만, 그것은 더 이상 혼자만의 번뜩임이 아니라 인간과 알고리즘이 함께 도달한 지점일 가능성이 커지고 있다.
결론적으로, AI가 만들어내는 아이디어는 완전히 새로운 개념적 세계를 창조하는 혁명적 발명이라기보다는, 기존 지식의 구성과 적용을 전례 없는 속도와 규모로 확장한 결과에 가깝다. 그러나 그 속도와 규모가 인간의 사고 한계를 넘어설 때, 우리는 그것을 새로운 생각처럼 인식하게 된다. 알고리즘의 유레카가 가능한지에 대한 답은 아직 열려 있다. 다만 분명한 것은, 앞으로의 유레카는 인간만의 외침도, 기계만의 산출도 아닐 것이라는 점이다. 그것은 인간과 AI가 함께 만들어낸, 새로운 연구 방식의 산물일 가능성이 크다.
#AI창의성 #알고리즘의유레카 #인간AI협업 #생성형AI #지식생산의변화 #스포트라이트유
