교황청 회칙 『Magnifica Humanitas』가 던진 기술문명의 첫 질문
AI 논쟁의 출발점은 성능이 아니라 인간이다
인공지능을 둘러싼 논쟁은 대개 성능에서 출발한다. 더 빠른가, 더 정확한가, 더 많은 일을 대신할 수 있는가가 질문의 중심에 놓인다. 생성형 AI는 글을 쓰고, 이미지를 만들고, 코드를 짜고, 보고서를 요약한다. 의료, 교육, 금융, 행정, 국방, 언론, 문화산업까지 AI가 들어가지 않는 영역을 찾기 어려워졌다. 기업은 생산성 향상을 말하고, 정부는 국가 경쟁력을 말하며, 학교는 AI 리터러시를 말한다. 그러나 기술이 빠르게 확산될수록 정작 더 근본적인 질문은 뒤로 밀려난다. AI가 무엇을 할 수 있는가보다 먼저 물어야 할 것은, AI 시대의 인간은 무엇이 되어가고 있는가다.
교황청 회칙 『Magnifica Humanitas』는 이 질문에서 출발한다. 이 문서는 인공지능을 단순한 기술 현상으로 다루지 않는다. AI는 하나의 도구이지만, 동시에 인간의 언어, 관계, 제도, 노동, 정치, 전쟁, 상상력까지 바꾸는 문명적 사건이다. 회칙은 기술을 인간의 적으로 보지 않는다. 오히려 기술은 인간의 자유와 창조성에서 나온 것이며, 역사적으로 인간의 삶을 개선해 온 힘이라고 본다. 다만 기술이 인간 존엄과 공동선의 방향을 잃을 때, 그것은 인간을 돕는 수단이 아니라 인간을 재편하고 지배하는 권력이 될 수 있다. 『Magnifica Humanitas』는 바로 이 지점에서 AI 시대를 향해 하나의 근본 질문을 던진다. 우리는 지금 무엇을 짓고 있는가.
바벨탑과 예루살렘, 두 개의 길
『Magnifica Humanitas』가 AI 시대를 설명하기 위해 선택한 이미지는 뜻밖에도 성경의 두 장면이다. 하나는 바벨탑이고, 다른 하나는 느헤미야의 예루살렘 성벽 재건이다. 회칙은 AI 시대를 책임 있게 항해하기 위해 바벨탑의 건설과 예루살렘 성벽의 재건이라는 두 장면을 함께 떠올린다. 바벨탑은 하나의 언어, 하나의 기술, 하나의 방향으로 인간이 자기 이름을 높이려 했던 거대한 기획이었다. 반면 느헤미야의 예루살렘 재건은 무너진 도시를 각자의 자리에서 함께 세우는 공동 책임의 과정이었다.
바벨탑은 단순히 오래된 종교 이야기가 아니다. 그것은 기술과 권력이 결합할 때 반복해서 나타나는 인간의 욕망을 보여준다. 더 높이 올라가려는 욕망, 모든 것을 통일된 체계 안에 넣으려는 욕망, 차이를 줄이고 효율을 극대화하려는 욕망, 마침내 인간 스스로가 역사의 주인이 되려는 욕망이다. 바벨탑의 문제는 건축 기술이 아니었다. 문제는 그 기술이 향한 방향이었다. 공동선을 위한 건설이 아니라 자기 이름을 위한 건설, 다양성을 품는 일치가 아니라 차이를 지우는 획일성, 관계를 세우는 소통이 아니라 통제를 위한 단일 언어가 그 안에 있었다.
AI 시대의 바벨탑도 같은 방식으로 세워질 수 있다. 더 많은 데이터를 모으고, 더 강력한 모델을 만들고, 더 빠른 판단 체계를 구축하고, 더 정교한 예측을 가능하게 하는 일 자체가 문제는 아니다. 문제는 그 모든 것이 누구의 이익을 위해, 어떤 기준으로, 누구의 책임 아래 사용되는가에 있다. 기술이 인간을 치유하고 연결하고 교육하고 보호하는 방향으로 쓰이면 공동의 집을 세우는 일이 될 수 있다. 그러나 기술이 이윤, 통제, 감시, 배제, 군사적 우위의 논리에 종속되면 그것은 또 다른 바벨탑이 된다.
기술은 중립적이지 않다
AI를 둘러싼 흔한 오해 중 하나는 기술 자체는 중립이며, 문제는 사용하는 사람에게만 있다는 생각이다. 물론 도구는 사용 방식에 따라 다른 결과를 낳는다. 그러나 『Magnifica Humanitas』는 여기서 한 걸음 더 나아간다. 기술은 추상적으로는 선도 악도 아닐 수 있지만, 실제 현실 속의 기술은 결코 완전히 중립적이지 않다. 기술은 그것을 고안하고, 자금을 대고, 규제하고, 사용하는 사람들의 가치와 이해관계를 반영하기 때문이다. 회칙은 기술이 치유하고 연결하고 교육하고 공동의 집을 보호할 수 있지만, 동시에 분열과 배제, 새로운 불의를 낳을 수 있다고 본다.
이 지점은 AI 논의에서 특히 중요하다. AI는 단순한 계산기가 아니다. AI는 이미 사람들의 정보 접근 방식, 뉴스 소비, 학습 습관, 채용과 신용평가, 공공서비스 이용, 창작과 연구, 여론 형성에 관여하고 있다. 어떤 정보가 보이고 어떤 정보가 사라지는지, 어떤 사람이 적합한 인재로 분류되고 어떤 사람이 위험군으로 분류되는지, 어떤 목소리가 증폭되고 어떤 목소리가 주변화되는지에 알고리즘이 개입한다. 이때 AI는 단순한 도구라기보다 사회적 환경이 된다.
기술이 사회적 환경이 된다는 것은, 기술을 만든 사람의 의도와 무관하게 그것이 사람의 선택과 관계를 형성한다는 뜻이다. 학교가 AI 기반 학습분석을 도입하면 학생은 새로운 방식으로 분류된다. 기업이 AI 채용 시스템을 사용하면 구직자는 알고리즘의 판단을 통과해야 한다. 플랫폼이 추천 알고리즘을 바꾸면 시민의 여론 환경도 달라진다. 행정이 자동화된 의사결정에 의존하면 공공서비스의 문턱이 보이지 않게 달라질 수 있다. 그러므로 AI 시대의 윤리는 “잘 쓰자”는 당부만으로 충분하지 않다. 어떤 AI를 만들 것인가, 어떤 데이터를 사용할 것인가, 어떤 판단을 맡길 것인가, 누가 책임질 것인가를 함께 물어야 한다.
공동선이라는 오래된 언어의 귀환
『Magnifica Humanitas』가 AI 시대의 중심 기준으로 다시 불러오는 말은 공동선이다. 공동선은 개인의 이익을 모두 더한 총합이 아니다. 그것은 사람들이 함께 살아가기 위해 반드시 지켜야 할 사회적 조건, 곧 인간이 인간답게 살 수 있는 공통의 기반이다. AI 시대에 공동선은 더 이상 추상적인 도덕 용어가 아니다. 그것은 데이터, 알고리즘, 플랫폼, 교육, 노동, 민주주의, 평화의 문제와 직접 연결된다.
AI가 특정 기업의 생산성을 높이는 데 기여할 수는 있다. 그러나 그 과정에서 일자리가 급격히 사라지고, 노동자의 숙련이 약화되며, 감시와 통제가 강화된다면 그것은 공동선의 관점에서 다시 평가되어야 한다. AI가 맞춤형 교육을 가능하게 할 수는 있다. 그러나 학생이 스스로 질문하고 읽고 생각하는 능력을 잃게 만든다면 교육의 목적을 다시 물어야 한다. AI가 정보를 빠르게 제공할 수는 있다. 그러나 허위정보와 조작 이미지를 증폭시키고 민주적 토론의 기반을 약화시킨다면, 그것은 기술적 성능만으로 정당화될 수 없다.
공동선의 언어는 AI를 반대하기 위한 언어가 아니다. 오히려 AI가 진정으로 인간을 위해 사용되도록 방향을 묻는 언어다. 이 언어는 기술 발전을 멈추자는 말이 아니라, 기술 발전을 인간 존엄과 사회적 책임 안에 배치하자는 말이다. 그래서 회칙의 문제의식은 단순한 경고가 아니라 초대에 가깝다. 더 늦기 전에 AI라는 거대한 건설 현장에서 우리가 무엇을 세우고 있는지 살펴보자는 초대다.
예루살렘을 다시 세운다는 것
바벨탑의 반대편에 있는 이미지는 느헤미야의 예루살렘 재건이다. 이 장면에서 중요한 것은 한 사람의 영웅적 결단이 아니다. 무너진 성벽을 다시 세우는 일은 여러 사람이 각자의 몫을 맡아 함께 수행한 일이었다. 느헤미야는 폐허를 살피고, 사람들을 불러 모으고, 각자의 구역을 맡기고, 두려움과 반대를 조율했다. 회칙은 이 장면을 통해 공동체의 재건이 위에서 내려오는 명령이 아니라, 참여와 책임, 경청과 협력의 과정임을 강조한다.
AI 시대에도 필요한 것은 새로운 느헤미야의 방식이다. 과학자와 개발자, 기업가와 노동자, 교육자와 입법자, 시민사회와 종교 공동체, 학교와 가정이 각자의 성벽을 맡아야 한다. 개발자는 모델의 성능만이 아니라 그 안에 담긴 인간 이해를 성찰해야 한다. 기업은 효율과 수익만이 아니라 노동의 존엄과 사회적 영향을 고려해야 한다. 정부는 혁신을 가로막지 않으면서도 시민의 권리와 공공성을 보호할 제도를 마련해야 한다. 학교와 대학은 AI 활용법을 넘어 질문하는 능력, 사실을 검증하는 태도, 타인의 존엄을 존중하는 감각을 길러야 한다.
이런 의미에서 예루살렘 재건은 종교적 상징에 그치지 않는다. 그것은 AI 시대의 공공 거버넌스 모델로 읽힐 수 있다. 한쪽에서는 소수의 거대 기술기업이 데이터와 인프라, 자본과 인재를 집중시키고 있다. 다른 한쪽에서는 시민, 학생, 교사, 연구자, 노동자, 지역사회가 그 변화의 결과를 감당하고 있다. 바벨탑의 방식은 소수의 설계자가 전체의 미래를 결정하는 방식이다. 예루살렘의 방식은 영향을 받는 사람들이 함께 묻고, 참여하고, 수정하고, 책임지는 방식이다.
인간의 약함을 제거하려는 시대
AI 시대의 바벨탑은 기술적 통제만의 문제가 아니다. 그 밑바닥에는 인간의 약함을 결함으로 보는 시선이 있다. 느림, 실수, 의존, 고통, 늙음, 불확실성은 현대 기술문명이 끊임없이 줄이거나 제거하려는 대상이다. 물론 고통을 줄이고 질병을 치료하고 위험을 예방하는 일은 중요하다. 그러나 인간의 모든 한계를 제거해야 할 오류로만 보면, 인간은 더 이상 관계 속에서 성장하는 존재가 아니라 끊임없이 업그레이드되어야 할 프로젝트가 된다.
『Magnifica Humanitas』는 바로 이 지점을 예리하게 짚는다. 공동선을 위한 건설은 인간의 한계와 약함을 오류로 여기지 않는 데서 시작된다. 참된 성취는 약함을 완전히 제거하는 데 있지 않고, 자유와 책임, 상호 돌봄과 연대가 함께 자라는 데 있다는 것이다.
이 문제는 교육에서도 그대로 나타난다. AI가 학생의 답안을 고쳐주고, 과제를 대신 요약하고, 글의 구조를 제안하고, 학습 경로를 추천하는 시대에 교육은 더 빠른 결과를 얻는 방향으로만 흐르기 쉽다. 그러나 교육의 본질은 단순히 정답에 도달하는 속도가 아니다. 스스로 묻고, 실패하고, 다시 생각하고, 타인과 토론하고, 자기 언어를 만들어가는 과정이 교육이다. 만약 AI가 이 과정을 모두 단축해 준다면, 학생은 더 많은 결과물을 만들 수는 있어도 더 깊이 생각하는 사람으로 자라지 못할 수 있다.
대학도 이 질문을 피할 수 없다. 대학이 AI 시대에 해야 할 일은 학생들에게 도구 사용법을 가르치는 데서 끝나지 않는다. AI가 바꿀 사회를 해석하고, 그 안에서 인간의 자유와 책임을 지키는 힘을 길러야 한다. 연구와 교육, 행정과 평가의 영역에서 AI를 도입할 때도 같은 질문이 필요하다. 그것은 학생을 더 잘 돕는가. 교수자의 판단을 보완하는가. 행정의 공정성을 높이는가. 아니면 인간을 점수와 패턴과 위험도 안에 가두는가.
교황청 회칙이라는 형식 때문에 『Magnifica Humanitas』를 종교 문서로만 읽을 수도 있다. 그러나 이 문서가 던지는 질문은 특정 종교 내부에만 머물지 않는다. AI 시대에 인간 존엄은 무엇으로 보호되는가. 기술 권력은 누가 통제하는가. 데이터와 알고리즘은 누구의 이익을 위해 작동하는가. 교육은 질문하는 능력을 지킬 수 있는가. 노동은 생산성의 이름 아래 다시 축소되지 않는가. 전쟁과 폭력은 더 빠르고 비인격적인 방식으로 자동화되지 않는가. 이 질문들은 종교적 신념을 가진 사람뿐 아니라 AI 시대를 살아가는 모든 시민에게 열려 있다.
그 점에서 『Magnifica Humanitas』는 기술문명을 향한 공공철학적 제안으로 읽을 수 있다. 회칙은 AI를 금지하거나 거부하자고 말하지 않는다. 오히려 AI가 이미 우리 삶의 일부가 되었음을 인정한다. 다만 AI가 인간을 더 인간답게 만드는 방향으로 쓰이기 위해서는 기술보다 먼저 인간을 물어야 한다고 말한다. 무엇이 인간을 인간답게 하는가. 어떤 사회가 인간의 존엄을 지키는가. 어떤 발전이 모두에게 좋은 발전인가. 어떤 속도는 멈춰서 다시 판단해야 하는가. 이 질문들이 사라질 때 기술은 진보의 이름으로 바벨탑이 될 수 있다.
우리는 어떤 건설자가 될 것인가
AI 시대의 핵심은 기술의 유무가 아니다. 이미 기술은 우리 안에 들어와 있다. 중요한 것은 우리가 그 기술로 무엇을 짓고 있는가다. 바벨탑은 오늘도 세워질 수 있다. 더 많은 데이터를 소유한 자가 더 많은 권력을 갖고, 더 강한 알고리즘을 가진 자가 더 많은 사람의 선택을 유도하며, 더 빠른 자동화 시스템을 가진 자가 노동과 교육과 전쟁의 조건을 결정하는 사회가 될 수 있다. 그 사회에서 인간은 효율의 단위, 소비의 대상, 감시의 객체, 예측 가능한 데이터로 축소될 위험이 있다.
그러나 다른 길도 있다. 예루살렘을 다시 세우는 길이다. 이 길은 느리고 복잡하다. 다양한 이해관계자를 불러 모아야 하고, 기술의 영향을 받는 사람들의 목소리를 들어야 하며, 약한 사람들의 자리를 먼저 살펴야 한다. 효율만이 아니라 존엄을, 혁신만이 아니라 책임을, 경쟁만이 아니라 연대를 함께 고려해야 한다. 이 길은 바벨탑보다 덜 화려할 수 있다. 그러나 인간을 위한 기술문명은 바로 그 덜 화려한 길 위에서 세워진다.
『Magnifica Humanitas』의 첫 질문은 결국 우리 모두에게 돌아온다. AI는 인간을 대신할 것인가가 아니라, 우리는 AI 시대에도 인간으로 남을 수 있는가. 기술은 인간의 약함을 지우는 장치가 될 것인가, 아니면 서로의 약함을 돌보는 더 나은 공동체를 세우는 도구가 될 것인가. 우리는 또 하나의 바벨탑을 쌓을 것인가, 아니면 무너진 관계와 공동선을 다시 세우는 일에 참여할 것인가.
AI 시대의 건설 현장은 이미 열려 있다. 이곳에서 대학은 교육의 성벽을 맡고, 언론은 진실의 성벽을 맡고, 정치는 공공성의 성벽을 맡고, 기업은 책임 있는 혁신의 성벽을 맡는다. 시민은 언어와 선택의 성벽을 맡는다. 각자의 자리에서 무엇을 세울 것인지 묻는 일이야말로 AI 시대의 첫 윤리다. 그리고 그 질문에 대한 답이, 우리가 만들어갈 기술문명의 방향을 결정하게 될 것이다.
#인공지능 #AI윤리 #인간존엄 #공동선 #스포트라이트유 #MagnificaHumanitas
답글 남기기