AI 시대에 다시 읽는 존엄, 공동선, 사회정의

점수화되는 인간, 예측되는 인간

인공지능 시대의 인간은 점점 더 많은 이름으로 불린다. 이용자, 고객, 학습자, 구직자, 환자, 민원인, 소비자, 유권자, 데이터 주체라는 이름이 붙는다. 이 이름들은 틀린 말이 아니다. 사회 제도와 기술 시스템 안에서 인간을 설명하기 위해 필요한 말들이다. 그러나 문제는 그 이름들이 인간 전체를 대신하기 시작할 때 생긴다. 사람은 어느 순간 하나의 인격이 아니라 이용 패턴, 구매 이력, 성적 추이, 신용 점수, 건강 위험도, 취업 가능성, 정치 성향, 관심사 묶음으로 분해된다. 인간은 사라지지 않지만, 데이터로 번역된 인간만 남는다.

AI는 이런 번역을 빠르고 정교하게 수행한다. 학생의 학습 기록을 분석해 성취 가능성을 예측하고, 구직자의 이력서를 분류하며, 소비자의 취향을 예측하고, 시민의 민원과 행정 수요를 자동 처리한다. 병원에서는 질병 가능성을 계산하고, 금융기관에서는 상환 가능성을 평가하며, 플랫폼은 사용자가 다음에 볼 콘텐츠를 추천한다. 이 모든 과정은 편리하고 효율적일 수 있다. 그러나 그 편리함은 하나의 질문을 남긴다. 인간은 이렇게 분류되고 예측될 수 있는 존재인가. 더 정확히 말하면, 인간은 그렇게 분류되고 예측된 결과로만 평가되어도 되는 존재인가.

교황청 회칙 『Magnifica Humanitas』의 2장은 이 질문에 대한 기준을 제시한다. 회칙은 AI의 기술적 가능성보다 먼저 인간 존엄의 토대를 다시 세운다. 인간은 능력, 생산성, 성과, 효율, 지위, 부, 선택의 성공 여부에 따라 가치가 결정되는 존재가 아니다. 인간의 존엄은 획득하거나 증명하는 것이 아니라, 존재 자체에 속한 것이다. 이 관점에서 보면 AI 시대의 가장 큰 위험은 기계가 인간을 완전히 대체하는 것이 아니다. 더 깊은 위험은 인간을 효율과 성과, 데이터와 예측의 언어 안에 가두어 인간 스스로도 자기 가치를 증명해야 한다고 믿게 되는 일이다.

존엄은 성과 이전에 있다

현대 사회는 인간의 가치를 자주 성과로 측정한다. 좋은 성적, 좋은 대학, 좋은 직장, 높은 생산성, 빠른 적응력, 뛰어난 경쟁력이 한 사람의 가치를 설명하는 언어가 된다. 사회는 개인에게 계속 묻는다. 무엇을 해냈는가. 얼마나 효율적인가. 얼마나 쓸모 있는가. 얼마나 성장 가능성이 있는가. AI 시대에는 이 질문이 더 정교해진다. 이제 사람의 가능성은 감으로 평가되지 않고, 데이터 기반 모델에 의해 계산된다. 어느 학생이 중도탈락 위험이 높은지, 어느 구직자가 조직에 적합한지, 어느 소비자가 더 높은 구매 가능성을 갖는지, 어느 시민이 더 많은 관리가 필요한지가 예측된다.

물론 예측은 도움이 될 수 있다. 위험을 조기에 발견하고 필요한 지원을 연결할 수 있다면, 데이터는 사람을 돕는 도구가 된다. 그러나 예측이 지원의 언어가 아니라 낙인의 언어가 될 때 문제가 시작된다. 학생은 ‘위험군’으로 고정되고, 구직자는 ‘부적합’으로 걸러지며, 시민은 ‘관리 대상’으로 분류된다. 데이터가 사람을 이해하는 하나의 참고자료가 아니라, 사람을 대체하는 판단이 되는 순간 인간 존엄은 흔들린다.

『Magnifica Humanitas』는 인간의 존엄이 능력이나 생산성, 삶의 처지, 올바른 선택 여부에 달려 있지 않다고 말한다. 인간은 하나님의 사랑 안에서 이미 존엄한 존재이며, 그 존엄은 실패나 배제, 굴욕으로 사라지지 않는다. 이 표현은 신학적 언어를 포함하지만, 그 사회적 함의는 보편적이다. 인간은 자기 가치를 계속 입증해야만 보호받는 존재가 아니다. 인간은 성취했기 때문에 존중받는 것이 아니라, 인간이기 때문에 존중받아야 한다. 이 기준이 사라지면 사회는 가장 효율적인 사람, 가장 예측 가능한 사람, 가장 비용이 적게 드는 사람을 중심으로 재편된다.

AI 시대의 차별은 더 조용하게 작동한다

과거의 차별은 때로 노골적이었다. 특정 집단을 배제하는 법과 제도, 공개적인 편견, 사회적 낙인이 있었다. 오늘의 차별은 더 조용하고 세련된 방식으로 작동할 수 있다. 알고리즘은 중립적 언어를 사용한다. 위험 점수, 적합도, 추천 순위, 우선순위, 자동 분류, 개인화라는 말은 차별보다 관리와 효율의 언어에 가깝다. 그러나 그 결과가 특정 사람과 집단을 반복적으로 배제한다면, 차별은 사라진 것이 아니라 보이지 않는 구조 안으로 들어간 것이다.

회칙은 AI가 사람의 삶에 영향을 미치는 과정에 들어올 때 그것은 결코 순수하게 기술적인 문제가 아니라고 본다. 고용, 신용, 공공서비스 접근, 평판과 관련된 민감한 결정이 자동화된 시스템에 위임될 경우, 그 시스템은 권리와 기회, 지위와 자유에 영향을 미친다. 더구나 AI 시스템이 객관적이고 중립적인 것처럼 보일수록, 그 안에 들어 있는 설계자의 편견과 데이터의 왜곡은 더 쉽게 가려질 수 있다.

이 점은 교육에서도 중요하다. 대학이 학습분석 시스템을 도입해 학생의 성취 가능성을 예측한다고 가정해 보자. 그 시스템은 학생을 돕기 위해 설계될 수 있다. 그러나 어떤 학생이 낮은 가능성으로 분류되었을 때, 교수자와 행정은 그 학생을 실제보다 낮게 기대할 수 있다. 장학, 상담, 진로지원, 학사경고, 비교과 추천이 모두 데이터 기반으로 움직일 때, 학생은 자신도 모르는 사이에 특정한 경로로 유도될 수 있다. 겉으로는 효율적 관리이지만, 실제로는 가능성의 경계를 미리 좁히는 일이 될 수 있다.

AI 시대의 사회정의는 바로 이 조용한 작동 방식을 보아야 한다. 차별은 더 이상 문 앞에서 막는 방식으로만 일어나지 않는다. 어떤 정보가 보이지 않게 되고, 어떤 기회가 추천되지 않으며, 어떤 사람의 이의제기가 시스템 밖으로 밀려날 때도 차별은 일어난다. 설명할 수 없는 판단, 항의할 수 없는 분류, 수정할 수 없는 데이터는 인간을 침묵하게 만든다. 사회정의는 이 침묵의 구조를 드러내는 일에서 시작된다.

공동선은 개인 이익의 합계가 아니다

『Magnifica Humanitas』가 제시하는 첫 번째 사회교리 원칙은 공동선이다. 공동선은 많은 사람이 각자 얻는 이익을 모두 더한 값이 아니다. 그것은 사람들이 함께 살아가기 위해 필요한 사회적 조건이다. 인간이 인간답게 살 수 있도록 하는 제도, 관계, 권리, 기회, 신뢰의 기반이 공동선이다. AI 시대의 공동선은 더 이상 추상적인 윤리 용어가 아니다. 그것은 데이터와 알고리즘, 플랫폼과 인프라, 교육과 노동, 민주주의와 공공서비스의 문제로 구체화된다.

AI 기술은 특정 기업의 이윤을 크게 늘릴 수 있다. 특정 학교의 행정 효율을 높일 수 있고, 특정 정부의 정책 집행 속도를 빠르게 만들 수 있다. 그러나 공동선의 관점에서는 그 이상의 질문이 필요하다. 그 기술이 약한 사람의 접근권을 넓혔는가. 설명과 이의제기의 가능성을 보장했는가. 사회적 신뢰를 높였는가. 인간의 판단과 책임을 보완했는가. 아니면 더 많은 것을 자동화했다는 이유로 인간의 목소리를 줄이고, 불편한 사람을 더 쉽게 배제했는가.

공동선의 기준은 AI를 반대하기 위한 기준이 아니다. 오히려 AI가 더 넓고 깊은 의미에서 좋은 기술이 되도록 묻는 기준이다. 빠른 기술이 좋은 기술이 되려면, 그 속도 안에서 뒤처지는 사람을 보아야 한다. 정교한 기술이 좋은 기술이 되려면, 그 정교함이 누구를 위해 작동하는지 물어야 한다. 편리한 기술이 좋은 기술이 되려면, 그 편리함의 비용을 누가 부담하는지 살펴야 한다. 공동선은 기술의 성능표에 잘 드러나지 않는 질문을 사회의 중심으로 가져온다.

데이터와 알고리즘도 공동의 재화가 될 수 있는가

사회교리의 또 다른 원칙은 재화의 보편적 목적이다. 전통적으로 이 원칙은 땅, 물, 공기, 자연자원과 같은 물질적 재화가 소수의 전유물이 아니라 모든 사람의 삶을 위해 사용되어야 한다는 뜻으로 이해되어 왔다. 『Magnifica Humanitas』는 이 원칙을 디지털 시대에 맞게 확장한다. 오늘날 보편적 목적의 대상은 물질적 자원만이 아니다. 특허, 알고리즘, 디지털 플랫폼, 기술 인프라, 데이터 역시 새로운 형태의 재화가 되었다. 이들이 소수에게 집중되고 접근이 제한될 때, 디지털 혁명에 참여하는 사람과 주변부에 머무는 사람 사이의 격차는 더 커진다.

이 대목은 AI 시대의 핵심 쟁점을 찌른다. AI는 데이터 없이 작동하지 않는다. 데이터는 수많은 사람의 행동, 언어, 이미지, 검색, 소비, 이동, 학습, 노동의 흔적에서 나온다. 그런데 그 데이터로 만들어진 기술의 이익은 누구에게 돌아가는가. 데이터를 제공한 시민과 이용자는 단순한 원료 제공자에 머물고, 데이터와 모델을 소유한 기업만 권력과 수익을 갖는다면, 디지털 경제는 새로운 형태의 불평등을 만든다.

회칙은 데이터가 많은 기여자의 산물이므로 단순히 판매되거나 소수에게 맡겨질 물건으로만 취급되어서는 안 된다고 본다. 데이터는 공동 혹은 공유 재화로 관리될 수 있는 창의적 방식이 필요하며, AI 독점의 문제를 공동선, 보편적 접근, 보조성, 연대, 정의의 언어로 해석해야 한다고 말한다.

이 관점은 한국 사회에도 직접 적용된다. 공공데이터, 교육데이터, 의료데이터, 대학의 학습데이터는 누구의 것인가. 학생의 학습 흔적은 대학 행정의 효율을 위해 어디까지 사용될 수 있는가. 시민의 행정 데이터는 정책 개선을 위해 어떻게 활용되어야 하는가. 의료 데이터는 연구와 산업 발전을 위해 어떤 조건에서 공유될 수 있는가. 데이터 활용을 무조건 막을 수는 없다. 그러나 데이터가 사람에게서 나왔고, 사람의 삶에 다시 영향을 미친다면, 그 데이터는 사적 이익만의 대상이 될 수 없다.

보조성, 영향을 받는 사람이 결정 과정에 들어와야 한다

보조성은 사회교리에서 중요한 원칙이다. 간단히 말하면, 더 큰 권력이나 상위 기관이 개인, 가족, 지역사회, 중간 공동체의 역할을 함부로 대체해서는 안 된다는 원칙이다. 동시에 하위 공동체가 자기 책임을 다할 수 있도록 상위 기관이 지원해야 한다는 뜻도 포함한다. AI 시대에 이 원칙은 특별한 의미를 갖는다. 왜냐하면 오늘의 상위 권력은 국가만이 아니기 때문이다. 거대 기술기업과 플랫폼은 사람들의 일상 조건, 정보 접근, 경제 기회, 사회적 가시성을 결정하는 막강한 힘을 갖고 있다.

회칙은 디지털 혁명에서 보조성이 특별히 중요하다고 본다. 플랫폼과 기술기업이 접근 조건, 가시성의 규칙, 상호작용 방식, 경제적 기회까지 정하는 상황에서, 이러한 과정이 불투명하고 일방적으로 위에서 부과되어서는 안 된다는 것이다. 알고리즘의 투명성, 데이터 접근의 공정성, 독립적 점검, 이의제기 절차, 참여의 통로가 필요하다.

이 원칙은 대학 현장에도 유효하다. 대학이 AI 기반 학습관리, 상담 추천, 위험군 예측, 입학 분석, 취업 지원 시스템을 도입할 때 학생과 교수, 직원은 단순한 사용자가 되어서는 안 된다. 그 시스템이 어떤 데이터를 수집하고, 어떤 기준으로 판단하며, 어떤 결과가 학생의 삶에 영향을 미치는지 알 수 있어야 한다. 학생은 자기 데이터에 접근하고, 오류를 수정하고, 자동화된 판단에 이의를 제기할 수 있어야 한다. 교수자는 알고리즘의 추천을 맹목적으로 따르는 관리자가 아니라, 학생을 직접 만나는 교육적 판단의 주체로 남아야 한다.

보조성은 AI 거버넌스를 민주주의의 언어로 바꾼다. 영향을 받는 사람은 결정 과정에 들어와야 한다. 기술을 쓰는 공동체는 그 기술의 기준을 묻고 수정할 수 있어야 한다. 공동체가 단순한 수용자가 되고, 결정은 소수의 전문가와 기업이 내리며, 나중에 문제가 생기면 사후 감독만 하는 구조로는 충분하지 않다. AI 시대의 보조성은 “기술 결정의 민주화”를 요구한다.

연대, 보이지 않는 사람들을 보는 능력

AI는 매끄럽게 작동하는 것처럼 보인다. 질문을 입력하면 답이 나오고, 이미지를 요청하면 이미지가 생성되며, 데이터를 넣으면 분석 결과가 나온다. 그러나 이 즉각성 뒤에는 보이지 않는 사람들이 있다. 데이터를 수집하고 정제하는 사람들, 유해 콘텐츠를 분류하는 사람들, 모델을 평가하는 사람들, 서버와 데이터센터를 유지하는 사람들, 반도체와 전자기기에 필요한 자원을 채굴하는 사람들, 저임금과 위험한 조건에서 디지털 경제를 떠받치는 사람들이 있다.

연대는 이 보이지 않는 사람들을 보는 능력이다. 회칙은 사회교리의 원칙을 AI 시대에 적용하면서, 연대는 알고리즘 시스템을 지탱하는 숨겨진 노동자들을 인식하게 한다고 말한다. 또한 정의는 누가 AI 모델을 훈련시킬 수 있고, 누가 그 모델의 판단을 받기만 하는지를 묻는 일이라고 설명한다.

이 대목은 AI를 사용하는 우리 모두에게 불편한 질문을 던진다. 우리가 편리하게 사용하는 AI의 비용은 어디에 있는가. 더 빠른 답변을 위해 누가 더 많은 전력과 물, 노동과 감정적 부담을 감당하는가. 더 정교한 추천 시스템을 위해 누가 자기 데이터를 제공하고, 누가 그 데이터에서 배제되는가. AI의 혜택은 북반구와 대도시, 고소득층과 고학력층에 집중되고, 비용은 취약한 노동자와 자원 채굴 지역, 디지털 접근성이 낮은 사람들에게 전가되는 것은 아닌가.

연대는 기술의 수혜자와 비용 부담자를 함께 보게 한다. AI가 정말 인간을 위한 기술이라면, 그것은 사용자의 편리함만이 아니라 생산과 유지, 학습과 적용의 전 과정에서 인간의 존엄을 지켜야 한다. 편리한 기술이 누군가의 보이지 않는 희생 위에 서 있다면, 그 기술은 아직 인간적이라고 말하기 어렵다.

사회정의는 흔히 기술 발전 이후에 생기는 문제를 보완하는 것으로 여겨진다. 먼저 혁신하고, 나중에 피해를 줄이며, 나중에 분배를 고민하는 방식이다. 그러나 『Magnifica Humanitas』는 AI 시대의 사회정의가 사후 조치에 머물러서는 안 된다고 본다. 사회정의는 기술이 배포된 뒤 지켜야 할 목표일 뿐 아니라, 처음부터 기술 설계를 형성해야 할 조건이다.

회칙은 디지털 기술과 AI 시스템이 정보 획득, 소통, 서비스 접근 방식을 바꾸고 있다고 진단한다. 그래서 정의는 새로운 배제와 자유 박탈을 막아야 한다. 기본 기술에 접근하지 못하는 개인과 공동체, 침습적 감시에 노출되는 사람들, 편견과 차별을 반복하는 불투명한 알고리즘에 의해 불이익을 받는 집단을 보호해야 한다. 디지털 시대의 정의로운 사회 질서는 기회에 대한 평등한 접근, 어린이와 취약계층의 보호, 혐오와 허위정보 대응, 데이터와 기술의 공적 감독을 포함해야 한다.

이것은 AI 윤리를 훨씬 넓게 만든다. 윤리는 AI에게 친절한 답변을 하도록 만드는 것만이 아니다. 윤리는 데이터가 수집되는 순간, 모델이 설계되는 순간, 서비스가 배포되는 순간, 사용자가 피해를 호소하는 순간, 오류가 수정되는 순간까지 이어져야 한다. 어떤 데이터가 빠졌는가. 어떤 집단이 과대표집되었는가. 어떤 기준이 성공으로 정의되었는가. 오류가 발생했을 때 피해자는 어떻게 구제받는가. 설명할 수 없는 판단은 어디까지 허용될 수 있는가. 사회정의는 이 질문들을 설계의 출발점으로 끌어온다.

AI 시대의 인간 존엄 논의는 대학에도 직접 닿아 있다. 대학은 점점 더 많은 데이터를 수집한다. 입학 성적, 수강 이력, 출결, 과제 제출, LMS 접속 시간, 비교과 활동, 상담 기록, 장학 수혜, 취업 준비, 중도탈락 위험도까지 학생의 대학 생활은 다양한 데이터로 남는다. 이 데이터는 학생을 더 잘 지원하기 위해 사용될 수 있다. 위기 학생을 조기에 발견하고, 필요한 상담과 학습지원을 연결하며, 학생 맞춤형 교육을 설계하는 데 도움이 될 수 있다.

그러나 같은 데이터가 학생을 가두는 장치가 될 수도 있다. 학생의 가능성이 과거 데이터에 의해 미리 규정되고, 낮은 성취 가능성으로 분류된 학생에게 더 낮은 기대가 주어지며, 행정 효율을 위해 학생의 복잡한 사정이 단순한 위험 지표로 환원될 수 있다. 상담이 돌봄이 아니라 관리가 되고, 교육이 만남이 아니라 모니터링이 되며, 학생 지원이 성장의 기회가 아니라 이탈 방지 지표가 될 위험도 있다.

따라서 대학의 AI 활용은 반드시 인간 존엄의 언어를 가져야 한다. 학생 데이터는 학생을 판단하기 위한 자료이기 전에 학생을 더 잘 돕기 위한 책임의 자료여야 한다. 알고리즘이 학생을 대신 설명해서는 안 된다. 교수자와 상담자, 행정 담당자는 데이터가 보여주는 경향을 참고하되, 학생의 이야기를 직접 들을 수 있어야 한다. 대학은 학생을 더 정확히 분류하는 기관이 아니라, 학생이 자기 가능성을 새롭게 발견하도록 돕는 기관이어야 한다.

인간은 예측을 넘어서는 존재다

AI는 과거 데이터를 바탕으로 미래를 예측한다. 이 능력은 유용하다. 그러나 인간은 언제나 과거의 반복만으로 설명되지 않는다. 사람은 실패 이후에 달라질 수 있고, 예기치 않은 만남을 통해 새로운 길을 찾을 수 있으며, 어떤 한마디와 경험을 통해 자기 삶의 방향을 바꿀 수 있다. 교육이 소중한 이유도 여기에 있다. 교육은 과거 성취를 바탕으로 미래를 예측하는 일이 아니라, 예측을 넘어서는 가능성을 여는 일이다.

이 점에서 인간은 데이터보다 크다. 데이터는 한 사람의 흔적을 담지만, 그 사람의 전부가 아니다. 알고리즘은 가능성을 추정하지만, 그 가능성의 끝을 알 수 없다. AI는 패턴을 찾지만, 인간은 때로 자기 패턴을 깨뜨린다. 사회가 인간을 데이터로만 대하기 시작하면, 인간은 과거의 기록에 묶인다. 반대로 사회가 인간의 존엄을 먼저 인정하면, 데이터는 사람을 가두는 도구가 아니라 돕는 도구가 될 수 있다.

『Magnifica Humanitas』가 인간 존엄을 AI 논의의 출발점에 놓는 이유가 여기에 있다. 존엄은 기술 윤리의 장식어가 아니다. 그것은 AI 시대의 제도와 교육, 노동과 행정, 경제와 정치가 인간을 어떻게 대할 것인지를 결정하는 첫 기준이다. 존엄이 없다면 AI는 사람을 더 빠르게 분류할 뿐이다. 존엄이 있다면 AI는 사람을 더 세심하게 돕는 도구가 될 수 있다.

AI는 강력한 기술이다. 그러나 강력한 기술일수록 누구의 언어로 사용되는지가 중요하다. 공동선 없는 AI는 강자의 언어가 되기 쉽다. 더 많은 데이터를 가진 자, 더 많은 컴퓨팅 자원을 가진 자, 더 많은 자본과 인재를 가진 자가 사회의 방향을 정하게 된다. 소수의 기업과 국가는 AI를 설계하고 훈련하며, 다수의 사람은 그 AI가 만든 환경 안에서 살아간다. 이 비대칭이 커질수록 AI는 중립적 도구가 아니라 새로운 권력 구조가 된다.

회칙은 AI가 경제적 자원과 전문성, 데이터 접근권을 이미 가진 이들의 힘을 증폭시키는 경향이 있다고 본다. 그래서 AI가 공공재와 기본권에 영향을 미치는 경우에는 참여와 보조성에 기초한 분명한 기준과 효과적 감독이 필요하다고 말한다. 공동체와 중간 조직은 이미 정해진 결정을 수동적으로 받아들이는 존재가 아니라, 식별과 감독에 참여할 수 있어야 한다.

이것은 한국 사회의 AI 정책에도 중요한 기준이다. AI 산업 육성과 AI 윤리는 따로 갈 수 없다. 기술 경쟁력을 키우는 일은 필요하지만, 그 경쟁력이 인간의 권리와 사회적 신뢰를 훼손한다면 지속가능하지 않다. AI를 공공행정에 도입한다면 시민의 권리 보장이 함께 설계되어야 한다. AI를 교육에 도입한다면 학생의 성장과 자기결정권이 함께 고려되어야 한다. AI를 산업에 도입한다면 노동자의 재교육과 전환, 참여와 보호가 함께 따라야 한다. 공동선은 혁신의 장애물이 아니라 혁신이 사회적 정당성을 얻는 조건이다.

AI 시대의 핵심 과제는 인간을 기술 바깥에 세우는 것이 아니다. 인간은 이미 기술 안에서 살아간다. 학생은 AI와 함께 공부하고, 노동자는 AI와 함께 일하며, 시민은 AI가 선별한 정보를 접하고, 행정은 AI의 도움을 받아 결정을 준비한다. 그러므로 필요한 것은 기술 없는 세계로 돌아가는 일이 아니라, 기술 안에서 인간을 다시 중심에 놓는 일이다.

인간을 중심에 놓는다는 말은 단순한 구호가 아니다. 그것은 구체적 제도를 요구한다. 자동화된 판단에는 설명 가능성과 이의제기 절차가 있어야 한다. 데이터 활용에는 동의와 투명성, 목적 제한과 공적 감독이 있어야 한다. AI 도입에는 취약계층에 미치는 영향 평가가 있어야 한다. 교육 현장에는 AI 활용 능력과 함께 질문하는 능력, 판단하는 능력, 책임지는 능력을 길러내는 과정이 있어야 한다. 노동 현장에는 생산성 향상뿐 아니라 일의 존엄과 숙련의 보존, 전환 교육과 사회적 보호가 있어야 한다.

『Magnifica Humanitas』의 2장은 이 모든 논의를 가능하게 하는 기준을 제공한다. 인간 존엄은 출발점이고, 공동선은 방향이며, 재화의 보편적 목적은 접근의 원칙이고, 보조성은 참여의 구조이며, 연대는 보이지 않는 사람들을 보는 힘이고, 사회정의는 설계의 조건이다. 이 원칙들은 종교적 문서 안에서 나온 말이지만, AI 시대의 공적 윤리로 번역될 수 있다.

AI 시대에 우리는 더 많은 것을 측정하게 될 것이다. 더 많은 데이터를 모으고, 더 정교하게 예측하며, 더 빠르게 판단하게 될 것이다. 그러나 측정이 많아질수록 측정할 수 없는 것을 잊지 않아야 한다. 한 사람의 존엄, 변화 가능성, 관계의 깊이, 고통의 의미, 실패 이후의 회복, 타인을 향한 책임은 데이터로 완전히 환원되지 않는다. 인간은 데이터보다 크다.

이 말은 데이터가 필요 없다는 뜻이 아니다. 오히려 데이터는 인간을 돕는 데 유용하게 쓰일 수 있다. 그러나 데이터가 인간을 돕기 위해서는 인간보다 앞서서는 안 된다. 데이터는 판단을 보완해야지, 인간의 가능성을 닫아서는 안 된다. 알고리즘은 지원을 연결해야지, 배제를 정당화해서는 안 된다. 플랫폼은 관계를 확장해야지, 사람을 조작과 의존의 대상으로 삼아서는 안 된다.

AI 시대의 사회는 이 기준을 붙들어야 한다. 인간은 성과 이전에 존엄하고, 예측 이전에 가능성을 가지며, 분류 이전에 고유한 이야기를 가진다. 기술이 이 사실을 잊을 때 AI는 또 하나의 바벨탑이 된다. 그러나 기술이 이 사실을 기억하도록 설계되고 통제되고 사용될 때, AI는 인간을 더 깊이 돕는 도구가 될 수 있다. 3회차의 질문은 여기에 있다. 우리는 AI에게 인간을 얼마나 정확히 분류하게 할 것인가가 아니라, AI 시대에도 인간을 얼마나 온전하게 인간으로 대할 것인가를 물어야 한다.

#인공지능 #인간존엄 #공동선 #데이터윤리 #알고리즘차별 #사회정의