정부·빅테크·전문가·시민사회가 권한을 나누되 책임은 분산하지 않는 ‘규범적 하이브리드’ 제안…AI 통제보다 중요한 질문은 “누가 최종 책임지는가”
인공지능(AI) 거버넌스의 중심을 기술 위험이나 규제 방식에서 인간의 존엄과 책임의 구조로 옮겨야 한다는 연구가 나왔다.
폴란드 요한 바오로 2세 가톨릭대학교(KUL)와 핀란드 동부대학교(University of Eastern Finland) 연구진은 교황 레오 14세의 회칙(Magnifica Humanitas)을 토대로 국가와 기업, 전문가, 시민사회, 시민, 국제기구가 함께 참여하는 새로운 AI 거버넌스 모델을 제시했다. 연구는 학술지 AI and Ethics에 2026년 8월 24일 게재됐다.
이번 연구의 특징은 단순히 “AI를 윤리적으로 개발해야 한다”는 선언에 머물지 않는다는 데 있다. 연구진은 실제로 누가 권한을 행사하고, 누가 자원을 통제하며, 문제가 발생했을 때 누가 책임을 지는가를 AI 거버넌스의 핵심 변수로 설정했다. 연구진은 이를 ‘규범적으로 기반을 둔 하이브리드 AI 거버넌스(normatively grounded hybrid AI governance)’라고 규정했다.
이 모델을 구성하는 핵심 원칙은 8가지다. 인간 존엄, 공동선, 재화의 보편적 목적, 사회정의, 연대, 보충성, 공동책임, 투명성과 책무성이다. 기존 거버넌스가 국가 주도인지, 시장 주도인지, 또는 다중 이해관계자 모델인지에 초점을 맞췄다면 이 연구는 그보다 앞선 질문인 “그 권한을 어떤 가치와 원칙에 따라 배분할 것인가”를 묻는다.
교황 레오 14세가 AI 문제에서 강조해 온 것도 같은 방향이다. 그는 2026년 5월 발표한 회칙 Magnifica Humanitas에서 AI가 인간의 삶에 개입할수록 단순한 기술 문제가 아니라 권리와 자유, 기회, 사회적 지위의 문제가 된다고 지적했다. 특히 고용과 신용, 공공서비스처럼 개인의 삶에 직접 영향을 미치는 결정이 자동화 시스템에 완전히 위임될 경우 새로운 형태의 배제가 나타날 수 있다고 경고했다.
레오 14세는 더 나아가 AI를 누가 통제하는지가 곧 누가 사회의 가치와 규칙을 결정하는 문제라고 본다. 회칙은 소수의 기업이나 집단이 AI와 데이터, 컴퓨팅 자원에 대한 통제력을 독점할 경우 경제적·정치적 영향력까지 확대될 수 있다고 지적했다. 공공재나 기본권에 영향을 미치는 AI에는 참여와 보충성에 기초한 명확한 기준과 실효성 있는 감독이 필요하다고도 강조했다.
연구진은 이 관점을 ‘바벨탑-느헤미야’라는 두 가지 거버넌스 논리로 설명한다. 바벨탑은 권력과 기술의 중앙집중, 획일화, 통제를 상징한다. 반면 느헤미야는 공동체 기반의 협력과 분산된 책임, 공동선에 대한 참여를 상징한다. 연구진이 제안한 모델은 AI 거버넌스를 중앙집중적 통제로 끌고 가기보다 여러 주체가 참여하면서도 각자의 책임을 명확히 하는 방향으로 설계해야 한다는 것이다.
특히 연구에서 제시한 사례는 사회복지 급여 심사다. AI가 신청자의 자격을 분석하고 위험도를 산출할 수는 있지만 최종 판단을 알고리즘에 넘겨서는 안 된다. 최종 결정에 책임을 지는 특정한 사람이 존재해야 하며, 신청자는 이해할 수 있는 방식으로 판단 근거를 설명받고 이의를 제기할 수 있어야 한다. 또한 시스템은 독립적인 감사와 감독을 받아야 하고, 영향을 받는 집단 역시 감독 과정에 참여해야 한다.
이 접근은 현재 확산되고 있는 ‘human-in-the-loop’ 개념보다 한 단계 넓다. 인간이 마지막 버튼을 누르는 것만으로는 충분하지 않다는 것이다. 왜 AI를 사용해야 하는지, 누가 AI 인프라를 소유하고 있는지, AI가 생산한 편익은 누구에게 돌아가는지, 오류와 피해가 발생하면 책임은 어디까지 추적되는지까지 거버넌스 설계의 대상에 포함시킨다. 연구진은 일부 절차적 장치가 이미 유럽연합 AI Act에도 존재하지만, 자신들의 모델은 이를 사회적·제도적 질서와 연결해 해석한다는 점에서 차이가 있다고 설명한다.
이 문제는 가톨릭 내부 논의에만 머물고 있지 않다. 교황청은 이미 AI를 위한 제도적 대응에 들어갔다. 레오 14세는 2026년 5월 교황청 내부 부처 간 AI 위원회 설치를 승인했고, 교황청은 같은 해 7월 유엔의 첫 글로벌 AI 거버넌스 대화에서도 AI에 대한 강력한 감독과 인간의 책임성을 강조했다. 당시 교황청의 유엔 주재 대표 에토레 발레스트레로 대주교는 AI 사용이 “알고리즘에 책임을 외주화하거나 양도하는 방식”이 되어서는 안 된다고 밝혔다.
레오 14세의 AI 접근은 최근 국제적인 AI 안전 논의와도 맞닿아 있다. 그는 AI를 단순히 규제해야 할 새로운 산업으로 보기보다 인간 사회의 구조 자체를 바꾸는 기술로 보고 있다. 2026년 7월 AI for Good 글로벌 정상회의에 보낸 메시지에서도 그는 Magnifica Humanitas가 AI 전문가들의 긍정적인 기대뿐 아니라 알고리즘의 오용 가능성과 중요한 영역에서의 인간 행위능력 상실(loss of human agency)에 대한 우려에서 출발했다고 설명했다.
특히 주목할 부분은 AI를 둘러싼 힘의 집중 문제다. 레오 14세는 AI의 안전성을 모델 성능이나 사이버보안 문제로만 좁힐 경우, 경제적 독점과 정치적 영향력이라는 거버넌스 위험을 놓칠 수 있다는 의미다.
다만 이번 연구를 실제로 검증된 AI 정책 모델로 평가하기에는 아직 이르다. 논문 자체가 가장 중요한 한계로 개념적·규범적 연구이며 제안된 모델의 효과를 실증적으로 검증하지 않았다는 점을 명시한다. 즉 사회복지, 의료, 금융, 행정 등 실제 시스템에 적용했을 때 기존 규제체계보다 더 공정하거나 안전한지를 보여주는 실증자료는 아직 없다.
그럼에도 이번 연구가 던지는 질문은 AI 규제 논의에서 의미가 있다. 현재 AI 거버넌스 논쟁은 규제 강도, 기업의 자율규제, 오픈소스 공개, 국가 간 경쟁, 안전성 평가 등으로 세분화되고 있다. 그러나 규제 주체가 늘어날수록 오히려 책임의 공백이 커질 수 있다. 정부는 기업을 지목하고, 기업은 모델 개발자나 사용자를 지목하며, 최종 피해자는 어느 기관에도 실질적인 책임을 묻기 어려운 상황이 발생할 수 있기 때문이다.
따라서 레오 14세에서 출발한 이 모델의 핵심은 ‘AI를 누가 소유할 것인가’보다 AI가 인간 사회의 중요한 결정을 내릴 때 누가 책임을 질 것인가에 있다. 기술이 고도화될수록 인간의 감독을 단순한 절차가 아니라 법적·정치적·윤리적 책임의 사슬로 만들어야 한다는 주장이다.
AI가 인간보다 더 많은 정보를 처리하고 더 빠르게 결정을 내릴 수 있게 되더라도 그것이 곧 결정권과 도덕적 책임까지 AI에 이전해야 한다는 의미는 아니다. 레오 14세의 Magnifica Humanitas와 이를 분석한 이번 연구가 제시하는 거버넌스 모델은 바로 이 경계를 제도적으로 명확히 하자는 데 의미가 있다.
결국 AI 시대의 거버넌스 경쟁은 누가 가장 강력한 모델을 개발하느냐의 경쟁만이 아니다. 인간의 존엄을 침해하는 결정이 발생했을 때 누가 설명하고, 누가 이의를 듣고, 누가 책임질 수 있는지를 설계하는 경쟁이기도 하다. 이번 연구는 종교적 윤리를 출발점으로 삼았지만, 그 질문 자체는 AI 개발기업과 정부, 국제기구가 공유해야 할 보편적인 정책 의제로 확장될 가능성이 있다.
