AI가 행정에 도입되면서 정책 결정과 집행은 더 객관적이고 공정해질 것이라는 기대가 뒤따랐다. 그러나 행정의 공정성이 정말로 기술 도입만으로 강화되었는지에 대해서는 보다 차분한 점검이 필요하다.
행정에서 말하는 ‘공정성’은 무엇을 의미해 왔는가
행정에서 공정성은 단일한 개념이 아니다. 전통적으로 행정의 공정성은 크게 두 가지 의미를 포함해 왔다. 하나는 동일한 조건에는 동일한 처우를 제공하는 형식적 공정성이고, 다른 하나는 개인의 상황 차이를 고려해 결과의 불균형을 완화하려는 실질적 공정성이다. 이 두 가지는 항상 조화를 이루기보다는, 정책 영역에 따라 긴장 관계에 놓여 왔다.
형식적 공정성의 관점에서 보면 행정은 규칙의 일관성과 예외 없는 적용을 통해 공정성을 확보하려고 해 왔다. 누구에게나 동일한 기준을 적용하는 것이 공정하다는 인식이다. 반면 실질적 공정성은 동일한 기준이 오히려 불공정을 초래할 수 있다는 문제의식에서 출발한다. 같은 규칙이라도 개인의 출발선이 다르다면, 결과는 더 큰 불평등으로 이어질 수 있기 때문이다. 이러한 맥락에서 공무원의 재량은 중요한 역할을 해 왔다. 재량은 형식적 공정성을 훼손하는 요소로 비판받기도 했지만, 동시에 제도의 경직성을 완화하고 현실을 반영하는 수단이기도 했다. 행정의 공정성은 규칙과 재량 사이의 균형 위에서 유지되어 왔다고 볼 수 있다.
AI 행정은 바로 이 균형 지점에 개입한다. AI는 규칙을 정확하고 일관되게 적용할 수 있는 도구로서, 형식적 공정성을 강화하는 데 매우 효과적이다. 그러나 이 강화가 곧 행정 전반의 공정성 향상을 의미하는지는 별도의 검토가 필요하다.
AI 행정이 강화한 것은 공정성인가, 일관성인가
AI 도입 이후 행정에서 가장 눈에 띄게 변화한 부분은 판단의 일관성이다. 동일한 데이터와 기준이 적용되는 한, 결과는 담당자에 따라 달라지지 않는다. 이는 과거 행정에서 자주 제기되던 ‘담당자에 따른 차이’, ‘운에 따른 결과’라는 불만을 상당 부분 해소했다. 이러한 변화는 공정성 향상으로 쉽게 해석된다. 실제로 시민의 입장에서도 동일한 조건이라면 동일한 결과를 기대할 수 있다는 점은 예측 가능성을 높이고, 행정에 대한 신뢰를 강화하는 요소로 작용할 수 있다. 특히 단순 자격 판별이나 반복적 행정 업무에서는 AI의 일관성이 분명한 장점으로 평가된다.
그러나 여기서 주목할 점은 일관성과 공정성이 반드시 같은 개념은 아니라는 점이다. AI는 기준을 정확하게 적용하지만, 그 기준이 적절한지 여부는 판단하지 않는다. 기준 자체가 특정 집단에 불리하게 작용하더라도, AI는 그 불리함을 그대로 반복 적용한다. 이 경우 행정은 일관되게 작동하지만, 결과적으로는 불공정을 구조화할 가능성도 존재한다. 또한 AI 행정은 형식적 공정성을 강화하는 대신, 실질적 공정성을 약화시킬 수 있다. 개인의 특수한 사정이나 제도 밖의 현실은 데이터로 충분히 포착되지 않는 경우가 많다. AI는 이러한 요소를 고려하지 않거나, 고려할 수 없는 상태에서 판단을 내린다. 그 결과, 규칙은 공정하게 적용되었지만 결과는 특정 집단에게 지속적으로 불리하게 나타날 수 있다. 결국 AI 행정이 강화한 것은 공정성 그 자체라기보다, 공정성의 한 요소인 ‘일관성’에 가깝다. 그리고 이 일관성이 언제나 바람직한 공정으로 이어지는 것은 아니다.
AI 행정 이후, 공정성을 다시 정의해야 하는 이유
AI 도입 이후 행정이 더 공정해졌는지를 묻는 질문은 단순히 기술의 성능을 평가하는 문제가 아니다. 이는 행정이 어떤 공정성을 지향해야 하는지에 대한 기준을 다시 설정하는 문제에 가깝다. AI 행정 환경에서는 기존의 공정성 개념만으로는 충분하지 않다. 동일 기준의 일관된 적용만으로는 구조적 불평등이나 누적된 불리함을 해결하기 어렵기 때문이다. 오히려 AI는 이러한 불평등을 더 정교하게 재생산할 위험도 내포하고 있다. 따라서 AI 행정 시대의 공정성은 결과의 차이를 인식하고 조정할 수 있는 능력을 포함해야 한다. 이는 AI의 판단을 무조건 신뢰하거나 배제하는 문제가 아니라, AI 판단의 한계를 전제로 인간의 개입 지점을 명확히 설정하는 문제다. 공무원의 역할은 단순 집행자가 아니라, 시스템이 놓치는 영역을 해석하고 보완하는 방향으로 재정의될 필요가 있다.
또한 공정성은 설명 가능성과도 밀접하게 연결된다. AI가 도출한 결과가 공정하다고 받아들여지기 위해서는, 그 기준과 판단 과정이 시민에게 이해 가능해야 한다. 결과만 제시되고 설명이 부족한 행정은 아무리 일관되더라도 공정하게 인식되기 어렵다. 결국 AI 도입 이후 행정이 더 공정해졌는지에 대한 답은 단순하지 않다. 행정은 분명 더 일관되고 예측 가능해졌지만, 그 변화가 곧 실질적 공정성의 향상을 의미하지는 않는다. 공정성은 기술이 자동으로 보장해 주는 속성이 아니라, 기술을 어떻게 설계하고 통제하며 해석하느냐에 따라 달라지는 행정의 선택이다.