복지 행정에 AI가 도입되면서 대상자 선별은 더 빠르고 정확해졌다고 평가된다. 그러나 자동화된 판단의 이면에서는 제도적으로 설명되지 않는 또 다른 형태의 탈락이 조용히 발생하고 있다.
AI 복지 선별과 탈락
복지 정책에서 대상자 선별은 본질적으로 배제와 포함을 동시에 수반하는 과정이다. 한정된 재원을 효율적으로 배분하기 위해서는 누군가는 선정되고, 누군가는 탈락할 수밖에 없다. AI 기반 복지 선별 시스템은 이 과정을 데이터와 알고리즘을 통해 자동화함으로써 행정 효율성을 크게 높였다. 신청자의 소득, 재산, 가구 구성, 고용 상태 등은 정형화된 데이터로 처리되고, 시스템은 사전에 설정된 기준에 따라 자격 여부를 신속하게 판단한다. 문제는 이 과정에서 발생하는 탈락이 이전보다 훨씬 덜 가시적으로 드러난다는 점이다. 과거에는 탈락의 원인이 비교적 명확했다. 기준 초과, 서류 미비, 심사 결과 등 탈락 사유가 행정 언어로 설명되었고, 경우에 따라 공무원의 재량이나 추가 검토가 개입할 여지도 존재했다. 반면 AI 기반 선별에서는 결과만 제시될 뿐, 판단 과정은 대부분 시스템 내부에 머문다. ‘부적격’이라는 결과는 명확하지만, 왜 탈락했는지는 충분히 설명되지 않는 경우가 많다.
이러한 구조 속에서 탈락은 개인의 조건 문제처럼 보이지만, 실제로는 데이터와 기준 설정 방식에서 비롯된 구조적 결과일 가능성이 크다. 그러나 그 구조는 드러나지 않는다. 시스템은 오류 없이 작동했고, 기준도 일관되게 적용되었기 때문이다. 이로 인해 탈락은 문제로 인식되기보다는 행정 과정의 자연스러운 결과로 처리된다.
AI 복지 선별 시스템은 데이터에 기반해 작동한다. 이는 곧 데이터로 포착되지 않는 삶의 조건은 판단 과정에서 고려되지 않는다는 의미이기도 하다. 현실의 복지 수요는 종종 불안정한 소득, 비공식 노동, 가족 내 돌봄 부담, 주거 불안과 같은 요소에서 발생한다. 그러나 이러한 요소들은 행정 데이터로 완전히 포착되기 어렵다. 예를 들어 일정한 소득이 기록되어 있다는 이유로 실제 생활이 매우 불안정한 사람이 지원 대상에서 제외될 수 있다. 반대로 단기적인 소득 감소가 아직 데이터에 반영되지 않은 경우, 당장의 복지 필요는 시스템상으로 인식되지 않는다. AI는 존재하지 않는 데이터를 고려하지 않으며, 불완전한 정보는 곧 판단의 공백으로 이어진다.
또한 AI는 과거 데이터를 학습해 현재를 판단한다. 이는 예측 정확도를 높이는 데 유리하지만, 급격한 삶의 변화에는 취약하다. 실직, 질병, 가족 해체와 같은 사건은 발생 즉시 복지 수요로 이어질 수 있지만, 데이터에 반영되기까지는 시간차가 존재한다. 이 시간 동안 개인은 시스템상으로는 여전히 ‘지원이 필요 없는 사람’으로 분류된다. 이러한 탈락은 통계에도 잘 드러나지 않으며, 개인의 문제로만 남는다.
기준의 정확성이 탈락을 정당화하는 방식
AI 복지 선별에서 또 하나 중요한 특징은 기준의 경직성이다. 복지 제도는 소득 기준선, 재산 기준선과 같이 명확한 경계를 설정한다. AI는 이 기준을 정확하게 적용한다. 이는 형평성과 일관성을 높이는 장점이 있지만, 동시에 경계선에 있는 사람들을 반복적으로 탈락시키는 구조를 만든다.
인간 행정에서는 경계 상황에 대한 재량이나 추가 설명이 가능했지만, AI 시스템에서는 기준선이 곧 판단선이 된다. 소득이 기준을 소폭 초과한 사람은 지원 대상이 아니며, 그 이유는 더 이상 설명되지 않는다. 기준은 명확하고 시스템은 정확하게 작동했기 때문이다. 이때 탈락은 불합리한 예외가 아니라, 합리적 결과로 처리된다.
문제는 이러한 탈락이 누적된다는 점이다. 경계선에 위치한 사람들은 반복적으로 탈락을 경험하지만, 그 이유를 구조적으로 이해하기 어렵다. 제도는 정확하게 작동하고 있으므로 문제 제기의 대상도 모호해진다. 이 과정에서 복지 제도에 대한 신뢰는 약화되고, 신청 자체를 포기하는 사람도 늘어날 수 있다.
보이지 않는 탈락이 남기는 정책적 과제
AI 기반 복지 선별에서 발생하는 보이지 않는 탈락은 단순한 기술 문제라기보다 정책 설계의 문제에 가깝다. 시스템의 정확도를 높이는 것만으로는 이 문제를 해결할 수 없다. 중요한 것은 탈락을 어떻게 인식하고, 어떻게 설명할 것인가이다.
복지는 단순한 자격 판별이 아니라 사회적 보호의 장치다. 따라서 탈락 역시 정책의 일부로 다뤄져야 한다. 누가 왜 탈락하는지, 그 탈락이 어떤 삶의 조건과 연결되어 있는지를 드러낼 수 있어야 제도 개선이 가능하다. AI가 판단 과정을 블랙박스로 만들수록, 탈락은 더 조용해지고 문제는 더 늦게 드러난다.
결국 AI 복지 선별에서 핵심적인 질문은 “얼마나 정확한가”가 아니라 “누가, 어떤 방식으로 놓치고 있는가”이다. 보이지 않는 탈락을 드러내는 일은 AI를 포기하자는 주장이 아니라, 복지 정책의 책임을 다시 분명히 하자는 요구에 가깝다. 효율적인 선별 뒤에 가려진 탈락을 인식하지 못한다면, AI는 복지의 사각지대를 줄이는 도구가 아니라, 사각지대를 더 조용히 만드는 장치가 될 수 있다.