AI가 복지 행정에 도입되면서 대상자 선정과 관리 과정은 더 객관적이고 중립적으로 보이기 시작했다. 그러나 자동화된 분류와 판단의 이면에서는, 복지 대상자에게 부여되는 낙인이 이전보다 더 조용하고 구조적인 방식으로 강화되고 있다는 문제도 함께 나타나고 있다.
낙인은 사라지지 않았다, 다만 보이지 않게 재구성되었을 뿐이다
복지 정책에서 낙인은 오래된 문제다. 과거의 낙인은 비교적 직접적인 방식으로 드러났다. 복지 수급자는 행정 창구에서 별도로 구분되었고, 주변의 시선이나 제도적 언어를 통해 ‘도움을 받는 사람’이라는 정체성을 강하게 부여받았다. 이러한 낙인은 사회적 논쟁의 대상이 되었고, 복지 제도 설계 과정에서도 완화해야 할 문제로 인식되었다.
AI 복지 시스템의 도입은 이러한 낙인을 줄이는 대안처럼 보였다. 대면 심사가 줄어들고, 신청과 선별이 자동화되면서 수급자는 불필요한 노출을 피할 수 있게 되었다. 그러나 실제로는 낙인이 사라진 것이 아니라, 형태를 바꾸어 제도 내부에 더 깊숙이 내재화되었다고 볼 수 있다. AI 시스템에서 낙인은 감정이나 태도의 문제가 아니라 분류의 결과로 나타난다. 점수, 등급, 위험군, 관리 대상과 같은 범주는 중립적인 행정 용어처럼 보이지만, 개인에게는 명확한 위치 부여로 작동한다. 한 번 특정 범주에 속하게 되면, 그 범주는 이후의 판단과 지원 방식에 지속적으로 영향을 미친다.
이러한 낙인의 특징은 눈에 띄지 않는다는 점이다. 누군가에게 직접 “당신은 취약하다”라고 말하지 않지만, 시스템은 반복적으로 그 사람을 취약한 집단으로 분류한다. 이 분류는 외부 시선보다 더 강력하게 작동한다. 왜냐하면 개인이 제도 안에서 어떤 대우를 받는지가 이미 결정되기 때문이다. 결과적으로 AI 복지 시스템은 낙인을 제거하는 대신, 문제로 인식되기 어려운 방식으로 재구성한다. 낙인은 더 이상 드러나지 않지만, 더 오래 지속되고 더 쉽게 벗어날 수 없는 상태로 작동한다.
데이터 기반 분류는 개인을 ‘상태’로 고정시키는 효과를 낳는다
AI 복지 시스템의 핵심 기능은 분류다. 누가 지원 대상인지, 어떤 수준의 지원이 필요한지, 추가 관리가 필요한 집단은 누구인지를 데이터에 기반해 구분한다. 이 과정은 효율적인 자원 배분을 위해 필수적인 절차처럼 보이지만, 동시에 개인을 특정한 상태로 고정시키는 장치로 작동한다. AI는 개인을 서사적으로 이해하지 않는다. 개인의 삶은 변화하는 과정이지만, AI는 특정 시점의 데이터 조합으로 개인을 파악한다. 소득, 재산, 고용 상태, 가구 구성과 같은 변수는 숫자나 코드로 정리되고, 그 조합은 하나의 현재 상태를 의미한다. 이 상태는 이후 판단의 기준이 되며, 반복적으로 재확인된다.
문제는 이 과정에서 변화 가능성이 충분히 고려되지 않는다는 점이다. 일시적인 어려움은 구조적인 취약성으로, 단기적 실직은 장기적 위험 신호로 해석될 수 있다. AI는 패턴의 안정성을 선호하기 때문에, 한 번 형성된 분류는 쉽게 수정되지 않는다. 이는 개인이 제도 안에서 계속해서 동일한 위치에 머무르게 만드는 효과를 낳는다.
또한 데이터 기반 분류는 개인 간 비교를 전제로 한다. 누가 더 취약한지, 누가 우선 지원 대상인지가 점수나 등급으로 정렬된다. 이 비교는 정책 운영에는 편리하지만, 개인에게는 자신이 사회적 보호 체계 안에서 어떤 위치에 있는지를 지속적으로 인식하게 만든다. 이는 외부의 낙인보다 더 강력한 자기 인식의 변화를 유도할 수 있다. 결국 AI 복지 시스템은 개인을 유동적인 존재가 아니라, 특정 상태에 머무는 존재로 바라보게 만든다. 이 고정은 제도적으로는 효율성을 높이지만, 개인의 삶에서는 낙인의 강화로 이어질 가능성이 크다.
낙인을 완화하기 위해 필요한 것은 기술 개선이 아니라 정책 관점의 전환이다
AI 복지 시스템이 낙인을 강화하는 문제를 해결하기 위해 종종 더 정교한 알고리즘이나 더 많은 데이터가 해법으로 제시된다. 그러나 기술적 개선만으로는 이 문제를 근본적으로 해결하기 어렵다. 낙인은 기술의 문제가 아니라, 복지 정책이 개인을 어떻게 이해하고 분류하는가의 문제이기 때문이다.
첫째, 분류의 목적을 재설정할 필요가 있다. 현재의 AI 복지 시스템은 ‘누가 지원 대상인가’를 가려내는 데 초점을 둔다. 이 과정에서 분류는 결론처럼 작동한다. 그러나 복지의 목적이 보호와 회복이라면, 분류는 고정이 아니라 조정의 출발점이어야 한다. 즉, 분류 결과는 개인을 규정하는 도장이 아니라, 어떤 지원이 필요한지를 탐색하기 위한 참고 정보로 활용되어야 한다.
둘째, 분류 결과에 대한 설명과 수정 가능성이 제도적으로 보장되어야 한다. 개인은 자신이 어떤 기준으로 분류되었는지 이해할 수 있어야 하며, 상황 변화에 따라 재분류를 요구할 수 있어야 한다. 분류가 절대적인 판단이 아니라 잠정적인 판단이라는 인식이 제도적으로 명확해질 때, 낙인의 고착은 완화될 수 있다.
셋째, 복지 시스템은 개인의 변화 가능성을 전제로 설계되어야 한다. AI는 과거 데이터를 기반으로 판단하지만, 정책은 미래를 향해야 한다. 지원 이후 개인이 어떤 경로를 통해 제도 밖으로 나갈 수 있는지, 그 과정에서 어떤 지원이 필요한지를 함께 고려하지 않는다면, AI는 복지를 지원하는 도구가 아니라 취약성을 고착시키는 장치로 기능하게 된다.
AI는 복지 대상자를 분류할 수는 있지만, 개인의 존엄을 판단할 수는 없다. 복지 정책이 사람을 돕기 위한 것이라면, 효율성뿐 아니라 그 과정에서 형성되는 정체성과 의미까지 함께 고려해야 한다. AI 복지 시스템에 대한 논의는 이제 기술의 문제가 아니라, 정책이 사람을 어떻게 바라볼 것인가에 대한 질문으로 확장되어야 한다.