AI 기술이 정책 결정과 행정 집행에 적극 활용되면서, 시민은 더 빠르고 효율적인 서비스를 제공받을 것이라는 기대를 받아왔다. 그러나 이와 동시에 AI 정책이 시민을 ‘권리를 가진 주체’가 아니라 ‘분석과 관리의 대상’으로 다루고 있는 것은 아닌지에 대한 질문도 제기된다. 이 글은 AI 정책이 시민을 어떻게 인식하고 다루는지, 그 과정에서 시민의 위치가 어떻게 변화하고 있는지를 구조적으로 살펴본다.
AI 정책에서 시민은 ‘참여자’가 아니라 ‘데이터 단위’로 등장한다
전통적인 민주 행정에서 시민은 정책의 대상이면서 동시에 정당성의 근거였다. 정책은 시민의 요구와 문제 인식을 반영해 설계되었고, 시민은 의견 제시, 민원, 선거 등을 통해 정책 과정에 간접적으로 참여했다. 물론 이러한 참여가 항상 충분하거나 평등했던 것은 아니지만, 최소한 시민은 정책의 의미 있는 주체로 상정되어 있었다.
AI 정책 환경에서 시민의 위치는 달라진다. 정책 설계의 출발점은 시민의 요구나 경험보다 데이터 분석 결과가 된다. 시민은 설문 응답자나 의견 제시자가 아니라, 행정 데이터베이스에 기록된 정보의 집합으로 등장한다. 소득, 연령, 거주지, 이용 이력은 개인의 맥락과 분리된 채 변수로 전환된다. 이 과정에서 시민은 ‘말하는 존재’가 아니라 ‘계산되는 존재’로 재구성된다. 정책은 시민의 경험을 해석하기보다, 데이터 패턴을 통해 시민을 분류하고 예측한다. 이는 정책의 효율성을 높일 수 있지만, 시민을 정책 과정에서 점점 더 수동적인 위치로 이동시킨다. 문제는 이러한 대상화가 중립적으로 보인다는 점이다. 데이터는 객관적이고 과학적인 근거처럼 제시되기 때문에, 시민의 경험이나 이의 제기는 주관적 요소로 취급되기 쉽다. 결과적으로 시민은 정책을 형성하는 주체가 아니라, 정책이 작동하는 대상으로만 인식될 위험이 커진다.
예측과 분류 중심의 정책은 시민을 ‘관리 대상’으로 고정시킨다
AI 정책의 핵심 기능 중 하나는 예측이다. 누가 지원이 필요한지, 누가 위험 집단인지, 어떤 집단이 특정 정책의 대상이 될 가능성이 높은지를 사전에 계산한다. 이러한 예측은 행정 자원의 효율적 배분을 가능하게 하지만, 동시에 시민을 특정 범주에 고정시키는 효과를 낳는다. 예측 기반 정책에서는 시민의 현재 상태가 아니라, 계산된 가능성이 중요해진다. 시민은 실제로 어떤 선택을 할지와 무관하게, ‘그럴 가능성이 높은 집단’으로 분류된다. 이 분류는 정책 설계와 집행에 지속적으로 반영되며, 시민의 개별적 변화나 맥락은 쉽게 고려되지 않는다. 이러한 구조에서는 시민이 스스로를 설명하거나 문제를 제기할 여지가 줄어든다. 정책은 이미 계산된 결과를 전제로 작동하고 있기 때문에, 시민의 발언은 예외적 사례나 시스템 외적 요소로 취급될 가능성이 높다. 이는 시민을 능동적 행위자가 아니라, 관리해야 할 객체로 인식하게 만든다.
또한 분류는 시민 간의 관계에도 영향을 미친다. 특정 집단은 반복적으로 ‘위험군’, ‘취약계층’, ‘관리 대상’으로 호명되고, 이는 정책 언어를 넘어 사회적 인식으로 확산될 수 있다. 이때 시민은 권리를 가진 주체라기보다, 정책적 개입의 대상이라는 정체성을 부여받게 된다. 결국 예측과 분류 중심의 AI 정책은 시민을 보호하기 위한 장치이면서도, 동시에 시민을 고정된 상태로 관리하는 시스템으로 기능할 수 있다.
설명되지 않는 정책은 시민을 정책의 외부로 밀어낸다
AI 정책이 시민을 대상화하는 또 다른 지점은 설명 가능성의 문제에서 드러난다. 민주 행정에서 정책은 결과뿐 아니라, 그 이유와 과정이 설명될 수 있어야 한다. 시민은 왜 특정 결정을 받았는지 이해할 권리를 갖는다. 그러나 AI 정책에서는 이 설명이 점점 어려워진다. 정책 결정의 근거가 복잡한 알고리즘과 대규모 데이터 분석에 기반할수록, 그 과정을 시민에게 설명하기는 쉽지 않다. 행정은 “시스템 기준에 따라 결정되었다”는 표현으로 설명을 대체하는 경우가 많다. 이러한 설명 방식은 시민을 정책의 이해 주체가 아니라, 결과를 수용해야 하는 존재로 위치시킨다. 시민은 정책의 논리를 검토하거나 문제를 제기하기보다, 결과에 적응해야 하는 대상으로 남는다. 이는 정책에 대한 시민의 통제 가능성을 약화시키는 구조다.
또한 설명되지 않는 정책은 시민의 불복과 문제 제기를 비합리적인 행위로 보이게 만들 수 있다. 알고리즘의 결과는 객관적이라는 인식이 강하기 때문에, 시민의 이의 제기는 시스템을 이해하지 못한 반응처럼 해석될 위험이 있다. 결국 설명 불가능성은 시민을 정책 논의의 내부가 아니라 외부로 밀어낸다. 시민은 정책의 대상이지만, 정책을 이해하고 판단하는 주체로 인정받지 못한다. 이는 AI 정책이 시민을 대상화하고 있다는 비판이 제기되는 핵심 이유 중 하나다.
AI 정책은 행정의 효율성과 일관성을 높일 수 있는 강력한 도구다. 그러나 그 과정에서 시민이 점점 데이터 단위, 분류 대상, 관리 객체로 재구성되고 있다면, 이는 단순한 기술 문제를 넘어 민주 행정의 구조적 변화로 이해해야 한다. AI 정책의 핵심 질문은 기술을 사용할 것인가가 아니라, 그 기술 속에서 시민을 어떤 존재로 위치시킬 것인가다. 시민이 정책의 대상이 아니라 주체로 남기 위해서는, AI 정책이 시민의 발언, 설명 요구, 이의 제기를 제도적으로 포함할 수 있는 구조를 함께 갖추어야 한다. 그렇지 않다면 AI 정책은 효율적일 수는 있어도, 시민 중심의 정책이 되기는 어려울 것이다.