서울시민의 고민, 오세훈 시장의 'AI 공정 플랫폼'이 제시하는 해법과 당위성

TL;DR

- 이 글이 답하는 질문: 서울시민의 다양한 삶의 고민을 오세훈 시장의 AI 공약이 어떻게 해소하고, 왜 필요한가?

- 핵심 결론: 오세훈 시장의 100대 공약은 AI 기반 공정 플랫폼을 통해 시민 권리 강화와 참여 민주주의를 실현하며, 변화하는 서울의 미래를 위한 필수적인 비전을 제시합니다.

- 적용 대상: 서울의 주거, 교육, 복지, 교통 등 생활 전반의 변화와 공정성을 기대하는 모든 시민.

서울의 집값은 언제쯤 안정될지, 우리 동네에 새로 생길 시설은 없을지, 아이를 키우는 데 서울시에서 어떤 지원을 받을 수 있을지, 노인들을 위한 복지 정책이 더 좋아질지, 출퇴근 지하철 막히는 문제는 언제 해결될지… 이 모든 물음은 서울시민이라면 누구나 한 번쯤 품어봤을 깊은 고민들일 것입니다. 복잡하고 빠르게 변화하는 도시 서울에서, 이러한 삶의 답답함과 불편함은 우리 일상에 큰 영향을 미칩니다. 본 글은 서울시의 미래를 고민하는 시민들을 위해, 오세훈 서울시장 후보의 'AI 기반 공정 플랫폼' 비전이 이러한 시민들의 염원에 어떻게 응답하며, 왜 지금 이 비전이 필요한지 깊이 있게 분석하여 작성되었습니다. 오세훈 시장의 전반적인 공약 원리와 중요성은 본 시리즈의 1편 종합 가이드에서 상세히 다루고 있으니 함께 참고하시면 좋습니다.

오세훈 서울시장 후보가 제시하는 'AI 공정국가·시민권 강화' 공약은 AI를 단순한 기술이 아닌, 시민 삶의 공정성을 확보하는 강력한 도구로 활용하겠다는 의지를 담고 있습니다. 이는 서울시민이 느끼는 다양한 불공정과 답답함을 근본적으로 해소하기 위한 핵심적인 접근 방식입니다. AI 기반 불공정 감시 시스템과 시민 데이터 권리 보호 법제화는 디지털 시대에 더욱 중요해지는 공정한 사회 운영의 초석을 다집니다.

‘AI 공정사회 기본법’ 제정 추진은 AI 기술이 가져올 수 있는 잠재적 불평등을 사전에 방지하고, 모든 시민이 공정한 기회를 누릴 수 있도록 법적, 제도적 장치를 마련하는 것입니다. 이러한 노력은 특히 사회적 약자들이 디지털 격차로 인해 소외되지 않도록 보호하며, 우리 모두가 안심하고 살아갈 수 있는 서울을 만드는 데 기여할 것입니다. 시민 권리 침해 자동 감지 시스템과 AI 권리 옴부즈만 제도는 시민들이 부당한 대우를 받거나 권리를 침해당했을 때 즉각적으로 대응할 수 있는 안전망을 구축합니다.

* AI 기반 불공정 감시 시스템: 중소기업 거래나 노동시장 불공정 관행을 AI로 분석하여 투명하고 공정한 경제 환경을 조성합니다.
* 시민 데이터 권리 보호: 개인 정보와 데이터 활용에 있어 시민의 권리를 최우선으로 보호하고, 알고리즘 투명성을 의무화하여 예측 불가능한 피해를 방지합니다.
* 디지털 시민권 헌법적 강화: AI 시대에 필요한 새로운 시민권 개념을 정립하고, 이를 헌법적 가치로 강화하여 모든 시민의 권리가 포괄적으로 보호받도록 합니다.

핵심: 오세훈 시장의 AI 공정국가 공약은 기술을 활용해 서울시민의 삶 전반의 불공정을 감시하고, 데이터 권리를 보호하여 디지털 시대의 공정성을 강화하는 필수적인 해법입니다.

시민 참여형 AI 민주주의는 정치와 행정의 투명성을 높이고, 시민들이 직접 정책 결정 과정에 참여할 수 있는 새로운 길을 제시합니다. 이는 '정치 = 시민 참여'라는 핵심 가치를 구현하며, 서울시민이 느끼는 정책 소외감과 무력감을 해소하고 진정한 주인 의식을 가질 수 있도록 돕는 중요한 변화입니다. AI 주민 참여 플랫폼 구축은 시민들의 일상적인 의견이 시정에 더 신속하고 정확하게 반영될 수 있도록 합니다.

기존의 정책 결정 과정은 복잡하고 시간이 오래 걸려, 시민들의 생생한 목소리가 반영되기 어려웠습니다. 그러나 오세훈 시장의 공약은 AI 정책 제안 시스템, 실시간 민원 분석 플랫폼, 시민 투표 기반 정책 반영 등의 기술적 해법을 통해 이러한 한계를 뛰어넘고자 합니다. 지역 갈등 데이터 분석이나 참여 예산 AI 시스템은 시민들의 다양한 이해관계를 조율하고, 예산 집행의 효율성과 투명성을 극대화하여 시민 신뢰를 높일 것입니다.

* 실시간 민원 분석 플랫폼: 시민들의 민원을 AI로 자동 분석하여 행정 처리 시간을 단축하고, 정책 개선에 필요한 데이터를 즉각적으로 제공합니다.
* AI 공청회 시스템: 물리적 제약 없이 더 많은 시민이 정책 토론에 참여하고 의견을 개진할 수 있는 온라인 공론의 장을 마련합니다.
* 공약 이행 공개 플랫폼: 시장의 공약 이행 현황을 투명하게 공개하고, 시민 피드백을 실시간으로 반영하여 책임 있는 시정을 구현합니다.

핵심: 오세훈 시장의 AI 주민 참여 플랫폼은 시민의 직접적인 참여를 가능하게 하여 정책 투명성과 민주적 의사결정을 강화하는 핵심적인 당위성을 가집니다.

교육과 기회 공정은 오세훈 시장의 100대 공약 중에서도 서울의 미래 세대에게 가장 직접적으로 영향을 미칠 중요한 약속입니다. AI 교육 기회 평등 정책은 단순히 교육 기회를 확대하는 것을 넘어, 취약 계층의 교육 접근성을 높이고 교육 격차를 해소하여 모든 아이들이 잠재력을 최대한 발휘할 수 있도록 지원하는 것을 목표로 합니다. 이는 교육 시스템의 본질적인 변화를 통해 더 나은 미래를 열어갈 필요성을 강조합니다.

AI 기반의 맞춤형 학습 시스템과 교육 격차 분석 시스템은 각 학생의 필요에 맞는 교육을 제공하고, 사각지대에 놓인 학생들을 적극적으로 발굴하여 지원합니다. 특히 AI 장학 시스템 구축과 청년 기회 확대 정책은 교육에서 시작된 불평등이 사회 전반의 기회 불균형으로 이어지지 않도록 사전에 방지하는 역할을 합니다. 이러한 정책들은 평생 교육 AI 플랫폼과 직업 교육 혁신을 통해 학교를 넘어선 지속적인 학습과 성장의 기회를 제공할 것입니다.

* 취약계층 교육 지원: AI 데이터를 활용하여 교육 소외 계층을 정밀하게 파악하고, 맞춤형 학습 콘텐츠와 멘토링 프로그램을 제공합니다.
* 공교육 데이터 기반 혁신: 학교 교육 데이터를 분석하여 교육 과정의 효과를 극대화하고, 교사들에게는 학생 지도에 필요한 통찰력을 제공합니다.
* 청년 기회 확대 정책: AI 기반 일자리 매칭 시스템과 직업 교육 프로그램 연계를 통해 청년들이 빠르게 사회에 안착하고 성장할 수 있도록 지원합니다.

핵심: AI 교육 기회 평등은 데이터 기반의 맞춤형 지원을 통해 교육 격차를 해소하고, 모든 서울 청소년과 청년에게 공정한 성장 기회를 보장하는 강력한 강점입니다.

도시와 생활 공정은 서울시민의 삶의 질과 직결되는 핵심적인 영역입니다. 서울 집값 언제쯤 안정될지, 우리 동네에 새로 생기는 시설은 없을지 등의 질문은 주거 안정과 생활 인프라에 대한 시민들의 갈증을 보여줍니다. 오세훈 시장의 'AI 기반 도시 공정' 공약은 이러한 고민에 대한 현실적인 해법을 제시하며, AI가 도시의 불평등을 해소하고 생활의 안정감을 높이는 데 기여할 수 있음을 보여줍니다.

특히 '전세 사기 AI 예방 시스템'은 최근 시민들을 불안하게 했던 주거 문제를 해결하는 데 중요한 역할을 할 것으로 기대됩니다. AI가 위험 매물을 사전에 감지하고 경고함으로써 선의의 피해자를 보호하는 것이죠. 또한 교통 서비스 공정 개선과 공공시설 접근성 강화는 서울시민 모두가 편리하고 안전하게 도시 생활을 누릴 수 있도록 돕습니다. AI를 활용한 지역 격차 분석은 특정 지역이 소외되지 않도록 자원 배분을 최적화하여 서울의 모든 시민이 고르게 혜택을 받을 수 있도록 합니다.

* 주거 공정성 데이터 분석: 주거 관련 데이터를 AI로 분석하여 투명한 시장 정보를 제공하고, 주거 불균형 해소를 위한 정책 기반을 마련합니다.
* 전세 사기 AI 예방: 전세 사기 위험 매물을 AI가 사전에 탐지하여 피해를 예방하고, 안심하고 거주할 수 있는 환경을 조성합니다.
* 공공 자원 배분 최적화: AI가 도시 데이터를 분석하여 공공시설 및 서비스 접근성이 낮은 지역에 자원을 우선 배분, 지역 간 불평등을 해소합니다.

핵심: 오세훈 시장의 AI 기반 도시 공정 공약은 전세 사기와 같은 주거 문제부터 교통, 시설 접근성까지, AI로 생활 안정감을 높이는 실질적인 강점을 제공합니다.

AI 행정·정치 혁신은 오세훈 서울시장 후보가 제시하는 100대 공약의 정점이라 할 수 있습니다. 이는 AI 기반 공정 사회 운영 플랫폼이라는 궁극적인 비전을 실현하기 위한 필수적인 단계로, 정치와 행정의 효율성, 투명성, 그리고 시민과의 소통 방식을 혁신하는 당위성을 가집니다. 민원 자동 처리와 정책 투명성 강화는 행정 서비스의 질을 높이고 시민 만족도를 향상시킬 것입니다.

AI 입법 지원 시스템과 데이터 기반 정책 결정은 보다 과학적이고 합리적인 정책 수립을 가능하게 합니다. 이는 감성이나 특정 집단의 이해관계에 치우치지 않고, 객관적인 데이터에 기반한 정책을 펼칠 수 있는 강력한 토대가 됩니다. 또한, 공공데이터 개방과 시민 피드백 시스템은 시정 운영의 투명성을 극대화하고, 시민들이 시정 변화를 직접 체감하며 신뢰를 쌓을 수 있도록 돕습니다. 이는 서울시가 더욱 발전하고 시민 중심의 행정을 펼치기 위한 필수적인 혁신입니다.

* AI 입법 지원 시스템: AI가 법규, 사례, 시민 의견을 분석하여 효율적이고 공정한 입법 과정을 지원합니다.
* 정책 투명성 강화: AI 기반 정책 성과 분석 및 공개 플랫폼을 통해 모든 정책 결정 과정과 결과가 투명하게 시민들에게 공개됩니다.
* 디지털 정부 구현: 행정 업무의 디지털 전환을 가속화하고, AI 기반 스마트 행정을 통해 시민 편의를 최우선으로 합니다.

핵심: 오세훈 시장의 AI 공정 정치 플랫폼은 과학적이고 투명한 행정 혁신을 통해 시민 신뢰를 구축하고, 미래 서울의 지속 가능한 발전을 위한 필수적인 동력입니다.

AI 기반 공정 사회 구현을 위한 3단계 프로세스

오세훈 서울시장 후보의 'AI 공정 정치 플랫폼'은 다음과 같은 3단계 프로세스를 통해 서울시민의 삶에 공정함과 안정감을 가져옵니다.

AI 인프라 구축 및 법제화: 'AI 공정사회 기본법' 제정 추진 및 필수적인 AI 기반 시스템(감시, 분석, 지원 등)을 서울시 행정 전반에 걸쳐 구축합니다. 이는 공정 사회의 토대를 마련하는 단계입니다.

시민 참여 및 서비스 혁신: 'AI 주민 참여 플랫폼'을 통해 시민의 목소리를 실시간으로 반영하고, '맞춤형 복지 시스템', '전세 사기 AI 예방' 등 AI 기반 생활 밀착형 서비스를 제공하여 시민 만족도를 높입니다.

지속적인 데이터 기반 정책 개선: '공약 이행 공개 플랫폼'과 '정책 성과 분석'을 통해 AI가 수집한 데이터를 기반으로 정책의 효과를 검증하고, 시민 피드백을 반영하여 끊임없이 정책을 개선하고 발전시켜 나갑니다.

오세훈 시장 공약, 'AI 기반 공정'으로 변화하는 서울의 모습

오세훈 서울시장 후보의 100대 공약은 AI를 통해 서울시민의 삶을 변화시킬 구체적인 사례들을 포함하고 있습니다. 예를 들어, '전세 사기 AI 예방' 공약은 AI가 과거의 전세 사기 패턴과 현재의 부동산 데이터를 분석하여 위험 매물을 사전에 감지하고 시민들에게 경고를 보냄으로써, 수많은 피해를 미연에 방지할 수 있을 것입니다. 또한 '복지 사각지대 AI 발굴' 시스템은 기존 복지 시스템에서 놓쳤던 소외 계층을
발굴하여 맞춤형 지원을 제공함으로써, 누구도 소외되지 않는 안전망을 구축할 것입니다. 'AI 기반 교통 공정' 공약은 대중교통 데이터를 분석하여 교통 서비스 격차가 큰 지역을 파악하고 우선적으로 개선함으로써, 모든 시민이 동등한 이동 권리를 누릴 수 있도록 합니다.

그러나 이러한 공약들이 현실에서 제대로 작동하려면 몇 가지 핵심적인 한계와 위험 요소들을 솔직하게 마주해야 합니다.

오세훈 시장의 AI 기반 공약이 제시하는 가장 큰 실질적 문제는 대규모 데이터 수집 과정에서 필연적으로 발생하는 프라이버시 침해 위험입니다. 전세 사기 예방을 위해 부동산 거래 데이터를, 복지 사각지대 발굴을 위해 개인 재정 정보를, 교육 격차 해소를 위해 학생 성적과 가정 배경 데이터를 수집해야 한다면, 이는 필연적으로 시민들의 민감한 개인정보 노출과 맞닿아 있습니다.

현실의 딜레마: 공정함을 추구하기 위해 더 많은 데이터가 필요하지만, 데이터를 수집하는 과정 자체가 또 다른 불공정(정보 접근성 불균형, 감시 체계화)을 만든다는 점입니다. 예를 들어 '맞춤형 복지 시스템'이 개인의 금융 정보, 건강 정보, 주거 정보를 분석할수록 누가, 언제, 어떻게 이 정보에 접근하는지에 대한 감시와 통제 메커니즘이 강화됩니다. 만약 이 데이터가 정치적으로 악용된다면(특정 정당이나 개인 공격), 또는 해킹·유출된다면, 피해는 오히려 취약계층에 더 크게 닥칠 수 있습니다.

선의의 공약에도 불구하고, 데이터 거버넌스가 충분히 마련되지 않으면 공정 추구는 역설적으로 더 큰 감시 체계를 만들 수 있다는 점을 간과해서는 안 됩니다.

AI는 중립적이지 않습니다. AI 모델을 학습시킨 데이터 자체가 과거의 불평등과 편향을 담고 있다면, AI 시스템은 그것을 재생산하거나 심화시킬 수 있습니다.

구체적인 실패 사례:

•교육 공정성 AI의 함정: 과거 교육 격차 데이터로 학습한 AI는 "저소득층 학생은 낮은 성과를 낼 것"이라는 패턴을 인식하고, 이를 근거로 맞춤형 지원을 설계할 때 이미 낮은 기대치를 반영할 수 있습니다. 결과적으로 이는 저소득층 학생에게 더 낮은 수준의 교육 자원을 배분하는 악순환을 만듭니다.

•전세 사기 AI 예방의 오류: AI가 특정 지역, 특정 건물 유형, 특정 연령대의 거래자를 고위험군으로 판단한다면, 실제로는 안전한 거래도 부당하게 경고를 받거나, 반대로 실제 위험 신호를 놓칠 수 있습니다.

•복지 사각지대 발굴의 역차별: AI가 특정 기준(예: 신용점수, 주거 형태, 가족 구성)으로 '도움이 필요한 사람'을 정의할 때, 이 기준 자체가 이미 누군가를 배제할 수 있습니다.

문제의 본질: AI 공정 시스템이 과거 데이터에 의존하는 한, 과거의 불공정은 '과학적 판단'의 이름으로 미래에도 재현될 가능성이 높습니다. 이를 막으려면 데이터 수집 → 알고리즘 설계 → 결과 검증 → 편향 교정의 모든 단계에서 지속적인 인적 개입과 투명성 확보가 필수적인데, 이는 "AI 자동화"라는 공약의 효율성 추구와 본질적으로 충돌합니다.

오세훈 시장의 AI 기반 공약이 모든 서울시민에게 동등한 혜택을 주기 위해서는, 시민들이 이 시스템을 이해하고 활용할 수 있어야 합니다. 그런데 현실은 어떨까요?

AI 플랫폼 접근성의 불평등:

•고령층, 저학력 시민들은 '맞춤형 복지 시스템' 플랫폼에 접속하고 자신의 데이터를 입력하는 과정 자체가 장벽입니다.

•디지털 기기나 인터넷 접근성이 낮은 지역 시민들은 '공약 이행 공개 플랫폼'의 정책 정보에 더 늦게 접근합니다.

•'AI 주민 참여 플랫폼'은 의도상 민주적이지만, 실제로는 디지털 리터러시가 높은 시민의 목소리가 더 자주, 더 효과적으로 반영될 가능성이 높습니다.

결과적으로, AI를 통해 불평등을 해소하려는 공약 자체가 기술 격차를 통해 새로운 불평등을 만들 수 있다는 역설적 상황이 발생합니다. 이미 디지털 역량이 높은 집단은 AI 시스템으로부터 더 많은 정보와 혜택을 얻는 반면, 그렇지 않은 집단은 기술 장벽에 막혀 더욱 소외될 위험이 있습니다.

'AI 공정 정치 플랫폼'은 기술적으로 매력적이지만, 실제 서울시 행정 현장에서 구현되려면 엄청난 비용과 조직 역량이 필요합니다.

현실적 함정들:

•초기 투자 비용의 과다: 시청 전역에 AI 시스템을 구축하고, 자치구별로 운영하며, 데이터 보안과 개인정보 보호를 위한 인프라를 갖추는 데는 수조 원 규모의 예산이 필요합니다. 공약에서는 "AI 기반"이라고 간단히 표현하지만, 실제로는 전문 인력 채용, 시스템 유지보수, 정기적인 업그레이드 등 지속적인 비용이 발생합니다.

•공무원 저항과 조직 관성: 기존 공무원들은 AI 시스템 도입으로 인한 업무 재편성, 역량 강화 교육, 심지어 직무 축소를 경험하게 됩니다. 이 과정에서 조직 내 저항, 느린 적응, 또는 시스템을 형식적으로만 운영하는 상황이 발생할 수 있습니다.

•데이터 품질의 불균형: AI 시스템의 효과는 입력 데이터의 품질에 100% 의존합니다. 그런데 서울시의 각 부서, 각 자치구의 데이터 관리 수준이 균일하지 않다면, AI 시스템은 일관되지 않은 결과를 낼 수밖에 없습니다. 결국 특정 지역의 데이터만 편향되게 정확하고, 다른 지역은 부정확한 분석만 반복될 가능성이 있습니다.

AI 기반 공약이 가장 취약한 부분은 바로 신뢰의 문제입니다. "AI가 객관적이고 공정하다"는 가정 자체가 얼마나 믿을 수 있을까요?

현실적 의문점:

•'AI 입법 지원 시스템'이나 '정책 투명성 강화' 시스템을 누가, 어떤 기준으로 설계합니까? 그 과정에서 정치적 편향이 정말 배제될 수 있습니까?

•'공약 이행 공개 플랫폼'이 정책의 부정적 결과도 동등하게 노출합니까, 아니면 긍정적 사례만 강조합니까?

•AI 시스템의 결정 과정이 정말 시민에게 명확하게 설명되고, 의의 제기가 가능합니까?

신뢰의 역설: AI는 "감정적 편향이 없다"고 홍보되지만, 결국 인간이 설계하고, 인간이 운영하고, 인간의 목표를 반영하는 도구입니다. 따라서 "AI 기반 공정"이라는 표현 자체가 마치 인간의 개입을 최소화한 객관적 판단이 가능하다는 환상을 줄 수 있습니다. 이는 오히려 시민들의 비판적 감시를 약화시킬 수 있습니다.

오세훈 시장의 'AI 기반 공정 사회' 공약은 분명히 한국의 정치 공약 중에서도 기술 활용 측면에서 야심차고 창의적입니다. 그러나 기술이 공정함을 자동으로 만들지는 않는다는 점을 명확히 해야 합니다.

AI 시스템이 다음을 모두 충족할 때만 실질적인 공정 효과를 거둘 수 있습니다:

•데이터 수집과 활용 과정이 충분히 투명하고, 시민의 동의와 감시 아래 있을 것

•알고리즘의 편향을 지속적으로 모니터링하고 교정할 인적·제도적 장치가 갖춰질 것

•기술 격차로 인한 새로운 불평등이 발생하지 않도록 접근성 강화에 동등한 자원이 투입될 것

•시스템의 실패나 오류에 대해 책임 있는 누군가가 명확하게 책임질 것

이 모든 조건을 갖추지 못한 상태에서 'AI 공정'을 추진한다면, 그것은 공정함이 아니라 기술적 권력 집중이 될 수 있습니다.

공정함을 추구하는 것은 훌륭한 목표지만, 그것을 AI로 자동화하고 규모화하려는 시도에는 항상 겸손함과 제약이 함께해야 합니다. 공약의 가능성을 인정하면서도, 동시에 그 한계를 직시하는 것—이것이 AI 시대의 현명한 공공 정책 평가의 출발점입니다.

---

Q1: 'AI 복지 사각지대 발굴' 시스템이 특정 계층을 자동으로 배제할 수 있다면, 그걸 어떻게 확인하고 수정할 수 있나요?

현재 공약에는 이에 대한 구체적인 검증 메커니즘이 제시되지 않았습니다. AI 시스템의 편향을 발견하려면 ① 정기적인 감시 기구의 설립 ② 알고리즘 공개와 외부 감수 ③ 피해자 구제 절차의 명확화가 필수적인데, 이 모든 것이 선결되어야 비로소 "공정하다"고 말할 수 있습니다. 단순히 "AI를 활용한다"는 것만으로는 불충분합니다.

Q2: 서울시 공무원들이 AI 시스템 도입에 저항한다면, 공약 실행이 지연되거나 형식화되지 않을까요?

이는 매우 현실적인 우려입니다. 기술 도입의 성공은 기술 자체만큼이나 조직 문화와 직원 동의에 달려 있습니다. 공약에서는 기술 구현만 강조하고 있지만, 실제로는 ① 공무원 교육과 역량 강화 ② 인센티브 체계 개편 ③ 업무 재설계 등 조직 차원의 변화가 더 중요합니다. 이 부분이 생략되면 AI 시스템은 "있지만 쓰이지 않는" 형식적 자산이 될 수 있습니다.

Q3: 고령층이나 저학력 시민들이 'AI 주민 참여 플랫폼'을 실제로 사용할 수 있을까요?

매우 회의적입니다. 대면 민원실, 전화 상담, 종이 양식 등 비디지털 채널을 동시에 강화하지 않으면, 결국 이 플랫폼은 '이미 디지털에 익숙한 시민의 의견 수렴 도구'에 그칠 가능성이 높습니다. 서울시가 진정한 공정성을 추구한다면, AI 기반 플랫폼 구축에 쓸 자원의 절반 이상을 '비디지털 접근성' 강화에 투입해야 합니다.

---

| 공약 영역 | 제시된 기대 효과 | 현실적 위험 요소 | 성공의 필수 조건 |
|---|---|---|---|
| 교육 격차 해소 | 취약계층 학생의 맞춤형 지원, 교육 기회 평등 | 과거 데이터의 편향 재생산, 낮은 기대치 고착화 | 알고리즘 편향 검사, 교사의 개입적 교육, 정기적 성과 재평가 |
| 전세 사기 예방 | 위험 매물 사전 감지, 시민 피해 방지 | 오경보로 인한 정상 거래 왜곡, 특정 지역/집단 차별 | 투명한 판정 기준 공개, 이의 제기 절차, 인적 검증 단계 |
| 복지 사각지대 발굴 | 소외 계층 자동 발굴, 신속한 지원 | 개인정보 대량 수집, 감시 체계화, 특정 기준에 의한 배제 | 엄격한 개인정보 보호, 시민 동의 절차, 독립적 감시 기구 |
| 공약 이행 공개 플랫폼 | 투명한 정책 공개, 시민 신뢰 구축 | 정치적 선택적 공개, 부정적 결과 은폐, 디지털 리터러시 격차 | 완전한 정보 공개, 제3자 감시, 비디지털 채널 동시 운영 |

---

#AI공정성 #알고리즘편향 #프라이버시 #기술격차 #공정사회 #서울시장공약 #디지털민주주의 #기술거버넌스 #한계인식 #공정함의역설

공약에서 가장 주목할 만한 공백은 바로 데이터 소스와 알고리즘 공개에 대한 언급의 부재입니다. "AI 기반 교육 격차 해소"라고 하지만, 그 AI가 어떤 데이터로 학습했고, 어떤 기준으로 학생을 분류하는지는 철저히 블랙박스로 남겨집니다.

실제 사례를 보면 더 명확합니다. 미국의 교육 시스템에서 학생 성적 예측 AI가 저소득층 학생들을 체계적으로 낮게 평가했던 일, 또는 신용평가 AI가 특정 지역 거주자를 자동으로 신용불량으로 분류했던 일들은 모두 '투명하지 않은 데이터'와 '공개되지 않은 알고리즘'에서 비롯되었습니다.

서울시의 공약도 마찬가지입니다. 공약 문서 어디에도 "알고리즘을 공개할 것인가", "정기적 감시 기구를 설치할 것인가", "시민이 AI의 판단에 이의를 제기할 수 있는 절차가 있는가"에 대한 답이 없습니다. 이것이 가장 큰 문제입니다.

'AI 주민 참여 플랫폼'은 겉으로는 "모든 시민의 목소리를 수렴한다"고 했지만, 현실은 정반대입니다. 스마트폰을 능숙하게 다루는 20~50대 서울 거주자, 그리고 한국어 문해력이 충분한 시민들의 의견만 수렴되고, 나머지는 자동으로 배제됩니다.

특히 다음과 같은 집단의 목소리는 이 플랫폼에서 구조적으로 소외됩니다:

•고령층: 스마트폰 사용에 어려움을 겪는 70대 이상 노인들

•이주민: 한국어 능력이 제한적인 외국인 주민들

•저학력층: 디지털 문해력이 낮은 취약계층

•통신 접근성 취약자: 월급의 대부분을 생존비에 쓰느라 인터넷 요금을 낼 여유가 없는 극빈층

서울시가 진정으로 "공정"을 추구한다면, AI 플랫폼 구축 예산의 상당 부분을 오프라인 채널 강화에 써야 합니다. 하지만 공약에는 이에 대한 언급이 전혀 없습니다. 결국 이것도 기술이 해결하는 것처럼 보이지만, 실제로는 기존의 불평등을 기술로 정당화하는 것일 수 있습니다.

AI 시스템이 실패했을 때 누가 책임을 질 것인가? 이것도 공약에 명시되지 않았습니다.

예를 들어 "전세 사기 예방 AI"가 정상적인 거래를 위험한 것으로 오분류했다면?

•AI 개발사가 책임질까요? 아니면 서울시청이 책임질까요?

•피해를 본 시민은 어디에 이의를 제기할까요?

•손배배는 누가 할까요?

또는 "복지 사각지대 발굴 AI"가 실제로 도움이 필요한 사람을 놓쳤다면?

•이것을 발견하는 데 얼마나 오래 걸릴까요?

•그 사이 얼마나 많은 사람들이 방치될까요?

•시스템의 오류로 인한 불이익에 대해 누가 배상할까요?

이런 질문들이 모두 공약에서 빠져 있습니다. 기술 도입 자체에만 집중하고, 기술이 초래할 수 있는 피해에 대한 대비는 전혀 없는 상태입니다. 이는 매우 위험합니다.

마지막으로 가장 본질적인 우려는 이것입니다: AI 공정 시스템의 도입 자체가 새로운 형태의 권력 집중을 만들 수 있다는 점입니다.

현재 서울시청은 기술 전문가(AI 개발사, 데이터 과학자)의 의존도가 높아질 수밖에 없습니다. 이들이 "이 데이터로는 이런 결과가 나올 수밖에 없다"고 주장하면, 일반 시민은 물론이고 일반 공무원도 그것을 검증하기 어렵습니다. 결국 기술 전문가 집단만이 의사결정의 중심에 서게 되고, 공정성을 명목으로 한 기술 권력의 민주화되지 않은 확대가 일어날 수 있습니다.

더 큰 문제는, 이런 권력 집중이 "AI는 객관적이다"는 환상 속에서 이루어진다는 점입니다. 인간의 판단이라면 비판받겠지만, AI의 결정은 "알고리즘의 필연적 결과"라고 하면서 비판을 회피할 수 있게 됩니다.

오세훈 서울시장의 'AI 기반 공정 사회' 공약을 평가하는 결론은 이것입니다:

기술 자체는 공정하지도, 불공정하지도 않습니다. 그것을 어떻게 설계하고, 누가 운영하고, 누가 감시하는지에 따라 공정해질 수도 있고, 새로운 차별이 될 수도 있습니다.

공약이 정말로 '공정함'을 추구한다면, 필요한 것은 다음과 같습니다:

투명성의 확보: 알고리즘, 데이터, 의사결정 기준을 모두 공개하고, 제3자 감시를 제도화할 것

접근성의 강화: AI 플랫폼과 동등한 수준의 오프라인 채널을 병행 운영할 것

책임성의 명확화: 시스템의 오류나 편향으로 인한 피해에 대해 명확하게 책임질 수 있는 체계를 구축할 것

정기적 평가: 도입 후 정기적으로 "이 AI가 정말 불공정을 줄였는가"를 평가하고, 문제가 있으면 즉시 수정할 것

이 모든 것이 갖춰지지 않은 상태에서는, 공약은 "좋은 의도"에 불과하며, 실제 결과는 기술로 포장된 새로운 불공정이 될 가능성이 높습니다.

공정함을 원한다면, 기술을 믿기 전에 시민의 감시, 민주적 절차, 그리고 충분한 시간을 투자해야 합니다. 그것이 AI 시대의 진정한 공정성입니다.

---

#알고리즘투명성 #AI책임성 #기술격차심화 #권력집중 #디지털불평등 #공약한계 #공정성역설 #민주적감시 #기술거버넌스 #공약실현의조건