Tech AI News - 테카이

예측 치안과 사회신용, 민주주의도 다르지 않다 — 감시 기술의 수렴

· 5분 읽기

Read this post in English →

예측 치안과 사회신용시스템은 권위주의 국가만의 것이 아닙니다. 명분과 법적 절차는 다르지만, 과거 데이터로 "위험한" 사람과 장소를 가려내는 기법 수준에서는 민주주의 국가의 알고리즘 치안도 크게 다르지 않습니다.


배경 / 왜 지금 이 주제인가

중국의 사회신용시스템이나 신장 지역의 감시체계는 권위주의 감시의 대표 사례로 자주 소환됩니다. 반면 영국 런던 경찰의 '갱스매트릭스(Gangs Matrix)', 미국 여러 도시의 예측치안 소프트웨어처럼 민주주의 국가에서 쓰이는 비슷한 기법은 상대적으로 덜 다뤄집니다.

스탠퍼드대 사이버정책센터(FSI)의 글로벌 디지털정책 연구(GDPI)가 2024년 전문가 워크숍을 정리한 보고서는 이 지점을 명시적으로 짚습니다. 많은 민주주의 국가의 법 집행 기관도 위험을 예측하고 자원을 배치하기 위해 예측치안 도구를 점점 더 많이 쓰고 있으며, 이는 불투명성과 차별적 영향에 대한 우려를 낳고 있다는 것입니다 (Stanford FSI).

이 글은 기존에 각각 다룬 개별 사례를 가로지르는 질문에 답합니다. 감시 기술을 가르는 선은 정치체제인가, 아니면 다른 무엇인가.

핵심 데이터 & 현황

  • 영국 메트로폴리탄 경찰 갱스매트릭스: 2018년 기준 3,806명이 등록돼 있었고, 이 중 80%가 12~24세였습니다. 등록자의 87%가 아시아계 등 소수민족 배경이었고 78%가 흑인이었다는 분석도 나왔습니다 (The Conversation, 2018년). 영국 정보커미셔너실(ICO)은 이 시스템의 '기능 변질(function creep)'과 투명성 부족, 부정확성을 이유로 집행 통지를 내렸습니다 (Computer Weekly, 2018년).
  • 미국 오클랜드 PredPol 알고리즘: 인권데이터분석그룹(HRDAG)의 크리스천 럼과 윌리엄 아이작이 발표한 분석에 따르면, 겉보기에 인종 중립적인 PredPol 알고리즘을 과거 마약범죄 데이터로 학습시키자 흑인 거주 지역이 백인 거주 지역보다 약 2배 높은 빈도로 순찰 대상에 올랐습니다. 공중보건 통계상 오클랜드의 마약 사용률은 인종·소득 집단 간 큰 차이가 없었는데도 그랬습니다 (Undark, 2017년).

    해석: 두 사례 모두 "범죄"가 아니라 "범죄 기록"을 학습한 결과입니다. 특정 지역에 순찰을 더 보내면 그 지역의 적발 건수가 늘고, 늘어난 적발 건수가 다시 다음 순찰 배치의 근거가 되는 피드백 루프가 작동합니다.

  • 중국 사회신용시스템의 실제 모습: 하나로 통합된 전국 단위 점수 체계는 존재하지 않습니다. 지역별 시범사업, 정부 블랙리스트, 기업 준법 데이터베이스, 민간 신용평가(알리바바 계열의 즈마신용 등)가 뒤섞인 파편화된 구조입니다 (Legal Clarity). 그중 가장 구체적인 제재는 블랙리스트입니다. 중국 전국신용정보공시시스템 자료를 인용한 보도에 따르면 2018년 한 해 동안 신용 불량자로 분류된 수백만 명의 항공권·열차승차권 구매가 제한됐습니다 (AFR).

심층 분석

1) 기법 수준에서는 왜 닮는가 — 알고리즘의 작동 원리

PredPol 식 지역 기반 예측치안과 중국의 예측치안 시스템은 수학적으로 같은 뼈대를 공유합니다. 과거 데이터를 입력해 특정 지역·인물의 위험도를 점수화하고, 그 점수를 근거로 순찰·단속·제재 자원을 배분하는 구조입니다. 입력 데이터가 체포 기록이든 신용거래 기록이든, "국가가 이미 주목한 곳에서 더 많이 찾아낸다"는 피드백 루프는 동일하게 작동합니다.

분석: 이 루프는 기술적 결함이 아니라 설계상 불가피한 특성에 가깝습니다. 더 많이 감시한 곳에서 더 많은 이상 신호가 나오고, 그 신호가 다시 감시를 정당화합니다. 레짐과 무관하게 같은 수학이 같은 결과를 만듭니다.

2) 명분과 절차는 다르다 — 그런데 왜 결과는 비슷한가

민주주의 국가는 법적 절차와 사법심사, 시민사회의 감시를 명분으로 삼습니다. 그러나 갱스매트릭스 사례처럼 알고리즘의 기준 자체가 불투명하면 그 명분은 사후적으로만 작동합니다. 영국에서는 뮤지션 어와테 술레이만 등이 리버티(Liberty)와 함께 메트로폴리탄 경찰을 상대로 소송을 제기했고, ICO도 집행 통지를 내렸습니다 — 모두 시스템이 이미 수년간 운영된 뒤에 나온 사후 대응입니다.

권위주의 국가는 이런 절차 자체를 전제하지 않습니다. 유럽의회가 2024년 정리한 보고서는 신장 지역을 인공지능 기반 감시·예측치안·구금이 결합된 대표 사례로 꼽습니다 (유럽의회). 절차의 존재 여부는 사후 교정 가능성을 가르지만, 알고리즘이 작동하는 동안 누가 걸러지는지는 두 체제에서 놀랍도록 비슷한 패턴(소수자·저소득층 집중)을 보입니다.

3) 기술 수출과 공급망 — 정치체제를 넘어서는 수렴

스탠퍼드 FSI 워크숍 보고서는 중국산 저가 감시 기술이 베네수엘라의 "홈랜드(homeland)" 시스템처럼 다른 권위주의 정권에 수출돼 디지털 억압을 뒷받침하고 있다고 지적합니다. 그런데 민주주의 국가의 법 집행기관 역시 안면인식·행동분석 기술을 민간 기업으로부터 조달하는 경우가 많습니다. 기법의 수렴은 정치 이념이 아니라 국경을 넘는 상업적 기술 공급망을 따라 일어납니다 — 누가 기술을 파는지가 아니라 누가 그 기술을 어떤 견제 장치 없이 쓰는지가 관건입니다.

국내 시사점

서울시는 2023년, 2026년까지 서울 전역의 CCTV를 '지능형 CCTV'로 교체하겠다는 계획을 발표했습니다. 배회·쓰러짐·폭행 등의 움직임을 감지해 위험 상황 발생 시 관제센터로 영상을 자동 전송하는 방식입니다 (서울시 미디어허브, 2023년). 아직 영국 갱스매트릭스나 미국 PredPol 수준의 '위험인물 예측' 단계는 아니지만, 과거 데이터로 이상 신호를 학습시키는 방향성은 같은 궤적 위에 있습니다.

국내에서 비슷한 논쟁이 본격화되기 전에, 알고리즘의 판단 기준을 외부에서 검증할 수 있는 감사 체계와 오탐지·편향 발생 시 이의제기 경로를 먼저 설계해 두는 쪽이 나중에 소송과 신뢰 회복에 들어가는 비용보다 저렴합니다.

전망 & 주목할 변수

  • 긍정 변수: 영국 리버티의 갱스매트릭스 소송, ICO 집행 통지처럼 사법·규제기관이 사후 개입하는 선례가 쌓이고 있습니다. EU AI Act 는 치안 목적의 고위험 AI 시스템에 영향평가와 투명성 의무를 지웁니다.
  • 리스크 변수: 안면인식·행동분석 기술의 상업적 공급망은 정치체제와 무관하게 거래됩니다. '안전'이라는 명분이 절차적 견제를 압도하는 국면에서는 민주주의 국가에서도 투명성이 뒤로 밀릴 수 있습니다.
  • 체크포인트: 예측치안·지능형 CCTV를 도입할 때 외부 감사와 효과성 검증이 의무화돼 있는지, 알고리즘 영향평가 결과가 공개되는지를 살펴봐야 합니다.

결론

  • 감시 기술을 가르는 선은 정치체제가 아니라 투명성과 책임성의 유무입니다.
  • 기법 수준에서는 민주주의와 권위주의가 수렴하고 있지만, 사후에 견제할 수 있는 사법·시민사회 경로가 있는지는 여전히 체제에 따라 다릅니다.
  • 국내 지능형 CCTV·예측치안 논의는 아직 초기 단계인 만큼, 기술 도입보다 감사·투명성 체계 설계를 먼저 고민하는 쪽이 비용이 적게 듭니다.

참고 링크

  • #AI
  • #감시기술
  • #예측치안
  • #사회신용시스템
  • #알고리즘 통치
  • #프라이버시
  • #데이터 거버넌스
AI 산업 분석

감시사회 2026 — 유토피아와 디스토피아, 우리는 어느 쪽에 더 가까운가

AI와 안면인식이 만드는 미래는 두 갈래로 나뉩니다. 한쪽에는 프라이버시를 보호하면서도 사회적 편익을 극대화하는 유토피아가, 다른 한쪽에는 일상이 통째로 데이터로 환원되는 디스토피아가 있습니다. 2026년 현재, 기술·규제·국가 모델 세 축을 균형 있게 살펴 보면, 결론은 명확합니다. 어느 쪽도 필연이 아니며 모든 것은 거버넌스 설계에 달려 있습니다.

· 12분