---
title: "예측 치안과 사회신용, 민주주의도 다르지 않다 — 감시 기술의 수렴"
url: https://blog.tyrano.dev/%EC%98%88%EC%B8%A1-%EC%B9%98%EC%95%88%EA%B3%BC-%EC%82%AC%ED%9A%8C%EC%8B%A0%EC%9A%A9-%EB%AF%BC%EC%A3%BC%EC%A3%BC%EC%9D%98%EB%8F%84-%EB%8B%A4%EB%A5%B4%EC%A7%80-%EC%95%8A%EB%8B%A4-%EA%B0%90%EC%8B%9C-%EA%B8%B0%EC%88%A0%EC%9D%98-%EC%88%98%EB%A0%B4
lang: ko
site: Tech AI News - 테카이
category: "AI 산업 분석"
tags: ["AI","감시기술","예측치안","사회신용시스템","알고리즘 통치","프라이버시","데이터 거버넌스"]
published: 2026-10-26T07:11:27.204Z
updated: 2026-10-26T07:11:27.204Z
sources:
  - https://cyber.fsi.stanford.edu/gdpi/publication/getting-ahead-digital-repression-authoritarian-innovation-and-democratic-response
  - https://theconversation.com/police-are-using-big-data-to-profile-young-people-putting-them-at-risk-of-discrimination-96683
  - https://www.computerweekly.com/news/252512752/Met-police-faces-legal-action-over-Gangs-Matrix
  - https://undark.org/article/big-data-policing-is-inherently-biased-heres-why/
  - https://legalclarity.org/what-is-positive-social-credit-and-how-does-it-work/
  - https://www.afr.com.au/world/asia/in-china-a-poor-social-score-affects-where-you-can-sleep-dine-or-live-20240222-p5f6y9
  - https://www.europarl.europa.eu/RegData/etudes/IDAN/2024/754450/EXPO_IDA%282024%29754450_EN.pdf
  - https://mediahub.seoul.go.kr/archives/2009908
---

# 예측 치안과 사회신용, 민주주의도 다르지 않다 — 감시 기술의 수렴

> 예측 치안과 사회신용시스템은 권위주의 국가만의 것이 아닙니다. 명분과 법적 절차는 다르지만, 과거 데이터로 "위험한" 사람과 장소를 가려내는 기법 수준에서는 민주주의 국가의 알고리즘 치안도 크게 다르지 않습니다.

---

## 배경 / 왜 지금 이 주제인가

중국의 사회신용시스템이나 신장 지역의 감시체계는 권위주의 감시의 대표 사례로 자주 소환됩니다. 반면 영국 런던 경찰의 '갱스매트릭스(Gangs Matrix)', 미국 여러 도시의 예측치안 소프트웨어처럼 민주주의 국가에서 쓰이는 비슷한 기법은 상대적으로 덜 다뤄집니다.

스탠퍼드대 사이버정책센터(FSI)의 글로벌 디지털정책 연구(GDPI)가 2024년 전문가 워크숍을 정리한 보고서는 이 지점을 명시적으로 짚습니다. 많은 민주주의 국가의 법 집행 기관도 위험을 예측하고 자원을 배치하기 위해 예측치안 도구를 점점 더 많이 쓰고 있으며, 이는 불투명성과 차별적 영향에 대한 우려를 낳고 있다는 것입니다 ([Stanford FSI](https://cyber.fsi.stanford.edu/gdpi/publication/getting-ahead-digital-repression-authoritarian-innovation-and-democratic-response)).

이 글은 기존에 각각 다룬 개별 사례를 가로지르는 질문에 답합니다. 감시 기술을 가르는 선은 정치체제인가, 아니면 다른 무엇인가.

## 핵심 데이터 & 현황

- **영국 메트로폴리탄 경찰 갱스매트릭스:** 2018년 기준 3,806명이 등록돼 있었고, 이 중 80%가 12~24세였습니다. 등록자의 87%가 아시아계 등 소수민족 배경이었고 78%가 흑인이었다는 분석도 나왔습니다 ([The Conversation](https://theconversation.com/police-are-using-big-data-to-profile-young-people-putting-them-at-risk-of-discrimination-96683), 2018년). 영국 정보커미셔너실(ICO)은 이 시스템의 '기능 변질(function creep)'과 투명성 부족, 부정확성을 이유로 집행 통지를 내렸습니다 ([Computer Weekly](https://www.computerweekly.com/news/252512752/Met-police-faces-legal-action-over-Gangs-Matrix), 2018년).
- **미국 오클랜드 PredPol 알고리즘:** 인권데이터분석그룹(HRDAG)의 크리스천 럼과 윌리엄 아이작이 발표한 분석에 따르면, 겉보기에 인종 중립적인 PredPol 알고리즘을 과거 마약범죄 데이터로 학습시키자 흑인 거주 지역이 백인 거주 지역보다 약 2배 높은 빈도로 순찰 대상에 올랐습니다. 공중보건 통계상 오클랜드의 마약 사용률은 인종·소득 집단 간 큰 차이가 없었는데도 그랬습니다 ([Undark](https://undark.org/article/big-data-policing-is-inherently-biased-heres-why/), 2017년).
  > 해석: 두 사례 모두 "범죄"가 아니라 "범죄 기록"을 학습한 결과입니다. 특정 지역에 순찰을 더 보내면 그 지역의 적발 건수가 늘고, 늘어난 적발 건수가 다시 다음 순찰 배치의 근거가 되는 피드백 루프가 작동합니다.
- **중국 사회신용시스템의 실제 모습:** 하나로 통합된 전국 단위 점수 체계는 존재하지 않습니다. 지역별 시범사업, 정부 블랙리스트, 기업 준법 데이터베이스, 민간 신용평가(알리바바 계열의 즈마신용 등)가 뒤섞인 파편화된 구조입니다 ([Legal Clarity](https://legalclarity.org/what-is-positive-social-credit-and-how-does-it-work/)). 그중 가장 구체적인 제재는 블랙리스트입니다. 중국 전국신용정보공시시스템 자료를 인용한 보도에 따르면 2018년 한 해 동안 신용 불량자로 분류된 수백만 명의 항공권·열차승차권 구매가 제한됐습니다 ([AFR](https://www.afr.com.au/world/asia/in-china-a-poor-social-score-affects-where-you-can-sleep-dine-or-live-20240222-p5f6y9)).

## 심층 분석

### 1) 기법 수준에서는 왜 닮는가 — 알고리즘의 작동 원리
PredPol 식 지역 기반 예측치안과 중국의 예측치안 시스템은 수학적으로 같은 뼈대를 공유합니다. 과거 데이터를 입력해 특정 지역·인물의 위험도를 점수화하고, 그 점수를 근거로 순찰·단속·제재 자원을 배분하는 구조입니다. 입력 데이터가 체포 기록이든 신용거래 기록이든, "국가가 이미 주목한 곳에서 더 많이 찾아낸다"는 피드백 루프는 동일하게 작동합니다.

분석: 이 루프는 기술적 결함이 아니라 설계상 불가피한 특성에 가깝습니다. 더 많이 감시한 곳에서 더 많은 이상 신호가 나오고, 그 신호가 다시 감시를 정당화합니다. 레짐과 무관하게 같은 수학이 같은 결과를 만듭니다.

### 2) 명분과 절차는 다르다 — 그런데 왜 결과는 비슷한가
민주주의 국가는 법적 절차와 사법심사, 시민사회의 감시를 명분으로 삼습니다. 그러나 갱스매트릭스 사례처럼 알고리즘의 기준 자체가 불투명하면 그 명분은 사후적으로만 작동합니다. 영국에서는 뮤지션 어와테 술레이만 등이 리버티(Liberty)와 함께 메트로폴리탄 경찰을 상대로 소송을 제기했고, ICO도 집행 통지를 내렸습니다 — 모두 시스템이 이미 수년간 운영된 뒤에 나온 사후 대응입니다.

권위주의 국가는 이런 절차 자체를 전제하지 않습니다. 유럽의회가 2024년 정리한 보고서는 신장 지역을 인공지능 기반 감시·예측치안·구금이 결합된 대표 사례로 꼽습니다 ([유럽의회](https://www.europarl.europa.eu/RegData/etudes/IDAN/2024/754450/EXPO_IDA%282024%29754450_EN.pdf)). 절차의 존재 여부는 사후 교정 가능성을 가르지만, 알고리즘이 작동하는 동안 누가 걸러지는지는 두 체제에서 놀랍도록 비슷한 패턴(소수자·저소득층 집중)을 보입니다.

### 3) 기술 수출과 공급망 — 정치체제를 넘어서는 수렴
스탠퍼드 FSI 워크숍 보고서는 중국산 저가 감시 기술이 베네수엘라의 "홈랜드(homeland)" 시스템처럼 다른 권위주의 정권에 수출돼 디지털 억압을 뒷받침하고 있다고 지적합니다. 그런데 민주주의 국가의 법 집행기관 역시 안면인식·행동분석 기술을 민간 기업으로부터 조달하는 경우가 많습니다. 기법의 수렴은 정치 이념이 아니라 국경을 넘는 상업적 기술 공급망을 따라 일어납니다 — 누가 기술을 파는지가 아니라 누가 그 기술을 어떤 견제 장치 없이 쓰는지가 관건입니다.

## 국내 시사점

서울시는 2023년, 2026년까지 서울 전역의 CCTV를 '지능형 CCTV'로 교체하겠다는 계획을 발표했습니다. 배회·쓰러짐·폭행 등의 움직임을 감지해 위험 상황 발생 시 관제센터로 영상을 자동 전송하는 방식입니다 ([서울시 미디어허브](https://mediahub.seoul.go.kr/archives/2009908), 2023년). 아직 영국 갱스매트릭스나 미국 PredPol 수준의 '위험인물 예측' 단계는 아니지만, 과거 데이터로 이상 신호를 학습시키는 방향성은 같은 궤적 위에 있습니다.

국내에서 비슷한 논쟁이 본격화되기 전에, 알고리즘의 판단 기준을 외부에서 검증할 수 있는 감사 체계와 오탐지·편향 발생 시 이의제기 경로를 먼저 설계해 두는 쪽이 나중에 소송과 신뢰 회복에 들어가는 비용보다 저렴합니다.

## 전망 & 주목할 변수

- **긍정 변수:** 영국 리버티의 갱스매트릭스 소송, ICO 집행 통지처럼 사법·규제기관이 사후 개입하는 선례가 쌓이고 있습니다. EU AI Act 는 치안 목적의 고위험 AI 시스템에 영향평가와 투명성 의무를 지웁니다.
- **리스크 변수:** 안면인식·행동분석 기술의 상업적 공급망은 정치체제와 무관하게 거래됩니다. '안전'이라는 명분이 절차적 견제를 압도하는 국면에서는 민주주의 국가에서도 투명성이 뒤로 밀릴 수 있습니다.
- **체크포인트:** 예측치안·지능형 CCTV를 도입할 때 외부 감사와 효과성 검증이 의무화돼 있는지, 알고리즘 영향평가 결과가 공개되는지를 살펴봐야 합니다.

## 결론

- 감시 기술을 가르는 선은 정치체제가 아니라 투명성과 책임성의 유무입니다.
- 기법 수준에서는 민주주의와 권위주의가 수렴하고 있지만, 사후에 견제할 수 있는 사법·시민사회 경로가 있는지는 여전히 체제에 따라 다릅니다.
- 국내 지능형 CCTV·예측치안 논의는 아직 초기 단계인 만큼, 기술 도입보다 감사·투명성 체계 설계를 먼저 고민하는 쪽이 비용이 적게 듭니다.

## 코멘트
