목차
- AI 치안의 현재 — 예측 시스템은 어떻게 작동하는가
- 알고리즘이 차별을 강화한다 — 인종 편향과 피드백 루프
- 안전과 자유 사이 — 기술이 가져오는 새로운 거래
나는 오래전 영화 한 편을 봤다. 스티븐 스필버그 감독의 SF 영화 《마이너리티 리포트(Minority Report)》다. 초능력자들이 미래의 범죄를 예지하고, 그 정보를 경찰 시스템과 연결해 범죄가 일어나기 전에 용의자를 체포하는 세상이 배경이다. 영화 속 그 시스템은 기술적으로 완벽했다. 하지만 결말은 비극이었다. 문제는 시스템이 아니었다. 그것을 운용하는 인간이었다. 권력을 가진 사람이 시스템을 악용했고, 완벽한 도구는 순식간에 위험한 무기가 됐다.
그 영화를 떠올릴 때마다 나는 인간에 대한 오래된 생각을 다시 꺼내든다. 나는 사람을 잘 믿지 않는다. 30년 넘게 알아온 친구가 두 명뿐이다. 인간은 결국 이익과 감정으로 움직인다는 걸 오랜 시간을 통해 확인했기 때문이다. 그래서 "AI가 범죄를 미리 예방한다"는 말을 처음 들었을 때, 나는 안심보다 불안이 먼저였다. 기술을 의심한 게 아니다. 그 기술을 만들고, 운용하고, 판단에 쓰는 인간을 알기 때문이다.
그리고 지금, 그 영화의 세계는 현실이 되고 있다.
1. AI 치안의 현재 — 예측 시스템은 어떻게 작동하는가
2025년 현재, AI 기반 영상 감시 시장 규모는 67.6억 달러에 달하며, 2026년에는 80억 달러를 넘길 것으로 전망된다. CCTV는 단순히 녹화하는 장비가 아니다. 이제는 실시간으로 얼굴을 인식하고, 특정 인물이 카메라 앵글 안에 들어오는 순간 경보를 울린다.
미국에서는 이미 여러 도시에서 예측 치안(Predictive Policing) 시스템이 실제로 운영 중이다.
대표적인 사례는 PredPol(현재 Geolitica)이다. 로스앤젤레스, 애틀랜타, 오클랜드 등의 경찰청이 도입한 이 시스템은 10년 치 과거 범죄 데이터를 분석해, 다음 범죄가 발생할 가능성이 높은 지역과 시간대를 하루 단위로 예측한다. 경찰은 이 지도를 보고 순찰 인력을 배치한다.
시카고 경찰청의 전략적 대상 목록(Strategic Subject List)은 한 단계 더 나아간다. 폭력 범죄의 피해자 또는 가해자가 될 가능성이 높은 사람을 알고리즘이 사전에 특정한다. 총격 사건 이후에는 보복 공격 가능성이 높은 지역까지 예측해 순찰을 집중 배치한다.
뉴욕 경찰청(NYPD)의 도메인 인식 시스템(Domain Awareness System, DAS)은 더 광범위하다. 번호판 인식 데이터, 범죄 이력, 얼굴 인식 기술, 총성 감지 센서를 하나로 통합한 플랫폼으로, 용의 차량의 위치를 실시간으로 추적하고 이상 행동을 영상 분석으로 감지한다.
기술만 보면 놀랍다. 범죄가 일어나기 전에 막을 수 있다면, 분명히 누군가의 생명을 구할 수 있다. 하지만 나는 여기서 멈추고 싶었다. 기술이 완벽하다고 해서 그 결과도 공정한 것은 아니다.
2. 알고리즘이 차별을 강화한다 — 인종 편향과 피드백 루프
2025년 2월, 국제 인권단체 암네스티 인터내셔널(Amnesty International)은 120페이지 분량의 보고서를 발표했다. 제목은 "Automated racism(자동화된 인종차별)"이다. 보고서는 예측 치안 도구들이 빈곤층과 소수 인종 공동체를 반복적으로 표적으로 삼는다고 지적했다.
이유는 단순하다. 알고리즘은 과거 데이터를 학습한다. 그런데 그 과거 데이터 자체가 이미 편향되어 있다. 역사적으로 특정 지역과 특정 인종이 더 많은 감시와 단속의 대상이 되어왔다면, AI는 그 패턴을 그대로 학습하고 재생산한다. 결과적으로 AI는 "이 지역에 범죄가 많다"라고 예측하고, 경찰은 그 지역을 더 집중적으로 순찰하고, 더 많은 데이터가 쌓이고, 다시 AI는 같은 예측을 강화한다. 이것이 피드백 루프(Feedback Loop)다.
현실 데이터는 이를 뒷받침한다. 2024년 NYPD의 불심검문(Stop-and-Frisk) 건수는 2만 5천 건을 넘어섰다. 전년 대비 50% 증가한 수치다. 그리고 검문을 당한 사람의 10명 중 9명은 흑인 또는 라틴계였다.
알고리즘이 만든 결과라고 하기엔 너무 인간적인 문제다. 기술이 차별을 만든 게 아니라, 인간이 만든 불평등한 현실을 기술이 정확하게 반영한 것이다. 그리고 그 반영된 불평등은 알고리즘의 권위를 빌려 더 공고해진다.
영국에서도 시민단체 연합이 2024년 중반, 예측 치안과 생체 감시를 전면 금지하라는 캠페인을 벌였다. "알고리즘이 인종차별을 초강력화(supercharging)하고 있다"는 것이 그들의 핵심 주장이었다.
3. 안전과 자유 사이 — 기술이 가져오는 새로운 거래
《마이너리티 리포트》에서 주인공은 아직 저지르지 않은 범죄로 체포된다. 영화가 던지는 질문은 지금도 유효하다. 범죄를 저지르기 전에 체포되는 것은 정당한가?
AI 치안이 전제하는 논리는 간단하다. 통계적으로 범죄가 일어날 가능성이 높으면 미리 개입하는 것이 합리적이라는 것이다. 하지만 이는 특정 지역에 사는 것만으로, 혹은 특정 외모를 가진 것만으로 용의자가 될 수 있다는 뜻이기도 하다.
실시간 얼굴 인식 기술도 마찬가지다. 공공장소를 걷는 우리의 얼굴은 언제든 데이터베이스와 대조될 수 있다. 이것이 범죄자를 잡는 도구인지, 모든 시민을 잠재적 피의자로 보는 시스템인지 그 경계는 모호하다.
기술이 우리를 안전하게 만들어준다면, 우리는 그 대가로 무엇을 포기해야 하는가.
이 질문에 쉬운 답은 없다. 범죄 예방이 소중한 가치인 것처럼, 아직 범죄를 저지르지 않은 사람을 감시하지 않을 권리도 소중한 가치다. 문제는 둘 중 하나를 선택해야 할 때, 누가 그 선택을 하느냐다. 그리고 그 선택을 내리는 사람이 알고리즘처럼 보이지만 실제로는 알고리즘을 설계하고 운용하는 인간이라는 사실이다.
결론: 기술의 문제가 아니라, 인간의 문제다
영화 속 예측 시스템은 완벽했다. 그러나 그것을 쥔 인간은 완벽하지 않았다. 나는 이것이 AI 치안의 본질적인 문제라고 생각한다. 훌륭한 도구를 불완전한 인간이 다룰 때 어떤 일이 생기는지, 우리는 이미 역사를 통해, 그리고 지금의 현실을 통해 계속 확인하고 있다.
인간은 본능적으로 더 안전하고 발전된 도구를 만들려 한다. 그것은 자신이 불완전하다는 것을 알기 때문이다. 그런데 그 도구를 만들고도, 그것을 사용하는 것을 불안해한다. 정말 아이러니하고도 끝나지 않을 문제다.
AI 경찰은 분명히 어떤 범죄를 줄여줄 수 있을 것이다. 하지만 어떤 범죄를 만들어낼 수도 있다. 우리가 진짜 두려워해야 할 것은 AI가 오판하는 것이 아니라, 인간이 AI의 판단을 빌미로 자신의 오판을 정당화하는 것이다.
출처