목차
- 강한 규제 EU, 자율 규제 미국, 국가 통제 중국 — 세 갈래 길
- 오류가 났을 때, 책임은 누구의 몫인가
- 규제와 혁신 사이, 좁혀지지 않는 간극
한국 의료보험은 세계적으로 좋은 편이라고 늘 생각해 왔다. 그런데 병원에서 진료나 수술을 받은 뒤 개인 보험 청구가 자동으로 연동되지 않는다는 걸 알고 나서 생각이 조금 바뀌었다. 보험사는 보험료를 꼬박꼬박 받아가면서도, 내가 직접 서류를 챙겨 청구하지 않으면 받을 수 있는 혜택을 그냥 흘려보낸다. 시스템은 존재하지만, 그 시스템이 나를 대신 챙겨주지는 않았다. AI 규제를 둘러싼 최근 논의를 보면서 비슷한 불안을 느낀다. 촘촘한 법이 있어도, 정작 문제가 생겼을 때 누가 책임지는지가 명확하지 않다면 결국 피해는 개인의 몫으로 남기 때문이다.
EU는 세계 최초로 AI 규제법을 만들었고, 미국은 기업의 자율에 맡기는 쪽을 택했고, 중국은 국가가 알고리즘까지 사전 승인하는 방식을 고수한다. 이런 제도적 차이 이전에 더 근본적인 문제가 있다. 인간의 욕심은 언제나 상황을 나쁜 방향으로 밀어붙이는 힘을 가지고 있다는 것이다. 생성형 AI가 전 세계에 공개됐을 때, 사람들은 감탄과 두려움을 동시에 느끼는 충격을 받았다. 아직 이르다고 말한 목소리도 있었지만, 성공을 향한 인간의 마음은 그 경고를 앞질러버렸다. 이 기술이 독이 될지 약이 될지는 아직 아무도 모르고, 그 답을 실제로 감당해야 할 사람은 지금 이 순간에도 자라나는 어린 세대일 것이다.
1. 강한 규제 EU, 자율 규제 미국, 국가 통제 중국 — 세 갈래 길
EU의 AI 규제법(AI Act)은 2024년 8월 발효돼 2026년 8월 전면 적용될 예정이었지만, 2026년 5월 EU는 고위험 AI 시스템에 대한 의무 적용 시점을 2026년 8월에서 2027년 12월로 16개월 늦추기로 했다. 의료기기나 승강기처럼 별도 제품 규정을 받는 고위험 시스템은 2027년 8월에서 2028년 8월로 1년 더 미뤄졌다. 다만 금지 행위 조항은 2025년 2월부터, 범용 AI 모델 규칙은 2025년 8월부터 이미 시행 중이다. 시행이 완료되면 고위험 시스템을 다루는 기업은 전 생애주기에 걸친 위험관리 체계, 편향을 탐지하는 데이터 거버넌스, 최소 6개월 이상의 자동 로그 보관, 사람이 결정을 이해하고 개입할 수 있는 인간 감독 체계를 갖춰야 한다.
미국은 정반대의 길을 걷고 있다. 연방 차원의 포괄적인 AI 법이 없고, 행정부는 오히려 규제를 줄이는 방향을 택했다. 2025년 12월에는 주(州) 단위의 AI 규제를 견제하기 위한 법무부 소송 전담반까지 신설됐고, 2026년 6월에는 행정명령과 수출 통제, 고객별 승인 제도가 한꺼번에 도입되며 국가 차원의 통제력을 강화하는 쪽으로 방향을 틀었다. 중국은 처음부터 국가 통제를 명확히 해왔다. 지난 4년간 알고리즘 추천 규정, 딥페이크 규정, 생성형 AI 임시조치 등 6개의 구속력 있는 규정을 차례로 도입했고, 알고리즘의 사전 승인과 국가 이념과의 정합성까지 요구한다. 같은 기술을 두고 세 나라가 이렇게 다른 길을 가고 있다는 게, AI 규제 전쟁이라는 말이 과장이 아님을 보여준다.
2. 오류가 났을 때, 책임은 누구의 몫인가
AI가 실제로 잘못된 판단을 내렸을 때 벌어지는 일은 이미 현실이 됐다. 미국에서는 40세 이상의 한 흑인 장애인 구직자가 인사관리 소프트웨어 기업의 채용 플랫폼을 통해 100차례 넘게 지원했지만 단 한 번도 면접 기회를 얻지 못하자, AI 스크리닝 알고리즘의 편향 때문이라며 2023년 2월 소송을 제기했다. 법원은 2025년 연령차별 관련 부분에 대해 전국 단위의 집단소송을 허용하면서 "소프트웨어와 인간 의사결정자를 인위적으로 구분하면 차별금지법을 무력화할 수 있다"라고 판시했다. 이 소송은 여전히 캘리포니아 연방법원에 계류 중이지만, AI가 내린 결정도 인간의 결정과 똑같은 법적 잣대로 다뤄질 수 있다는 걸 보여준 사례로 남았다.
법률 영역에서도 비슷한 사고가 벌어졌다. 한 미국 변호사는 챗GPT의 도움을 받아 작성한 의견서를 법원에 제출했는데, 그 안에 담긴 판례 중 최소 6건이 실제로는 존재하지 않는 가짜 판례였다. 상대측 항공사 변호인단이 의혹을 제기하면서 사실이 드러났고, 뉴욕 맨해튼 연방법원은 관련 변호사들에게 벌금 5,000달러(약 650만 원)를 선고했다. 국내에서도 존재하지 않는 판례나 허위 사건번호를 그대로 인용한 사례가 판결문에 적시된 적이 있다. 의료 영역은 더 모호하다. 현재로서는 AI에 독립적인 법적 책임을 지우기 어려워 사고가 나면 결국 담당 의사 개인의 책임 문제로만 다뤄지고, 민사 책임에 관한 별도 규정 없이 일반 민법에 맡겨져 있는 상태다. 보험 청구를 스스로 챙기지 않으면 혜택을 놓치듯이, 책임 소재가 불분명한 이런 틈에서는 결국 피해를 본 사람이 가장 먼저, 가장 크게 그 부담을 떠안게 된다.
3. 규제와 혁신 사이, 좁혀지지 않는 간극
글로벌 AI 기업들은 이제 사업을 어느 나라 규칙에 맞출지부터 고민해야 한다. EU의 엄격한 기준에 맞추자니 미국 시장에서의 속도 경쟁에 뒤처질 위험이 있고, 미국식 자율 규제에 맞춰 개발하자니 EU 시장 진입 자체가 막힐 수 있다. 중국 시장은 아예 별도의 국가 승인 절차를 거쳐야 한다. 결국 많은 기업이 가장 엄격한 기준에 맞춰 하나의 모델을 만들거나, 지역마다 다른 버전을 따로 운영하는 이중 전략을 택하고 있다. 규제가 국경을 넘지 못하는 사이, AI 기술은 국경 없이 빠르게 퍼지고 있다. 이 속도 차이 자체가 이미 규제의 실효성을 갉아먹는 요인이 되고 있다.
인간의 욕심은 언제나 상황을 나쁜 방향으로 밀어붙이는 힘을 가지고 있다. 아직 이르다는 경고가 있었음에도, 성공을 향한 마음은 그 경고를 기다려주지 않았다. 지금의 규제 논쟁은 이미 풀려나간 기술을 뒤늦게 따라잡으려는 시도에 가깝다. 이 기술이 결국 독이 될지 약이 될지는 지금 이 순간에도 아무도 확신할 수 없고, 그 답을 실제로 살아내며 확인해야 하는 사람은 지금의 어린 세대일 것이다. 규제와 혁신 사이의 간극을 메우는 일은 결국 지금 세대가 다음 세대에게 얼마나 신중한 판단을 물려줄 수 있느냐의 문제로 돌아온다. 법이 기술을 따라잡을 때까지, 그 사이의 공백은 계속 누군가의 몫으로 남을 것이다. 그 누군가가 지금의 어린 세대일 가능성이 크다는 게, 이 문제를 가볍게 넘길 수 없는 이유다.
결론: 그 미래를 감당할 사람은 지금 자라는 세대다
보험 청구도, AI 규제도, 결국 시스템이 챙겨주지 않는 몫은 누군가가 직접 떠안아야 한다는 점에서 닮아 있다. EU는 법으로, 미국은 자율로, 중국은 국가 통제로 각자 다른 답을 찾고 있지만, AI가 잘못된 판단을 내렸을 때 그 책임을 누가 지느냐는 질문에는 아직 누구도 명확한 답을 내놓지 못했다. 이르다는 경고를 앞지른 인간의 욕심이 만들어낸 이 기술이 독이 될지 약이 될지는 여전히 미지수이고, 그걸 몸으로 확인하며 살아가야 할 사람은 지금 자라나는 어린 세대다. 규제 전쟁의 승자가 누가 되든, 그 결과를 오래 감당해야 하는 건 지금 이 논쟁의 바깥에 서 있는 다음 세대라는 사실만은 분명하다.
출처