매년 전 세계에서 세탁되는 자금은 2조~5조 달러에 달합니다. 그리고 전통적인 규칙 기반 AML 시스템은 그 중 겨우 1%도 잡아내지 못합니다. 여기서 질문이 하나 생깁니다. AI가 이 싸움에 본격적으로 참전하면, 판도가 달라질까요?
1. AML이 뭔지, 먼저 짚고 넘어갑시다
AML(Anti-Money Laundering)은 불법 자금이 합법적인 금융 시스템에 유입되는 것을 막는 규제 체계입니다. 마약 밀매, 테러 자금 조달, 사기 등으로 벌어들인 돈을 ‘세탁’하는 행위를 탐지·차단하는 게 목적입니다.
자금세탁은 보통 세 단계로 진행됩니다.
기존에는 규칙 기반(Rule-based) 시스템이 이 세 단계를 탐지해 왔습니다. “1천만 원 이상 거래는 보고”, “단기간 동일 계좌 반복 입출금 플래그” 같은 방식입니다. 하지만 범죄자들은 이 규칙을 금방 학습하고 우회합니다.
2. 기존 시스템의 어디가 문제였나?
| 구분 | 규칙 기반(Rule-based) | AI/ML 기반 |
|---|---|---|
| 탐지 방식 | 사전 정의된 임계값·패턴 매칭 | 동적 패턴 학습 + 이상 탐지 |
| False Positive | 매우 높음 (95% 이상) | 80~95% 감소 |
| 신규 수법 대응 | 룰 추가 전까지 탐지 불가 | 데이터 학습으로 자동 적응 |
| 실시간 처리 | 배치(Batch) 처리 중심 | 실시간 스트리밍 분석 |
| 네트워크 분석 | 단일 거래 단위 분석 | 계좌·기관·인물 연결망 추적 |
| 유지 비용 | 룰 관리 인력 지속 필요 | 초기 구축 비용 후 효율화 |
머신러닝을 적용하면 레이어링, 스트럭처링 같은 미묘한 세탁 수법 탐지가 정교해지고, False Positive를 최대 40%까지 줄일 수 있습니다.
가장 큰 문제는 ‘적응력’입니다. 범죄자들이 새로운 세탁 기법을 쓰기 시작하면, 규칙 기반 시스템은 해당 패턴을 먼저 발견하고 규칙을 추가할 때까지 눈을 감고 있어야 합니다.
3. AI는 어떻게 자금세탁을 잡아내나?
4. Agentic AI — 다음 세대의 AML
2025년부터 AML 시장에서 가장 뜨거운 화제는 Agentic AI입니다. 단순히 경보를 생성하는 것에서 나아가, AI 에이전트가 스스로 의심 거래를 조사하고 초기 판단까지 내리는 방식입니다.
Quantexa, ComplyAdvantage, Thetaray, Nasdaq Verafin 등 AML 소프트웨어 벤더들이 최근 Agentic AI를 도입하기 시작했으며, 이는 플래그된 거래를 자율적으로 추가 조사하고 범죄·무해 여부에 대한 예비 판단을 내립니다.
5. 가상자산(Crypto)과 신분 위조(Synthetic Identity) — AI가 맞닥뜨린 새로운 문제
전통 금융만 보면 절반만 보는 겁니다. 2022년 기준 암호화폐 불법 거래 규모는 $200억 이상이었고, 범죄자들은 계속 새로운 기법을 씁니다.
| 신종 세탁 기법 | 작동 방식 | AI 대응 방법 |
|---|---|---|
| 믹싱 서비스(Mixing/Tumbling) | 여러 주소에서 코인을 섞어 출처 추적 불가하게 만듦 | 지갑·거래소·오프체인 연결 관계 그래프 분석 |
| 크로스체인 거래 | 여러 블록체인을 경유하여 추적 차단 | 체인 간 흐름 추적 + 행동 패턴 연속성 분석 |
| 합성 신원(Synthetic Identity) | 위조 정보로 법인·개인 계좌 개설 후 세탁 | NLP로 서류 일관성 검토 + 관계망 이상 탐지 |
| AI 딥페이크 KYC 우회 | AI 생성 얼굴·목소리로 비대면 신원 확인 통과 | 생체인증 이상 징후 탐지 모델 결합 |
| DeFi 세탁 | 분산형 금융 플랫폼으로 중앙 감시 우회 | 온체인 데이터 실시간 스캔 + FATF Travel Rule 연동 |
FATF는 2025년 6월 Recommendation 16을 최종 개정하여 가상자산 서비스 제공자(VASP)에 대한 Travel Rule 요건을 강화했으며, 이는 2030년까지 단계적으로 시행될 예정입니다.
6. AI AML 도입 시 실제로 고려해야 할 것들
데이터 품질이 전부다
AI 모델은 학습 데이터의 품질에 직접 의존합니다. AI 시스템이 특정 지역·고객군 데이터로만 학습되면, 해당 그룹 전체를 강화된 심사 대상으로 만드는 편향 문제가 생길 수 있습니다.
Explainable AI — 규제기관에 설명할 수 있어야 한다
AI가 SAR(Suspicious Activity Report) 제출 또는 비제출 결정을 내렸을 때, 규제기관은 그 근거를 요구합니다. “블랙박스 모델이 그렇게 판단했습니다”는 통하지 않습니다. 현재 많은 국가에서 AI 의사결정에 대한 감사 가능성(Auditability)을 명시적으로 요구하기 시작했습니다.
규제 불확실성
미국 FinCEN은 AI 기반 AML 프로그램 검증·감사·거버넌스에 대한 구체적 가이드라인을 2025년 현재도 정비 중입니다. EU는 AMLA(Anti-Money Laundering Authority)가 2025년 중반 프랑크푸르트에서 운영을 시작했으며, Single Rulebook 규정(EU 2024/1624)으로 회원국 간 요건을 통일화하고 있습니다.
현재 주요 AI AML 솔루션
| 벤더 | 주요 특징 | Agentic AI |
|---|---|---|
| Quantexa | 네트워크 분석 기반, 엔티티 해석 | 지원 |
| ComplyAdvantage | 실시간 제재·PEP·부정 미디어 스크리닝 | 지원 |
| ThetaRay | 비지도학습 기반 이상 탐지 | 지원 |
| Nasdaq Verafin | 금융범죄 통합 플랫폼, 클라우드 네이티브 | 지원 |
| Unit21 | 노코드 룰 빌더 + ML 하이브리드 | 지원 |
| Flagright | API 우선 설계, 핀테크 특화 | 부분 지원 |
7. 규제 현황 — 2026년 지금, 어떻게 돌아가고 있나?
| 지역 | 핵심 규제·기관 | 주요 동향 |
|---|---|---|
| 🇪🇺 EU | AMLA, 6AMLD, EU 2024/1624 | Single Rulebook 시행, AMLA 2025년 운영 개시 |
| 🇺🇸 미국 | FinCEN, BSA, AML Act 2020 | Corporate Transparency Act 2024년 발효, AI 가이드라인 준비 중 |
| 🌏 아시아태평양 | AUSTRAC, MAS, HKMA | FATF 기준 정렬, DeFi·가상자산 규제 강화 |
| 🌐 국제 | FATF | Recommendation 16 개정(2025.06), Travel Rule 범위 확대 |
AI는 AML의 근본 문제인 “범죄자는 빠르게 진화하는데 시스템은 느리게 따라간다”는 비대칭을 해소하는 데 실질적 해답입니다. 하지만 어떤 모델도 나쁜 데이터와 불투명한 거버넌스를 이길 수는 없습니다.
기술이 아닌 데이터와 신뢰가 AI AML의 진짜 기반입니다.