기업·IT

'마이너리티 리포트' 현실로…AI 범죄와의 전쟁 시작됐다

입력 2021/03/30 13:50
[MK TECH REVIEW]
테러예측·용의자 추적…범죄 잡는 AI의 세계
301393 기사의 0번째 이미지 이미지 크게 보기

[사진 제공 = 게티이미지뱅크]

#1. 추적추적 비가 내리는 늦은 밤 11시. 우범지대로 특정된 어두운 골목을 남녀가 일정 거리를 두고 걸어간다. 범죄 위험성을 예측하는 인공지능(AI)이 해당 지역의 과거 범죄 통계부터 범죄 유형, 가해자·피해자의 속성, 날씨와 시간·공간적 조건까지 빅데이터를 순식간에 분석한다. AI의 결론은 '범죄 발생 위험도 80%'. AI는 즉각 경보를 내고 현장에 경찰을 보낸다. 정보기술(IT) 업계 관계자는 "최첨단 시스템이 범죄를 미리 예측해서 용의자를 잡는 내용의 영화 '마이너리티 리포트'와 같은 미래 사회가 현실이 되는 것은 이제 시간문제"라고 말했다.

#2. 인도 정부는 작년 8월 구자라트주(州)에 약 700대 CCTV 카메라를 설치하고 여기에 실종자나 지명수배자와 같은 '요주의 인물' 데이터를 집어넣었다. 파키스탄과 국경이 맞닿아 있는 구자라트주는 테러 위험에도 노출돼 있어 대표적인 치안 악화 지역 중 하나다. 이 프로젝트는 정부 주도의 첫 AI 기반 안면인식 실증사업이다. NDTV를 비롯한 인도 현지 매체에 따르면, 인도 당국은 "효과가 입증됐다"며 AI CCTV를 두 배 이상인 1500~1600대까지 늘리기로 했다. NDTV는 "과거 CCTV가 영상 기록과 보관에 주력했다면, 이젠 AI 기술을 적용해 범죄 예측과 사전 방지에 활용하는 추세"라고 말했다.

301393 기사의 1번째 이미지 이미지 크게 보기
'범죄와의 전쟁'에서 AI 기술이 최전선에서 활약하고 있다. 딥러닝과 같은 AI 기술이 안면인식, 지능형 범죄 예측 시스템, 경찰청 민원센터까지 전방위에 적용하면서 범죄 소탕 현장은 최첨단 기술 경쟁을 방불케 한다. '텔레그램 n번방'처럼 지능화한 디지털범죄도 기승을 부리면서 AI 기술이 갈수록 중요해질 것이란 분석이 나온다.

가장 대표적인 것이 안면인식 기술이다. 전자통신연구원(ETRI)은 AI 기술 핵심인 딥러닝을 활용해 수백만 장의 얼굴 데이터를 분석했다. 그 결과 AI가 사람의 성별, 나이, 국적, 피부색, 안경 착용 여부는 기본이고 헤어스타일, 입술 색, 수염, 시선 방향, 감정까지 세분화해서 추정한다. 감정도 얼굴 표정을 분석해 중립, 행복, 놀람, 분노(버럭), 슬픔 등 5개로 구성된다.


머리를 한 갈래로 묶은 기자가 화면 앞에 서니 AI가 '여성, 34세, 갈색 짧은 머리, 안경 착용 안 함, 행복하다'고 분석했다. 나이(기자는 올해 40세다)를 빼면 대체로 맞았다. 얼굴을 찡그리자 분노 지수가 급격하게 높아졌다. AI는 화면에 노출되는 사람들 중에 얼굴 앞면뿐 아니라 측면까지 실시간으로 포착했다. 윤호섭 ETRI 책임연구원은 "마스크를 벗으면 AI 인식 정확도가 99%에 달한다. 범죄인 수사에 AI 기반의 안면인식은 필수 기술"이라며 "불시검문·단속도 신속하고 정확하게 처리할 수 있게 된다"고 말했다.

AI 기반의 범죄 예측 기술도 주목받고 있다. 112 신고나 사건보고서, CCTV 영상에서 시시각각 수집한 범죄 발생 정형·비정형 데이터를 바탕으로 사건·시공간 위험도, 범죄 유형, 신고자와 피의자 인물 관계, 용의자 탐색 분석을 거쳐 범죄를 사전에 감지하고 현장에서 선제 대응이 가능하도록 지원한다. 이미 미국, 영국, 일본 같은 선진국에선 AI 기반의 범죄 예측 기술을 현장에 적용하거나 실증실험을 진행하고 있다.

특히 AI의 CCTV 영상 분석 기술이 빠른 속도로 발전하면서 화면에 등장하는 사람의 모자나 마스크, 배낭과 같은 도구를 지참했는지 인상착의뿐 아니라, 뜀박질인지 미행과 같은 상황인지 걸음걸이도 정교하게 분석해 범죄 발생 여부를 예측할 수 있게 될 전망이다. ETRI는 AI를 고도화해 위험 발생 예측 가능 모델을 최대 80% 수준까지 끌어올릴 계획이다.

일본은 AI 기술로 수십 년째 미제인 강력범죄사건 용의자 얼굴을 '현재 모습'으로 재현했다. 이를 위해 경찰청이 포털기업 야후, 광고회사 덴츠디지털 등 민간기업 3사와 손잡고 10년 이상 공개 수배 중인 용의자 사진을 '마른 모습' '보통' '뚱뚱한 모습'처럼 9개 패턴으로 구현했다. 일본은 전체 지명수배 용의자의 30%가량이 10년을 경과했다. 경찰청 홈페이지나 포스터에 게재한 사진은 오래돼서 정보 전달에 한계가 있다. 이에 연령대별 얼굴 변화와 관련된 수만 개의 데이터를 AI에 학습시켜 용의자 얼굴을 다양하게 예측하는 기술을 개발했다.

301393 기사의 2번째 이미지 이미지 크게 보기

삼성SDS 사내벤처 팀나인 팀원들이 딥페이크로 추정되는 사진을 자체 솔루션(CYETHIC)으로 검증하고 있다. [사진 제공 = 삼성SDS]

한국은 182경찰민원콜센터(182콜센터)에 적용하기 위한 폴봇(Pol-Bot) 기술을 개발했다.


112가 경찰의 긴급출동이 필요한 신고전화를 전담하고, 182는 범죄와 관련이 없는 경찰 민원상담 업무를 한다. 182에서 교통 범칙금·과태료, 무인단속, 벌점, 운전면허 정지·취소·갱신, 교통사고 조사, 경범죄 범칙금액, 수사사건 담당자와 송치 여부, 실종신고까지 관련 정보를 365일 24시간 다룬다. ETRI는 경찰청과 국내 AI 강소업체 마인즈랩, 와이즈넛, 인텔리어스와 손잡고 작년부터 182콜센터 전용 음성대화 기반 챗봇을 개발해왔다.

스마트폰으로 182에 전화를 걸면 폴봇이 상담 내용에 맞춰 즉각 상담을 시작한다. "속도를 위반했다"고 말하면, 폴봇이 "본인 명의의 차량 번호를 앞자리 숫자와 문자를 포함해 말씀해주세요"라고 답하는 식이다. 폴봇을 통해 민원이 완벽하게 해결될 수 있도록 AI 기반의 대화 의도 추론과 '멀티턴 기술'을 적용했다. 방준성 ETRI 선임연구원은 "AI가 민원인의 질문 의도뿐 아니라 앞서 이뤄진 모든 대화 내용을 기억하고 분석해 답한다"며 "민원이 해결될 때까지 대화가 끊김 없이 이어지도록 지원하는 멀티턴 기술은 상당한 고급 기술"이라고 설명했다. 기계가 아니라 사람과 대화하는 듯한 음성 합성 기술도 적용됐다. 듣다 보면 진짜 경찰 같다.

다만 개인정보 문제는 풀어야 할 숙제다. 작년엔 아마존, 마이크로소프트, IBM이 자사가 개발한 AI 안면인식 기술을 미국 경찰당국에 제공하는 것을 중단하거나 철회하겠다고 발표했다. 전문가들은 개인정보 존중과 범죄 예방이라는 명제 사이에서 '사회적 합의'를 거쳐 어디까지 AI를 활용할 것인지 결정할 것으로 예상한다.

301393 기사의 3번째 이미지 이미지 크게 보기
예방뿐 아니라 범죄수법까지도 AI로 고도화되고 있다. 딥페이크가 대표적이다.


딥페이크란 딥러닝과 '페이크(fake)'를 합친 말이다. 사람의 얼굴이나 특정 부위를 합성한 가짜 사진, 음성, 동영상을 만드는 데 많이 활용한다.

2017년 미국 온라인 커뮤니티 레딧에 등장한 연예인 합성사진이 그 시초다. 딥러닝과 비전 컴퓨팅 기술이 발전하면서 최근에는 육안으로 구별이 어려울 정도다.

실제로 링크트인, 페이스북, 트위터 같은 사회관계망서비스(SNS)에서 딥페이크로 생성한 가짜 프로필 사진을 앞세워 간첩 활동을 벌인 러시아 스파이 '케이티 존스 사건'이 있었고, 인권운동가 부부에 대한 비판적 글을 투고한 유명 칼럼니스트 '올리버 테일러'가 알고 보니 딥페이크로 만든 가상의 인물임이 밝혀진 사례도 있다. 국내에서도 K팝 스타 얼굴을 음란 동영상에 등장시킨 사이버 성범죄가 적발됐고, 지인 얼굴을 성인물에 합성해 해외 사이트에 올린 20대가 구속되기도 했다.

AI 프로그램으로 만드는 딥페이크 콘텐츠와 이를 잡는 AI 알고리즘은 '창과 방패의 싸움'이다. 국내 IT 업계에서도 딥페이크 악용을 막는 솔루션을 개발하고 있다. 삼성SDS의 사내 스타트업 '팀나인'이 개발한 딥페이크 검출 기술은 딥페이크 이미지를 만들 때 발생하는 일종의 '노이즈(artifact)'를 찾아 진짜 사람의 사진인지, 딥페이크로 생성된 사진인지 판별해준다.

홍민기 삼성SDS 팀나인 소사장은 "딥페이크 생성 사이트에서 생성되는 이미지를 대상으로 자체 테스트를 한 결과 99.999%의 정확도로 구별해 낸 바 있다"며 "앞으로 동물이나 사물, 차량과 같은 무생물의 구분과 딥페이크 동영상까지 구분해 내기 위해 연구개발 중"이라고 설명했다.

날로 교묘해지는 범죄에 대응하기 위한 기술 기업들의 노력도 치열하다. 디지털 포렌식 기업 KDFT는 디지털 포렌식을 통해 악용이 의심되는 영상을 탐지하고, 위·변조 여부를 판별하여 범죄 단초가 되는 결정적 증거를 찾아낸다. 벤처기업인 알엔딥은 입력된 사진과 영상의 모든 프레임을 검사하고, 주요 노출 부위에 대해 모자이크를 자동으로 생성해주는 '레드 AI 모자이크' 기술을 개발했다.

AI 기업 머니브레인은 최근 영상의 진위 여부를 판단하는 능력을 갖춘 딥러닝 모델 'AI 영상 조작 검출 기술' 개발에 주력하고 있다. 현재 다양한 모델을 통해 진짜와 가짜를 스스로 판별할 수 있도록 지속적으로 반복 학습시키는 연구를 진행 중이다.

[신찬옥 기자 / 임영신 기자]
[ⓒ 매일경제 & mk.co.kr, 무단전재 및 재배포 금지]