딥페이크 선별…AI 모델 내년 2월까지 개발 예정!
딥페이크 기술의 증가와 그에 따른 범죄
최근 딥페이크 기술이 급속도로 발전하면서, 이를 악용한 불법 영상이 증가하여 국민들이 큰 피해를 입고 있습니다. 이러한 불법 콘텐츠는 진짜와 가짜를 구분하기 어려울 정도로 고도의 합성 기술로 제작되었기 때문에, 피해자들이 자신의 권리를 주장하기 힘든 상황이 이어지고 있습니다. 이에 따라 국가 기관에서는 이 문제를 해결하기 위해 다양한 방안을 강구하고 있습니다. 정부는 이러한 합성 콘텐츠로 인한 사회적 손실을 최소화하기 위해 특별히 딥페이크 탐지 모델을 구축하고 있습니다.
정부의 대응과 정책
행정안전부는 이러한 문제를 해결하기 위해 국립과학수사연구원과 협력하여, 영상물의 조작 여부를 분석하는 모델을 개발하고 있습니다. 그 결과, 불법 영상 콘텐츠에 대한 국민의 우려를 해소할 수 있는 실질적이면서도 신속한 대응이 가능해질 것입니다. 정부는 이를 통해 가짜뉴스, 디지털 성범죄와 같은 다양한 사회적 문제에 더 효과적으로 대응할 수 있는 시스템을 마련할 계획입니다.
- 영상 및 음성 종합 분석으로 딥페이크 탐지 모델 개발
- 관련 범죄에 신속하게 대응할 수 있는 체계 구축
- 실제 업무 현장에서 활용될 AI 모델 개발
프로젝트 진행 현황
행정안전부는 지난 8월부터 사전 준비 과정을 거쳐, 내년 2월까지 심층적인 데이터 분석과 AI 모델을 개발할 예정입니다. 이 과정에서 다뤄질 데이터 분석 과제는 총 12건으로 나뉘어 있으며, 국민생활과 밀접한 사회문제를 해결하는 데 중점을 두고 있습니다. 특히, 중앙부처, 지자체, 공공기관의 수요조사와 전문가 평가를 통해 가장 시급한 주제를 우선 고려하고 있다는 점이 주목할 만합니다.
국민안전 분야의 주요 과제
이번 프로젝트의 첫 번째 분야인 국민안전에는 두 가지 주요 과제가 포함되어 있습니다. 첫 번째는 인공지능을 활용한 딥페이크 불법 콘텐츠 분석 모델이며, 두 번째는 사업장 굴뚝에서 대기오염 물질 배출을 자동으로 탐지할 수 있는 지원 모델입니다. 이러한 모델들은 AI 기술을 통해 보다 신속하고 효율적인 문제 해결을 가능하게 할 것입니다.
근로·복지 분야에서의 데이터 활용 방안
근로·복지 분야에서는 상병 및 요양 데이터를 활용한 장해등급 예측 분석과 AI 기반 재해조사 분류 모델 개발이 진행됩니다. 이러한 모델들은 산재 신청을 효율적으로 처리하는 데 필수적이며, 에너지 바우처 사용의 사각지대를 발굴하기 위한 빅데이터 분석 또한 이뤄집니다. 이를 통해 각종 복지 지원이 필요한 대상자에게 보다 효과적으로 도움을 줄 수 있습니다.
국민건강을 위한 예방적 조치
| 과제 | 목표 | 기술 |
| 농작물 병해충 발생 위험도 예측 | 질병 예방 및 조기 경보 | AI 기반 데이터 분석 |
| 식품안전 관리 체계 | 안전한 식품 공급 | 자동 추천 분석 모델 |
| 의약품 품절 예측 | 의약품 공급 안정성 확보 | 예측 지원 모델 |
국민건강 분야에서의 모델 개발은 농작물의 병해충 발생과 식품안전 사각지대 관리를 포함하여, 예측 시스템을 도입해 보다 체계적인 관리를 가능하게 할 것입니다. 이를 통해 보다 건강한 식생활과 안전한 식품 공급을 위한 기반이 마련될 계획입니다.
국민편의 증진을 위한 정책
국민편의 분야에서는 보훈대상자의 등록심사와 관련된 의사결정 지원 모델 개발이 이루어질 것입니다. 이는 국가유공자의 등록 및 보훈심사에 대한 민원을 분석해 보다 효과적인 지원 체계를 구축할 목적입니다. 또한, 천안시의 불법 주정차 문제를 해결하기 위한 최적 단속 경로 분석도 함께 진행됩니다.
일하는 방식 개선을 위한 혁신
일하는 방식 개선 분야에서는 인구 감소 지역을 대상으로 한 맞춤형 정책 수립을 위해 빅데이터 분석이 이루어지며, 행정정보시스템의 장애 예측 모델도 함께 개발됩니다. 이러한 혁신적인 접근은 국민들에게 더 나은 서비스를 제공하기 위한 주요 전략 중 하나로 작용할 것입니다.
종합적인 데이터 분석의 중요성
행정안전부는 과거에 보이스피싱 음성 분석 모델 등 다양한 데이터 분석을 통해 국민의 불편을 줄이는 데 성공한 사례가 많습니다. 158종의 데이터 분석 모델은 실질적으로 문제 해결에 기여하였으며, 앞으로도 이번 과제를 통해 각 기관 및 전문가와 협력하여 지속적인 데이터 분석 모델 개발을 추진할 계획입니다.
미래 지향적인 데이터 정책
배일권 행안부 공공데이터국장은 앞으로 생활과 밀접한 다양한 분야에서 AI 기반의 과학적 데이터 분석을 확대하겠다고 강조했습니다. 데이터 분석의 질을 높여 보다 체감할 수 있는 공공서비스 개선이 이루어질 가능성이 높아지고 있습니다. 이는 국민들에게 보다 나은 삶의 질을 제공하기 위한 지속적인 노력이 될 것입니다.
자주 묻는 숏텐츠
딥페이크 탐지 모델은 어떤 방식으로 개발되나요?
딥페이크 탐지 모델은 영상 및 음성을 종합 분석하여 영상물 조작 여부를 탐지하는 방식으로 개발됩니다. 이를 위해 AI 기술을 활용하여 딥페이크 불법 콘텐츠를 신속하게 식별할 수 있도록 설계됩니다.
이번 데이터 분석 과제는 어떤 분야에 중점을 두고 있나요?
이번 데이터 분석 과제는 국민안전, 근로·복지, 국민건강, 국민편의, 일하는 방식 개선 등 총 5개 분야에 중점을 두고 있으며, 각 분야별로 12건의 구체적인 분석 과제를 추진하고 있습니다.
딥페이크 탐지 모델이 실질적으로 어떻게 이용되나요?
딥페이크 탐지 모델은 경찰 및 관련 기관에서 불법 콘텐츠 식별 및 수사에 활용됩니다. 이 모델이 개발되면 관련 범죄에 신속하게 대응할 수 있어 국민의 감염 및 불법 콘텐츠에 대한 우려를 줄일 수 있습니다.
