'딥페이크 (가짜 영상)' 주의!! 인공지능 AI기술 악용한 범죄 증가!

안녕하세요 특별하지 않는 일상을 전하는 특특이입니다.

빠르게 변하는 일상 속에서 인공지능인  AI기술 또한 빛의 속도로 발전을 거듭하고  있는 가운데 일부 나쁜 사람들이 인공지능을 범죄에 악용해 피해를 보는 사례들이 늘어나 사회적 문제가 되고 있습니다.

특히 유명인의 사진과 목소리를 이용해 딥페이크 영상을 만들어 진짜 인 것처럼 속이는 범죄가 늘고 있어  일반인뿐만 아니라 유명인들도 피해를 보고 있어 각별한 주의가 필요하겠습니다.

 

딥페이크 영상 탐지 소프트웨어

 

딥페이크로 조작된 영상

얼마 전 유명 연예인을 사칭하며 딥페이크 영상을 만들어 투자를 권유해 피해를 입은 사람들이 있었죠.

인공지능 프로그램에 데이터를 학습시켜 목소리 녹음하면 실제 그 사람이 말하는 것처럼 감쪽같은 가짜 영상이 만들어집니다. 유명인이 투자를 권유하는 것처럼 속이는 피싱 범죄로 이어지더라도 누가 만들어 올렸는지 특정하는 데만 오랜 시간이 걸리기 때문에 입모양과 시선 등 영상을 꼼꼼히 살펴봐야 합니다.

 

딥페이크를 이용한 선거범죄

음성 합성을 이용한 피싱 사기

음성 생성 AI 이용해 가족의 목소리를  AI로 합성해 돈을 요구하는 전화 피싱 사기가 증가하고 있는데요

단 30초 분량의 음성 샘플만 있으면 동일한 목소리를 만들어낼 수 있어 음성 생성 AI를 악용하는 범죄가 늘어나고 있습니다.

 

음성 생성 AI를 이용한 범죄

딥페이크 기술의 사회적 혼란

딥페이크 기술을 활용해 만들어진 가짜 뉴스가 사회적 혼란을 야기하는 사례가 늘고 있는데요 유명인들의 얼굴에 목소리 합성 AI를 이용해 진짜인 것처럼 만들어 논란이 되고 있습니다.

예를 들면 금융 투자나 후원 등이 목적인 것처럼 속이기 위해 신뢰할 수 있는 유명인의 얼굴을 이용한 가짜 영상을 만든 후 돈을 가로채는 방식입니다.

 

유명인을 이용한 음란물 제작 법적 대응

딥페이크를 활용한 음란물 제작

딥페이크 기술이 음란물 제작에까지도 도용되고 있어 유명인의 사진을 도용하여 만들어진 음란 광고가 소셜 미디어에 게시되는 등의 사례가 보고되었습니다. 

이렇게 딥페이크를 악용해 유명인의 사진으로 만들어진 음란 광고는 단순한 개인의 문제를 넘어 사회적 신뢰를 훼손하고, 법적 문제를 야기할 수 있습니다.

 

딥페이크 영상 주의

 

딥페이크 영상 대처법

즉시 신고

가장 먼저 해야 할 일은 해당 영상이 유포된 플랫폼에 신고하는 것인데 대부분의 소셜 미디어 플랫폼과 웹사이트는 사용자 신고 기능을 제공하고 있어 불법 콘텐츠에 대해 신속하게 대응할 수 있도록 도와줍니다. 

법적 조치 

가짜뉴스 유포와 명예훼손에 대한 처벌이 어렵고, 딥페이크로 인한 정보 왜곡이나 악의적 사용이 사회적 문제로 지적되고 있으며 딥페이스 기술로 제작된 영상은 개인의 명예를 심각하게 훼손할 수 있습니다.

영상이 유포되어 개인의 명예를 심각하게 훼손했다면, 법적 조치를 고려할 수 있는데 법률 전문가와 상담을 통해 저작권 침해, 명예훼손, 개인정보 보호법 위반 등에 대한 법적 조치를 취할 수 있습니다. 

 

전문가 도움 

일반인도 쉽게 만들 수 있을 정도로 기술이 발전하면서  딥페이크 기술을 이용한 범죄가 사회적 문제로 대두되고 있습니다.

딥페이크 탐지 및 제거 서비스를 제공하는 전문 기업들이 있으며, 이들은 가짜 영상을 탐지하는 소프트웨어 개발과 기술적인 방법으로 영상을 찾아내고 제거하는 데 도움을 받을 수 있어 딥페이크 영상을 제거 및 문제 해결을 위해 전문가의 도움을 받는 것이 좋습니다.

개인정보 보호

자신의 사진이나 영상을 온라인에 공유할 때는 신중을 기해야 합니다.

특히, 공개적으로 접근 가능한 플랫폼에 개인 정보를 올리는 것은 피하는 것이 좋으며 이메일이나 소셜 미디어를 통해 수신된 메시지 중에 의심스럽다면 절대 링크를 클릭하지 말아야 합니다. 의심스러운 링크를 클릭할 경우 링크를 통해 개인 정보가 유출될 수 있으며, 이는 딥페이크 제작에 악용될 수 있습니다.

 

진짜와 가짜 구별에 필요한 탐지 기능

 

딥페이크 탐지 기술 개발 및 법적 대응 방안

탐지 기술의 한계

최근 개발된 탐지 소프트웨어는 딥페이크로 의심되는 영상을 시스템에 업로드하면, 통상 5~10분 내에 분석 작업을 완료해 가짜 영상인지 판별해 낼 수 있다고 합니다. 

탐지 소프트웨어는 음성과 입 모양이 잘 맞지 않거나, 시선 처리가 어색한 점 등을 포착하여 가짜 영상을 식별하는 방식이며 더욱 체계적인 데이터 학습을 통해 새로운 형태의 합성 영상도 탐지할 수 있게 개발 중에 있습니다. 현재 개발된 탐지 기술도 딥페이크 기술의 발전 속도를 완전히 따라잡기에는 역부족인 상황이라고 합니다.

 

탐기 기술로 잡아낼 수 있는 딥페이크 영상

 

경찰청

딥페이크 기술의 발전으로 일반인도 쉽게 가짜 영상을 만들 수 있는 상황이 되면서, 이에 대한 법적 대응 방안 마련이 시급해졌습니다. 가짜 뉴스나 유명인의 얼굴을 합성한 영상 등이 사회적 불안을 조장하고 개인의 권리를 침해할 수 있기 때문에 경찰청은 가짜 영상을 탐지할 수 있는 소프트웨어를 직접 개발하여  선거범죄와 성착취 범죄 수사에 적극 활용하고 있습니다.  국민을 보호하는 역할을 하는 경찰은 딥페이크 기술을 활용한 금융 범죄로도 탐지 기술을 개발해 수사를 넓혀갈 계획입니다.

 

딥페이크 영상 피해를 막기 위해 노력하는 경찰

 

인공지능 기술의 발전은 많은 긍정적인 변화와 편하게 살 수 있는 혜택을 주는 것과 동시에 이를 악용한 범죄가 늘어나면서 피해를 보는 사람이 늘고 있습니다.

딥페이크와 음성 합성 기술이 범죄에 사용되는 만큼 이를 해결할 기술적인 해결책과 법적 조치가 이루어져야 할 거 같습니다. 또한 온라인 영상이나 온라인상 투자 권유를 받는다면 입모양과 눈의 움직임 등 꼼꼼하게 확인하고 그래도 의심이 된다면 경찰이나 사이버수사대 같은 도움을 받을 수 있는 곳에 문의하시는 게 좋겠습니다.

 

인공지능 AI의 역습 '사라지는 3억개의 일자리'

 

인공지능 기술인 딥페이크, 음성 생성 등 악용하는 것은 범죄입니다.