AI 영상 제작 앱 동향과 딥페이크 범죄 기술 분석

AI 영상 제작 애플리케이션 동향 및 딥페이크 기술을 이용한 불법 콘텐츠 저장 방식 연구(1)

최근 보도에 따르면 ‘성희롱성 딥페이크 앱’ 또는 ‘성착취물 제작이 가능한 딥페이크 앱’의 2023년 3월 부터 현재까지 누적 다운로드 수가 17만 1,456건에 달하고, 그 중 10대 이하의 사용자가 4만 1,545건에 달한다는 보도가 나온 바 있다.

친구들의 사진 또는 특정인의 영상과 이미지를 이용한 성적인 내용의 딥페이크 이미지와 영상은 그 대상이 미성년자인 경우에는 ‘성착취물 제작 (5년 이상의 유기징역)’에 해당하고, 그렇지 않다고 하더라도 허위 성적 영상물 등 제작 유포로 7년 이하의 징역에 처벌될 수 있는 중범죄에 해당한다.

이와 관련하여 특히, 미성년 자녀들의 다양한 딥페이크 범죄와 처벌 문제가 발생하고 있는 바 이에 대해서 주요한 딥페이크 기술과 딥페이크 앱을 정리하여, 학부모들이 자녀의 지도 관리 및 억울하게 발생할 수 있는 딥페이크 제작 및 소지 누명 사안에 대해서 적극적으로 대응할 수 있도록 이 글을 작성하였다.

I. AI 기반 영상 생성 및 딥페이크 기술 소개 💻

🔎 AI 영상 제작 및 딥페이크 합성 정의

AI 영상 제작은 인공지능을 활용하여 비디오 콘텐츠를 생성, 편집 또는 향상하는 광범위한 기술을 포괄한다. 
이는 자동 자막 생성, 배경 제거와 같은 편집 작업부터 텍스트나 이미지 프롬프트를 기반으로 한 완전한 비디오 합성에 이르기까지 다양하다. 

딥페이크 기술은 AI 영상 제작의 한 분야로, 특히 딥러닝(주로 생성적 적대 신경망 - GANs)을 사용하여 기존 이미지나 비디오를 원본 이미지나 비디오에 겹쳐 매우 사실적이지만 조작된 콘텐츠를 만드는 것을 지칭한다. 이는 주로 얼굴을 바꾸거나 합성된 인간의 모습을 만드는 데 사용된다. 이러한 도구들의 급격한 발전과 접근성 향상은 창작 산업뿐만 아니라 악의적인 활동에도 중대한 영향을 미치고 있다.

🔎 이중적 사용성: 창의적 잠재력 대 악의적 활용

AI 영상 도구는 콘텐츠 제작, 마케팅, 교육, 엔터테인먼트 분야에서 상당한 이점을 제공한다. 

예를 들어, 매력적인 소셜 미디어 콘텐츠 제작, AI 아바타를 활용한 교육 비디오 생성, 또는 영화 특수 효과 제작 등이 있다. Adobe Firefly와 같은 도구는 상업적으로 안전한 AI 생성 도구를 제공하는 것을 목표로 한다.

그러나 동일한 기술이 비동의적 음란물(딥페이크 음란물) 제작, 허위 정보 캠페인, 사기, 협박 등 사악한 목적으로 악용될 수 있으며, 실제로도 악용되고 있다. 

이러한 이중성을 이해하는 것은 균형 잡힌 규제 및 기술적 대응을 개발하는 데 매우 중요하다. 

AI 영상 편집 도구들이 소셜 미디어 콘텐츠 향상이나 전문 프레젠테이션 제작과 같은 합법적이고 일상적인 용도로 마케팅되면서, 사용자들은 정교한 AI 기능에 익숙해지고 있다. 

이러한 도구들은 배경 제거, 아바타 생성 등 딥페이크 기술과 기술적으로 연관된 기능들을 포함하고 있어, 사용자들이 AI가 복잡한 영상 조작을 원활하게 수행하는 것에 익숙해짐에 따라 딥페이크 기능에 대한 이해나 접촉의 기술적 장벽이 낮아진다. 

이러한 AI 기술의 보편화는 악성 애플리케이션과 양성 애플리케이션 간에 기본 AI 원리가 공유되기 때문에 오용 가능성에 대한 둔감화 또는 과소평가를 초래할 수 있다. 

많은 앱이 광고하는 사용 편의성은 창작과 잠재적 오용 모두에 대한 진입 장벽을 더욱 낮춘다. 
따라서 공공 인식 및 디지털 리터러시 프로그램은 명백히 악의적인 딥페이크 도구뿐만 아니라 광범위한 AI 영상 조작 환경을 다루어 기능과 위험의 연속성을 강조해야 한다.

🏆 이 글의 범위 및 목표 개요

이 글에서 우리는 특히 딥페이크 제작이 가능한 애플리케이션을 중심으로 AI 영상 제작 애플리케이션의 유형을 조사할 것이다. 또한, 이러한 애플리케이션의 기능, 작동 방식 및 기반 기술을 상세히 설명할 것이다. 

글의 상당 부분은 AI로 생성된 성착취물이 1)파일 형식, 2)일반적인 저장 매체, 3)유통 채널을 포함하여 어떻게 저장되는지에 할애될 것이다. 왜냐하면, 이 글의 목표는 이 기술의 결과에 대처해야 하는 학부모들, 그리고 전문가들(법률가들)에게 정보를 제공하기 위해 포괄적이고 증거에 기반한 이해를 제공하는 것이기 때문이다.

GAN과 같은 빠르게 발전하는 AI 모델에 의해 구동되는 딥페이크 기술은 점점 더 정교해지고 접근성이 높아지고 있으며, 새로운 기능과 앱이 지속적으로 등장하고 있다. 

딥페이크 오용에 대응하기 위한 입법 노력이 진행 중이지만, 법적 절차는 본질적으로 기술 발전보다 느리다. 

법안이 통과될 때쯤이면 기술은 이미 발전하여 새로운 허점이나 과제를 야기할 수 있다. 

인터넷과 앱 배포의 글로벌한 특성은 법적 관할권과 집행을 더욱 복잡하게 만든다. 순전히 사후 대응적인 법적 접근 방식은 불충분할 가능성이 높다. 기술적 안전장치, 산업 자율 규제(오픈 소스 도구의 경우 어렵지만), 국제 협력을 포함한 선제적 조치가 중요하다.

II. AI 영상 제작 및 딥페이크 애플리케이션 현황

✏️ 일반 AI 영상 편집 및 생성 도구

이러한 애플리케이션들은 주로 얼굴 교환에 특화되지 않고, AI를 사용하여 다양한 입력으로부터 영상 편집 워크플로우를 향상시키거나 영상 콘텐츠를 생성하는 데 중점을 둔다.

• Movavi Video Editor

소셜 미디어 콘텐츠 개선에 적합한 AI 기반 편집 옵션을 갖춘 사용자 친화적인 소프트웨어로 마케팅된다. AI 배경 제거 및 노이즈 제거 기능이 포함된다. 이는 광범위한 사용자 기반에 AI 편집 기능을 제공하는 도구를 대표한다.

• PowerDirector

AI 신체 효과, 객체 감지, AI 복원(노이즈 제거), AI 애니메이션 생성, AI 자동 자막, 텍스트 음성 변환, AI 캐릭터 효과, AI 배경 제거(누끼따기), AI 모션 트래킹, AI 일러스트 생성 등 광범위한 AI 기능을 갖춘 포괄적인 비디오 편집기이다. 이는 단일 편집 제품군 내에 다양한 AI 기능을 통합하여 초보자와 숙련된 사용자 모두에게 적합함을 보여준다.

• Adobe Firefly

Adobe의 AI 기반 콘텐츠 제작 플랫폼으로, '텍스트-비디오' 및 '이미지-비디오' 기능을 제공한다. Adobe Stock 및 공개 도메인 자료와 같은 라이선스 콘텐츠로 학습된 모델을 통해 윤리적 AI를 강조하며, Adobe 사용자 콘텐츠로는 학습하지 않는다고 명시적으로 밝히고 있다. 생성된 비디오는 현재 5초 길이, 1080p 해상도이며 mp4로 다운로드 가능하다. 이는 주요 소프트웨어 공급업체의 영상 생성 분야 윤리적 AI 접근 방식을 강조하며, 종종 규제되지 않는 다른 도구들과 대조된다.

• Synthesia

텍스트 스크립트로부터 AI 아바타를 사용하여 비디오를 제작하는 데 특화되어 있다. 120개 이상의 언어를 지원하며 다양한 아바타, 템플릿 및 사용자 정의 옵션을 제공한다. 주로 교육 비디오, 기업 커뮤니케이션 및 마케팅에 사용된다. 이는 전문적인 애플리케이션을 위한 합성 미디어 분야의 성장을 보여주며, 인간과 유사한 AI 발표자가 생성된다.

기타 주목할 만한 도구로는 Pictory (긴 형식 콘텐츠 또는 블로그에서 짧은 비디오 제작), Wisecut (자동 무음 제거 및 자막 처리), Vmaker AI (긴 형식에서 짧은 형식으로 변환, AI 자막, AI 배경 제거), Descript (스튜디오 사운드, 필러 단어 제거, 오버더빙), Flexclip (무료 AI 영화 제작기), Deepbrain AI (AI 텍스트-비디오 자동 생성) 등이 있다.

✏️ 특수 딥페이크 제작 애플리케이션

이러한 애플리케이션은 명시적으로 딥페이크, 특히 얼굴 교환 제작을 위해 설계되었거나 그러한 기능으로 널리 알려져 있다.

• Reface

얼굴 교환 기능으로 유명한 인기 모바일 앱으로, 사용자가 자신의 셀카를 GIF 및 비디오 클립에 겹쳐 놓을 수 있게 한다. 일반적으로 엔터테인먼트용으로 마케팅된다. 사용자 작업 흐름에는 템플릿 선택 및 셀카 업로드가 포함된다. 이는 종종 "재미있는" 애플리케이션에 초점을 맞춘 모바일 앱을 통해 대중이 딥페이크 유사 기술에 쉽게 접근할 수 있음을 나타낸다.

• FaceApp

연령 조작(노화/회춘), 성별 전환, 미소 추가 및 기타 미용 기능을 포함한 수많은 AI 필터를 갖춘 모바일 사진 편집 앱이다. 주로 사진 편집기이지만, 변형 효과는 딥페이크 이미지 생성과 기술적 기반을 공유한다. 60개 이상의 사실적인 필터를 제공한다. 이는 AI 기반 얼굴 조작이 사진 편집 분야에서 주류가 되었으며, 딥페이크 기능과의 경계를 모호하게 만들고 있음을 보여준다.

• Zao

사용자 얼굴을 영화 클립에 빠르고 사실적으로 교환하는 기능으로 악명을 얻은 중국 앱이다. 출시 당시 상당한 개인 정보 보호 우려를 불러일으켰다. 이는 기술의 함의를 주류의 주목을 받게 한 매우 효과적이고 사용자 친화적인 딥페이크 앱의 초기 사례였다.

• DeepFaceLab

주로 GitHub에서 호스팅되는 오픈 소스 딥페이크 소프트웨어이다. 모바일 앱보다 강력하고 유연하지만 효과적으로 사용하려면 기술적 지식이 필요하다. 정교한 딥페이크를 만드는 데 널리 사용되며 얼굴 추출, 정렬, AI 모델 학습 및 얼굴 병합과 같은 프로세스를 포함한다. 이는 더 발전된 "프로슈머" 또는 전문가 수준의 딥페이크 제작 도구를 대표하며, 더 큰 제어력을 제공하지만 상당한 계산 자원과 전문 지식을 필요로 한다.

• Deepfakes Web

사용자가 소스 비디오와 대상 얼굴 비디오를 업로드하여 딥페이크 비디오를 만들 수 있는 클라우드 기반 서비스이다. 플랫폼이 클라우드에서 처리를 담당한다. 이는 강력한 로컬 하드웨어 없이 딥페이크 제작에 접근할 수 있는 대안을 제공하지만, 타사 서비스에 데이터를 업로드하는 것을 포함한다.

언급된 다른 앱으로는 Voilà AI Artist (사진을 만화/아바타로 변환), MyHeritage Deep Nostalgia (오래된 사진 애니메이션화), Avatarify (얼굴을 애니메이션화하여 노래하거나 말하게 함), Wombo (립싱크 앱), FaceMagic (Reface와 유사), FakeYou (유명인 목소리로 텍스트 음성 변환) 등이 있다.

✔️ 접근성 및 사용자 인터페이스 고려 사항

명확한 이분법이 존재한다.

• 모바일 앱 (Reface, FaceApp)

일반적으로 직관적이고 사용자 친화적인 인터페이스를 특징으로 하며 최소한의 기술적 능력이 필요하다. 종종 사전 설정된 템플릿과 자동화된 프로세스에 의존한다.

• 데스크톱/오픈 소스 소프트웨어 (DeepFaceLab)

더 복잡한 인터페이스, 명령줄 작업이 있는 경향이 있으며 사용자가 데이터 준비, 모델 학습 및 렌더링의 작업 흐름을 이해해야 한다. Deepfakes Web과 같은 클라우드 기반 서비스는 기술적 복잡성을 추상화하여 프로세스를 단순화하는 것을 목표로 한다.

Reface 및 FaceApp 과 같은 앱은 엔터테인먼트 또는 셀카 편집기로 마케팅되어 사용자가 "재미있는" 변환을 위해 얼굴 데이터를 업로드하도록 권장한다. 사용 편의성과 매력적인 결과는 광범위한 채택으로 이어진다. 
이 과정은 앱에 생체 인식 얼굴 데이터를 제공하는 행위와 자신 또는 타인의 모습을 디지털 방식으로 변경하는 개념을 일반화한다. 

많은 사용자가 무해하게 참여하지만, 얼굴 조작 및 데이터 공유에 대한 이러한 광범위한 편안함은 접근 가능한 얼굴 데이터의 더 큰 풀을 만들고 기술에 대한 사회적 억제를 낮추어 악의적인 행위자가 이미지를 소싱하거나 사용자가 그 의미를 완전히 이해하지 못한 채 문제가 있는 콘텐츠를 만드는 것을 잠재적으로 더 쉽게 만든다. 

이러한 앱의 개인 정보 보호 정책(예: Zao의 초기 논란)이 중요해진다. 따라서 이러한 앱의 일상적인 사용은 의도치 않게 더 심각한 개인 정보 침해와 디지털 초상 조작의 윤리적 경계에 대한 둔감화의 토대를 마련할 수 있다. 디지털 리터러시는 "재미있는" 앱이라도 데이터 개인 정보 보호에 미치는 영향을 다루어야 한다.

딥페이크 도구 생태계는 다양한 의도와 기술 수준에 맞춰 계층화되어 있다. 한쪽 끝에는 Reface 와 같은 모바일 앱이 캐주얼 사용자를 위해 제한된 사용자 정의로 빠르고 간편한 얼굴 교체를 제공한다. Deepfakes Web과 같은 클라우드 서비스는 모바일 장치보다 더 많은 처리 능력을 제공하지만 모델 학습을 추상화하여 사용 편의성을 목표로 한다. 
다른 한쪽 끝에는 DeepFaceLab 과 같은 오픈 소스 도구가 최대 제어력과 고품질 결과를 제공하지만 상당한 기술, 시간 및 계산 자원(종종 강력한 GPU 필요)을 요구한다. 

이러한 계층 구조는 접근 가능한 앱으로 인해 일상적인 오용이 광범위할 수 있지만, 표적 괴롭힘이나 허위 정보와 같은 더 정교하고 잠재적으로 해로운 딥페이크는 복잡한 도구를 마스터하려는 헌신을 가진 개인이 만들 가능성이 높다는 것을 의미한다. 

완화 전략은 다면적이어야 한다. 앱 스토어 정책 및 사용자 교육을 통해 일상적인 오용을 해결하는 것은 고급 도구를 사용하는 헌신적인 악의적 행위자를 다루는 것과는 다르며, 이는 더 정교한 탐지 및 법의학 기술을 필요로 한다. 오픈 소스 도구의 가용성은 특정 앱을 단순히 금지하는 것만으로는 불충분하다는 것을 의미하기도 한다.

PowerDirector 와 같은 일반 AI 비디오 편집기는 "AI 누끼따기"(AI 배경 제거/객체 분리) 및 "AI 캐릭터 효과"와 같은 기능을 제공한다. Synthesia 는 스크립트된 대사를 말하는 AI 아바타 생성을 허용한다. 

이러한 기능은 합법적인 창의적 또는 전문적 목적으로 설계되었지만, 인간과 유사한 특징을 분리, 조작 및 합성하는 기본 기술은 개념적으로 딥페이크 생성 단계와 유사할 수 있다. 예를 들어, 배경에서 사람을 정확하게 분리하고 효과를 적용할 수 있는 AI(PowerDirector)는 일종의 이미지 분할 및 조작을 수행하는 것이다. 말하는 아바타를 생성할 수 있는 AI(Synthesia)는 립싱크 및 얼굴 애니메이션을 다루고 있다. 

이는 이러한 합법적인 도구에 익숙한 사용자가 딥페이크 영역으로 벗어나는 기술을 더 쉽게 이해하거나 실험할 수 있거나, 딥페이크를 위해 명시적으로 설계되지 않았더라도 기능이 미묘하게 오용될 수 있는 시나리오를 만든다. "AI 비디오 편집기"와 "딥페이크 도구" 사이의 구분은 항상 명확하지 않다. 

일반 AI 비디오 도구 내의 윤리적 지침과 내장된 안전장치는 강력한 기능의 우발적이거나 의도적인 오용을 방지하는 데 점점 더 중요해지고 있다.

다음 표는 주요 AI 영상/딥페이크 애플리케이션의 개요를 제공한다.

표 1: 주요 AI 영상/딥페이크 애플리케이션 개요