틱톡
틱톡은 15~60초 사이 짧은 비디오 영상을 제작하고 공유하는 글로벌 동영상 SNS 플렛폼입니다. 한국에선 유명하지 않아 잘 모를 수 있는데, 중국에선 유명한 SNS입니다.
틱톡과 딥페이크
틱톡, 가짜뉴스 확산 논란 ‘딥페이크’ 기능 구축...“코드 포착, 이용자 공개는 아직” - SNS News1
틱톡이 인공지능(AI)으로 영상, 음성을 조작하는 딥페이크(Deep Fake) 기능을 구축한 사실이 전해졌다. 딥페이크 기술은 SNS를 통해 정...
www.snsnews1.com
딥페이크는 인공지능을 활용해 영상이나 사진을 합성하거나 조작하는 기술입니다. 최근에 영화 CG, 무료 초상권(?)사진 등으로 활용되는 예가 나오면서 이슈가 되기도 했습니다.
틱톡에서는 FaceSwap 이라는 딥페이크 기능을 추가했습니다. 페이스 스왑은 다양한 각도에서 이용자 얼굴을 찍어서 다른 사람의 몸에 이 얼굴을 추가해서 공유합니다.
이 기능은 아직 사용자에게 공개되진 않았지만, 틱톡의 중국 서비스의 소스코드에 이와 관련된 내용이 들어있다고 합니다.
외신들은 이 기능에 대해서 혹여 악용되지 않을까 우려를 내비쳤습니다. 예를 들어 딥페이크 기능을 이용해 성인물을 제작한다거나, 가짜 뉴스를 생성한다거나, 정치에 악용된다거나 등같은 악용 사례가 있기 때문입니다.
딥페이크 탐지 기술
위와 같은 문제 때문에 딥페이크에 대항할 탐지 기술도 개발되고 있습니다. 딥페이크로 만들어진 영상이나 사진을 탐지하여 이를 이용자에게 알려주는 것입니다. 하지만 이 탐지 기술로도 모든 문제를 해결할순 없습니다. 딥페이크로 만들어진 컨텐츠가 넷상에 퍼지게 된다면, 탐지를 하고 문제가 되어 삭제를 했다고 해도 원본이 여전히 남아있을 가능성이 큽니다. 고로 아무리 탐지기술을 펼치더라도 피해자 혹은 문제가 되는 사진을 완벽하게 삭제하는게 매우 어려운 일일것입니다.