- 가상인물이
아닌 사람은? - 중복선택 가능
선택완료
정답: 없음
모두 StyleGAN2로 제작된
가상인물입니다.
트럼프·송혜교도 당했다
딥페이크
‘악마의 복제’
수법들
딥페이크의
확산
조인성·송혜교 딥페이크 영상 SBS
투자금을 주면 대신
주식 투자를 해준다
영상 속에는 조인성이 자신의 이름을
직접 말하며 행사 개최에 감사한다고
말한다. 이는 딥페이크 영상으로 올해
초 조인성, 송혜교의 얼굴과 음성을
조작한 가짜 영상을 활용해 투자를
권유하는 사기 범죄 피해로 드러났다.
이 조직은 주식 투자계 유명 인사인
‘배터리 아저씨’ 박순혁 작가의 비서
라고 소개하며 투자자들에게 투자를
권유한 것으로 알려졌다.
기술이 발전할수록 딥페이크 영상을
제작하기는 쉽고 식별하기는 어려워
지면서 이를 사기에 악용하는 사례가
끊이지 않는다는 지적이다.
조인성·송혜교 딥페이크 영상 SBS
특히 유명인들의 이미지를 불법으로
사용한 스캠 광고는 파급력과 피해
규모가 커 소비자들의 더욱 큰 주의가
요구되고 있다.
그리고 미국에서는
조 바이든 미국 대통령의
목소리를 흉내 낸 로보콜
(자동 녹음 전화)이
유권자들에게 걸려왔다.
인공지능(AI)의 선거
악용이 우려되고 있다.
조 바이든 딥페이크 음성 CNN
뉴햄프셔 주 법무장관실은 성명을 통해
이를 ‘경선을 방해하고 유권자들에게
혼란을 주려는 불법적 시도’로
규정했다.
- 선거 AI 악용 첫 사례
- 미국 대선 기준
- 2만 5000명 유포
- CNN 보도 기준
윤석열 대통령 또한 29일 페이스북의
모회사인 메타의 마크 저커버그
최고경영자(CEO)를 만나
‘가짜 윤석열 영상’에 대한 경험담을
밝혔다. 딥페이크가 아닌 짜깁기
영상으로 밝혀졌지만,
마크 저커버그는 AI를 악용한
가짜뉴스와 허위선동 조작에 대해
“자유 민주주의를 위협하는
심각한 문제”라며 “올해는 전세계
여러 국가에서 선거가 있는 만큼
메타와 같은 빅테크 플랫폼
기업들이 가짜뉴스와 각종 기만
행위들을 신속하게 모니터링하고
조치할 수 있도록 각별한 관심을
가져달라”고 했다.
세계적인 기업들
딥페이크 차단에
나선다
세계적인 기업들
딥페이크 차단에
나선다
오픈AI, 구글, 마이크로소프트
세계적인 빅테크들이 16일(현 시각)
개막한 독일 뮌헨안보회(MSC)에서
인공지능(AI)을 기반으로 한
딥페이크를 차단하는데 합의했다.
현재까지 서명한 기업들은 어도비,
아마존, 앤트로픽, ARM, 일레븐렙스,
구글, IBM, 인플렉션 AI, 링크드인,
맥아피, 메타, 마이크로소프트, 노타,
오픈AI, 스냅, 스태빌리티 AI, 틱톡,
트렌드 마이크로, 트루픽, X가 있다.
딥페이크는
무엇인가
인공지능 기술인 딥러닝
(deep learning)과 ‘가짜’를
의미하는 단어인 페이크
(fake)의 합성어. 인공지능
기술을 이용하여 진위 여부를
구별하기 어려운 가짜 이미지나
영상물이다.
-
- 딥러닝
- Deep Learning
-
- 페이크
- Fake
-
- 딥페이크
- DeepFake
부정적
활용 예시
-
성범죄로 악용
유명인의 신체를
무단 도용해,
딥페이크 포르노 제작 
-
조작영상 제작
유명인의 얼굴을
합성한 딥페이크
조작
영상 난무 -
-
금전적 요구 피해
조작한 영상을 통한
금전적 요구 -
-
개인정보
유출 피해개인의 사진 무단
사용 및
조작한
영상을 통한
개인정보 요구 
긍정적
활용 예시
-
신원 확인 수단
범죄자 색출 및
테러범 차단 등 
-
의료분야에서의
활용X선과 CT, MRI
자료 분석해
암 예방 -
-
장애인 복지 향상
알츠하이머 환자를
위한 음성복제 
-
정서적 안정 및
위로 매개체그리운 존재를 가상으로 보여줌
딥페이크
사례들
※아래 사진은 모두 딥페이크며 실제
인물과 관련없는 사진입니다.
딥페이크
사례들
※아래 사진은 모두 딥페이크며 실제
인물과 관련없는 사진입니다.
도널드 트럼프
Donald Trump
엘리엇 히긴스라는 블로거 겸 시민
기자는 이미지 생성 인공지능(AI)
‘미드저니’의 최신 ‘버전 5’를 활용해
생성한 사진들을 트위터에 게시, 하
루만에 417만 건의 조회 수를 기록
딥트레이스
김정은
Kim Jong un
2020년 9월 29일 미국 비영리단체
리프리젠트어스 (RepresentUs)가
유튜브에 올린 영상 ‘독재자-김정은
(Dictators=Kim Jong-Un’이다.
미국 대통령선거 독려 광고로 제작
됐다고 한다. 조선DB
프란치스코 교황
Pope Francis
2023년 3월 엑스(전 트위터) 사용자
‘스카이페로리’는 딥페이크를 이용해
프란치스코 교황이 긴 흰색 패딩
코트를 입은 가짜 사진을 만들어 올렸다.
좋아요 19만7000개와 조회 수
2810만 건 기록했다.
레딧
데이비드 베컴
David Beckham
2020년 비영리기구 ‘Malaria
must die(말라리아 머스트
다이)’가 만든광고에 출연해
9개국어로 말라리아에 대항해
같이 싸우자는 메세지를
전달했다. 딥페이크로 입 모양을
수정해 제작한 광고.
제로 말라리아 브리튼
일론머스크
Elon Musk
알렉산드리아
오카시오코르테스
Alexandria Ocasio-Cortez
메리 바라
Mary Teresa Barra
2023년 3월 테슬라 최고 경영자
(CEO)가 미국 민주당 하원의원
알렉산드라 오카시오 코르테스와(1)
메리 바라 제너럴모터스(GM) 최고
경영자(2)와 함께있는 모습을
AI연구 전문기업 올유어테크
(All your tech)가 공개했다.
올유어테크
톰 크루즈
Tom Cruise
2021년 2월 미국 뉴스매체 데일리
비스트에 따르면 틱톡 계정 운영
@deeptomcruise가 딥페이크 기술을
활용해 가짜 톰 크루즈 영상을
만든것이라고 보도했다. 틱톡
버락 오바마
Barack Obama
조던 필
Jordan Peele
미국 인터넷 매체인 버즈피드가
유튜브에 공개한 버락 오바마(왼쪽)
전 미국 대통령과 미국 영화 감독
조던 필(오른쪽) 버즈피드
유관순
Yu Gwan soon
안중근
Ahn Jung geun
윤봉길
Yun Bong gil
2021년 3월 국내 누리꾼들이 해외
온라인 족보 사이트 마이헤리티지
(My Heritage)의 딥페이크 기술
‘딥 노스탤지어’를 활용했다. 마이헤리티지
손석구
Son Suk Gu
넷플릭스 드라마 ‘살인자ㅇ
난감’의 장난감 형사(손석구)
아역 캐릭터는 이목구비가
손석구 배우를 닮았다.
손석구 배우의 어린시절
사진을 인공지능 기술로
합성한 것이다. 조선 DB
딥페이크는
어떻게 만들어지나
적발된 온라인
딥페이크 동영상 수
홈시큐리티히어로스
사이버 보안 회사 홈시큐리티 히어로스에 따르면 2020년 온라인에 올라온 딥페이크 동영상 수는 9만 5820건으로 AI가 확산하기 전인 2018년보다 약 550% 늘었다.
딥페이크 영상
피해자 성별
2020년 12월~2021년 4월
경찰청 국가수사본부
경찰청 국가수사본부에 발표로는 딥페이크 영상 피해자 성별은 여성이 95.6%이고, 남성은 4.4% 이다.
연령대별
피의자 수
2020년 12월~2021년 4월
경찰청 국가수사본부
딥페이크 피의자 중 10대가 69.1%, 20대가 18.1%를 차지해 전체의 87.2%를 형성한다.
연령대별
피해자 수
2020년 12월~2021년 4월
경찰청 국가수사본부
딥페이크 피해자 수 또한 10대와 20대가 전체의 98.2%를 차지한다. 이는 딥페이크 관련 범죄가 주로 젊은층에서 발생하고 있음을 보여준다.
딥페이크 성범죄,
대한민국은 안전할까
세계 1위
딥페이크 성범죄 제작물에 등장하는 피해자의 국적을 조사한 결과, 한국이 가장 많은 비율을 차지하는 것으로 나타났다. 2023년에 발표된 보고서에 따르면, 딥페이크 성착취물에 등장한 인물의 53%가 한국인이며, 이는 2위 인 미국(20%)과 3위인 일본(10%) 과 큰 격차를 보인다.
학교
교육부가 발표한 자료에 따르면, 2024년 1월 1일부터 9월 6일까지 딥페이크 성범죄 피해자는 총 617명으로, 이 중 학생이 588명, 교원이 27명, 그리고 직원 등은 2명이 피해를 입은 것으로 조사되었다.
인식의 문제
한국 여성변호사회 아동청소년 특별위원장 서혜진 변호사는 청소년들이 딥페이크 성범죄를 또래 집단에서 인정받기 위한 놀이로 여긴다고 밝혔다. 2022년 조사에서도 청소년들은 처벌의 약함과 익명성 으로 인한 범죄 확산을 지적했다.
딥페이크와
합성 미디어 기술
기술 발전과 접근성 향상으로 딥페이크 생성이 급증했다. 특수 도구에서 사용자 친화적인 애플리케이션 및 오픈 소스 플랫폼으로의 전환으로 인해 설득력 있는 딥페이크를 만들 수 있는 대상이 크게 확대 되었으며, 이는 인터넷 전반에 걸쳐 이 기술의 확산에 주목할 만한 변화를 가져왔다.
미국 국토안보부 (U.S. Department of HomelandSecurity)
버튼을 눌러 딥페이크 종류를 확인해보세요
- 퍼펫 마스터(Puppet Master)
- 사진의 인물이 동영상 속 인물의 얼굴 표정과
동작을 따라 하게 하는 영상합성
2019
세계 리더들의 ‘Imagine’John Lennon의 ‘Imagine’을 부르는 세계 지도자들의 Canny AI 딥페이크 기술
Canny AI
2019
달리 뮤지엄에서 살바도르 달리샌프란시스코 광고회사인 굿바이 실버스타인&파트너스(Goodby Silverstein & Partners)와 협업을 통해 제작한 달리 라이브(Dalí Lives) 인공지능 딥페이크 비디오 설치작품
The Dali Museum
2020
닉슨 대통령 ‘moon landing’매사추세츠 공과대학(MIT) 미디어 아티스트 프란체스카 파네타와 홀지 버건드는 두 개의 AI 회사인 Canny AI와 Respeecher와 협력해서 미국의 전 대통 령 리차드 닉슨의 딥페이크 영상 제작
MIT
2020
퀸 엘리자베스 2세영국의 대표 민영방송 채널4에서 디지털 시대의 가짜 뉴스가 어느 수준까지 이를 수 있는지 보여주기 위해 기획한 퀸 엘리자베스 댄스 영상
채널4
- 마우스 스왑(Mouth Swap)
- 발화 음성을 토대로, 음성과 일치하는 입 모양을
갖게 하는 영상합성
2018
오바마미국 인터넷 매체인 버즈피드가 유튜브에 공개한 버락 오바마 (왼쪽) 전 미국 대통령과 미국 영화 감독 조던 필(오른쪽)
BuzzFeed
2019
마크 저커버그예술가인 빌 포스터(Bill Poster)와 다니엘 하우(Daniel Howe), 그리고 인공지능 스타트업 캐니AI(CannyAI)의 공동 작업물
Canny AI
- 페이스스왑(Face Swap)
- 영상에서 얼굴을 인식하고 교체하는 AI 딥러닝 기술
2019
제니퍼 로렌스Reddit 사용자 VillainGuy가 처음 게시한 스티브 부세미 얼굴을 제니퍼 로렌스 몸에 붙이는 페이스 스왑 영상
The Late Show with Stephen Colbert
2019
빌 헤이더체코 출신 그래픽 일러스트레이터는 딥페이크의 위험성을 경고하기 위해 만든 빌 헤이더에서 아너드 슈워제네거로 얼굴이 바뀌는 영상
Ctrl Shift Face
2020
조 로건데사의 머신 러닝 전문가들은 팟캐스터이자 MMA 해설가인 조 로건의 얼굴과 목소리가 똑같이 바뀌는 인공지능 기술 소개
DESSA
- 음성(Deep Voice)
- 특정 인물의 목소리를 복제해
인물이 하지 않은 말을 실제처럼 만들어내는 기술
2021
앤토니 보데인영화 ‘로드러너’에서 연출자 모건 네빌 감독은 앤서니 보데인의 생전 목소리를 작품 속 독백으로 사용하기 위해 음성 딥페이크 기술 사용
Fox 11
딥페이크
탐지기
시장조사업체 마켓츠앤드마켓츠에
따르면 딥페이크 탐지기 시장 규모는
2022년 5억 달러에서 2027년 18억
달러까지 전망하고 있다고 한다.
이는 연평균 성장률 29.1%로 무서운
속도로 성장 중이다.
- 업체
- 인텔
- 탐지기명
- 페이크 캐처
얼굴에서 혈류 신호
수집해 딥페이크 감지
- 업체
- DARPA
- 탐지기명
- 세마포(Semafor)
딥페이크 유무 분석 및
딥페이크 생성 이유 등 추론
- 업체
- 센티널
- 탐지기명
- 센티널 AI
AI로 프레임 단위 얼굴 분석
등 위조 여부 감지하고 조작된
부분 시각적 표현
- 업체
- 구글
- 탐지기명
- 신스ID
육안 식별 불가한 AI 합성
이미지용 인증 워터마크
- 디자인
- 이민경·이연주·한유진
- 퍼블리싱
- 장슬기