PGR21.com
- 모두가 건전하게 즐길 수 있는 유머글을 올려주세요.
- 유게에서는 정치/종교 관련 등 논란성 글 및 개인 비방은 금지되어 있습니다.
Date 2017/12/12 18:45:29
Name 유진호
File #1 00e4238f40f560095df7eea0ecd47d32.jpg (29.4 KB), Download : 805
출처 네이버뿜
Subject [기타] AI로 유명인의 얼굴을 빌려 가짜 포르노 영상을 만드는 기술 개발 중 (수정됨)


미국 유명 게시판 사이트, 레딧에 어떤 동영상이 올라왔다.

동영상 내용은 영화 원더우먼의 주역을 맡은 여배우, 갤 가돗이 나온 포르노 영상.

그런데 이건 진짜로 갤 가돗이 아니라, AI가 그녀의 얼굴을 포르노 배우 얼굴 위에 합성한 가짜 영상이었다.

이 영상을 올린 아이디 deepfakes 유저는 AI에 흥미가 있는 프로그래머라고 자신을 소개했다.

그는 오픈 소스인 AI 기계 학습 툴을 이용해 동영상을 합성하는 AI를 만들었다고 한다.

deepfakes는 구글 이미지 검색, sns, 유튜브를 통해 모은 유명인 얼굴을 컴파일해 AI에게 학습시킨 뒤

이걸 토대로 동영상 합성을 했다며 특별한 기자재나 고도의 기술은 사용하지 않았다고 한다.



Take my money....

통합규정 1.3 이용안내 인용

"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.
법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
17/12/12 18:46
수정 아이콘
와 이건...
이민들레
17/12/12 18:48
수정 아이콘
그래서 그 영상은 어디에..?
키스도사
17/12/12 18:53
수정 아이콘
글쓴분이 남긴 링크가면 나오네요.

살짝 어색함도 느껴지긴 합니다만 그래도 저정도면 덜덜
17/12/12 18:55
수정 아이콘
개드립닷넷에 비슷한 글을 봤는데, 애들이 참 친절 했어요.
언뜻 유재석
17/12/12 18:49
수정 아이콘
흠... 붸리 인터레스팅...
17/12/12 18:49
수정 아이콘
와 쩐다..
WEKIMEKI
17/12/12 18:50
수정 아이콘
av배우 다죽는다 이놈들아!
티모대위
17/12/12 19:37
수정 아이콘
오히려 얼굴 말고 몸매만 좋은 AV 배우들의 전성시대가 올지도...
3.141592
17/12/12 18:52
수정 아이콘
이 내용이 사실인지는 차치하고, 실현된다면 끔찍한데요? 일본에서는 연예인 합성 누드사진이 명예훼손으로 유죄뜬 사례도 있습니다. 하물며 동영상이라니요
17/12/12 18:53
수정 아이콘
진짜 인간은 성욕은 기술발전의 속도를 엄청나게 부스팅해주는것같습니다...크크크
일해라 일루전! 토이즈하트!
아즈가브
17/12/12 18:53
수정 아이콘
음. 그런데 저거 고소먹지 않을까요...
진지 안먹을 수가 없는데...
쌀스틱
17/12/12 18:53
수정 아이콘
이제 대 고소의 시대가 열리려나...
17/12/12 18:54
수정 아이콘
흠터레스팅이긴 한데 초상권이나 모욕죄 같은 문제가 있지 않을까요... 근데 저기다 vr이나 가상체험을 끼얹으면....흠
순규성소민아쑥
17/12/12 21:09
수정 아이콘
직접 집에서 vr버전을 만들고 이동식 디스크에 저장해서 혼자 봐야겠군요.
MirrorShield
17/12/12 18:55
수정 아이콘
얼굴보다 몸매와 목소리에 더 매력을 느끼는 저로써는 안타깝네요. 크크
존콜트레인
17/12/12 18:56
수정 아이콘
몸매랑 목소리에도 응용할 수 있겠죠.
열역학제2법칙
17/12/12 19:07
수정 아이콘
그게 쉬우면 쉬웠죠
몇달전에 국내에서 목소리 합성한거 유게에 올라오가도 했고...
MissNothing
17/12/12 18:55
수정 아이콘
후원은 어디서하죠?
17/12/12 18:55
수정 아이콘
지난번에 나왔던 목소리 합성이랑 합쳐지면 이제 완전 페이크 영상을 만들수 있겠네요
보로미어
17/12/12 18:56
수정 아이콘
이건 상당히 문제가 많은 불법 같은데요..
달달한고양이
17/12/12 18:56
수정 아이콘
이걸로 돈벌려면 초상권 사와야죠.
아이오아이
17/12/12 18:57
수정 아이콘
제가 여자라면 일단 인터넷 공간에 절대 제 얼굴 안올릴것 같네요. 단 한명이라도 내 얼굴로 저런거 만든다고 생각해도 소름인데...
연예인들만 죽어나겠네요
존콜트레인
17/12/12 19:21
수정 아이콘
반대로 실제 유출사례도 실제인지 합성인지 모르게 될 것 같습니다.
네~ 다음
17/12/12 18:57
수정 아이콘
알파고가 각도기까지 부수네요.. 인류의 위협..
sege2018
17/12/12 18:58
수정 아이콘
오오
광고계정
17/12/12 19:00
수정 아이콘
AI와 VR이 합쳐진다면...
RookieKid
17/12/12 20:00
수정 아이콘
합쳐서 a.....v......?
17/12/12 19:00
수정 아이콘
웃어넘기기에는 너무 파급력도 크고 위험성도 크네요
아라가키
17/12/12 19:00
수정 아이콘
AI 라고 안했으면.. CG인걸 눈치 못챘을거같은데.. 저게 그냥 영상만으로 입히는게 된다니 기술의 발전이란..
루크레티아
17/12/12 19:01
수정 아이콘
대놓고 초상권 엿 먹으라는 기술인데 이게 제대로 될 리가..
17/12/12 19:10
수정 아이콘
고대부터 자급자족은 범죄행위가 아니었습니다...
최종병기캐리어
17/12/12 19:16
수정 아이콘
유포만 안하면 됩.....
엄격근엄진지
17/12/12 19:01
수정 아이콘
인터레스팅...
윤하만
17/12/12 19:02
수정 아이콘
연예인 얼굴 원본을 cg로 수정해서 70-80% 유사하게 바꾼다음 영상에 편집하기로 피해가겠죠....
키스도사
17/12/12 19:04
수정 아이콘
그러고 보니 개발자 닉이 deepfakes군요. 낚시 스멜이...?
공원소년
17/12/12 19:05
수정 아이콘
저는 이거 보고 떠오른게 이제 대역배우 얼굴 편집이나, 수정도 엄청 편하겠다는 생각이 들더라구요.
지나가다...
17/12/12 19:08
수정 아이콘
이건 범죄 같은데...
-안군-
17/12/12 19:10
수정 아이콘
뭐, 저게 발전되면 영화 만들 때 대역배우 얼굴 수정이나, 외계인 역할을 맡은 배우 등에 들어가는 CG 비용이 많이 절감되겠네요.
지금은 사실상 한컷 한컷 오려붙이는 수준인데...
사악군
17/12/12 19:15
수정 아이콘
구글포토 해킹되면 끔찍하겠네요..당장 지인얼굴 합성할 놈들이 엄청 많을거 같은데
사악군
17/12/12 19:17
수정 아이콘
사실 여자만 두려워할게 아닌게 범죄장면에 내 얼굴이 합성되면?
엣헴엣헴
17/12/12 19:19
수정 아이콘
알파고님 충성충성
1perlson
17/12/12 19:24
수정 아이콘
이제 남자들이 자위영상 유포로 고통 받을 일은 없겠네요. 야 그거 누가 합성한거야
사악군
17/12/13 08:00
수정 아이콘
반대죠. 그런 일을 안했어도 내 얼굴로 자위하는 영상이 만들어져서 협박당할 수 있게 된겁니다. 이제 사기꾼들은 피해자의 자위영상을 손에 넣을 필요없이 폰해킹만 성공하면 사진+카톡 연락처를 얻어내면 협박이 가능해짐..
1perlson
17/12/13 09:06
수정 아이콘
부끄러워 할 필요가 없을 것 같단 생각이 들거든요 전.. 그냥 해킹 당한거지 내가 아니다라고 하면 장땡이라...
사악군
17/12/13 09:14
수정 아이콘
과연 장땡일까요.. 부끄럽다기보다 불쾌할 것이죠.

이렇게까지 가지 않아도 그냥 내얼굴 오려다 나체사진에 붙여놓은 게 유포되면 (누가봐도 합성) 내가 한 일 아니어서 부끄럽지 않으니 ok일까요? 그렇지가 않을겁니다. 그런데 이런 정교한 합성이라면 더한거죠.
1perlson
17/12/13 10:03
수정 아이콘
그냥 제 생각입니다. 그런 세상일텐데 뭐 딱히 부끄럽지 않을 것 같네요. 정확하겐 부끄런 정도는 다 다르겠지만 소위 폰섹이 걸려서 쪽팔려 자살한다 같은 극단적인 사태는 줄어들 수 있으니까요
루키즈
17/12/12 19:26
수정 아이콘
표지사기 당할일이 줄어드는겁니까...
데낄라선라이즈
17/12/12 19:26
수정 아이콘
유명인에 집중하지 마시죠.
얼굴갑 + 몸매갑의 완벽한 (av)배우가 탄생가능합니다.
라플라스
17/12/12 19:28
수정 아이콘
cg종사자들은 이제 뭐 먹고 살라고
하늘을 나는 고래
17/12/12 20:31
수정 아이콘
저런기술은 cg종사자에게 큰 타격이 아닙니다...
Normal one
17/12/12 19:32
수정 아이콘
사실 가상 섹스 머신이 나오는 수준까지 도달하면 등장인물은 불법 다운로드 형식이 대세를 이룰것이라는 얘기를 들어서 그러려니 하네요. 유명인뿐 아니라 인스타 같은곳에서 퍼온 짝녀 , 짝남 사진을 기계에 돌려버리면 그 인물들이 띠용하고 튀어 나오는거죠.
구구단
17/12/12 19:33
수정 아이콘
나중엔 벌이 시원찮은 연예인들은 av회사랑 계약해서 돈 받고 얼굴 합성할 수 있게 해줄 수도 있겠네요?
어차피 그 연예인은 얼굴만 빌려준거라 진짜 야동 찍는 것보단 덜 수치스러워할테고...
알 호포드
17/12/12 19:35
수정 아이콘
크흠
설탕가루인형형
17/12/12 19:36
수정 아이콘
합성은 AI가 했으니 불법은 누가 저지른걸까요?
17/12/12 19:36
수정 아이콘
음.. 표정 변화까지 가능할까요?
Tyler Durden
17/12/12 19:38
수정 아이콘
기사 움짤까지보면.. 자유자재입니다;
Scarlet Pleasure
17/12/12 19:38
수정 아이콘
Maisie Williams
Emma Watson
Scarlett Johansson
Gal Gadot
Aubrey Plaza

크흠...보고 왔는데 퀄리티가 생각보다 정말 높네요..
얼굴 주변에 약간 네모박스 같은게 보이는데 그것만 빼면 표정 변화까지 완벽하니...
17/12/12 20:05
수정 아이콘
저도 봤는데 이미 다 된듯?;;
피로사회
17/12/13 08:39
수정 아이콘
라인업이 마치 제가 짠듯해서 흠칫
사나없이사나마나
17/12/12 19:39
수정 아이콘
음... 인권침해 수준 아닌가요...
17/12/12 19:43
수정 아이콘
그 뭐냐 sf 소설 생각나네요.
과거를 볼 수 있는 위대한 발명이 정부 통제하에 있는 것을 알아차리고 양식있는 과학자들이 투쟁하여 그 기술을 공개했더니 정부관료가 와서는 니네가 한 짓은 인류에게 진실을 공개한 것이 아니라 포르노를 퍼뜨린 것에 불과하다고 일침을..
갓파고
17/12/12 19:46
수정 아이콘
흠터레스팅
보석상
17/12/12 19:54
수정 아이콘
이제 조금 더 발전하면 게임 캐릭터 만들듯이
얼굴, 몸매, 의상 등 내가 원하는대로 설정하고
시나리오 만든다음에 VR 키고 들어가면 됩니다
콜드플레이
17/12/12 19:57
수정 아이콘
자위캠영상으로 협박해서 삥 뜯던 사업(?)도 이제 사양길로...
계란초코파이
17/12/12 19:58
수정 아이콘
이건 명백한 인권침해죠. 지금도 연예인들이 합성 나체사진 유포로 고통받고 있는데.....
네오크로우
17/12/12 19:59
수정 아이콘
신기하기는 해도 이건 좀 아닌 거 같네요..;;;
먼치킨
17/12/12 20:08
수정 아이콘
전 오히려 이런 기술의 발전이
장기적으로는 몰카에 대한 사람들의 관심을 없애는 결과를 가져오지 않을까 싶습니다.

합성한거나 합성하지 않은 거나 구분이 안 된다면...
RookieKid
17/12/12 20:17
수정 아이콘
얼굴크기와 합성의 위치, 피부색 정도만 잘 맞추면 되겠네요...
동시에 제가 애정하는 여자연예인들 얼굴이 무단으로 악용될 생각만 하면.... 가슴이 찢어집니다...ㅠ
jjohny=쿠마
17/12/12 20:34
수정 아이콘
(수정됨) 본문 프로젝트도 명백히 본인 동의 없이 진행되고 있을테고,
기술개발 이후에도 대부분 본인 동의 없이 합성이 벌어질텐데,
공개적으로 반가워하는 댓글들을 보게 되다니 좀 벙찌네요.
vanillabean
17/12/12 23:04
수정 아이콘
저도 이 의견에 동의합니다.
사악군
17/12/13 08:02
수정 아이콘
(3)
전크리넥스만써요
17/12/12 20:41
수정 아이콘
https://motherboard.vice.com/en_us/article/gydydm/gal-gadot-fake-ai-porn
원하시는 수위는 아니지만 일단 보시죠.
알파고님 충성충성충성
만년실버
17/12/12 20:55
수정 아이콘
와...본인이 아닌거죠? 헐....
17/12/13 00:38
수정 아이콘
와 피지알 아재들 또 농담하고 있네 했는데 와...
Semifreddo
17/12/12 21:08
수정 아이콘
으헝 무섭네요
17/12/12 21:30
수정 아이콘
어떤 사회적 문제를 낳을지 상상도 안갑니다..
지금도 텀블러 등에 지인 합성 등이 문제가 되고 있는데..
sweetsalt
17/12/12 22:20
수정 아이콘
갤 가돗 시오니스트 논란때문에 거르는 배우지만 저런식으로 초상권 도용당해 포르노에 합성되는걸 마냥 기술의 진일보로 반기기엔... 기분이 참 그렇네요. 만약 제 최애 연예인들이 저런데 도용당한다면 기분나쁜걸 넘어설테고요.
17/12/12 22:48
수정 아이콘
이제 소리만 구현하면 완성인가요
카페알파
17/12/12 22:51
수정 아이콘
근데 역으로 과거 직접 본인이 출연한 영상물 가지고 '절대 아니다. AI 를 이용한 악의적 편집이다.' 라고 우길 수도 있을까요?
17/12/13 14:58
수정 아이콘
일단 원본 영상(얼굴을 합성하기 전)을 증거로 제출해야겠죠. 그 과정에서 대부분 탈락하겠죠. 포르노 영상의 경우엔 인터넷에 이미 다 올라와 있을 거거든요. (그게 아니더라도 그 장르 팬들은 이미 배우별로 출연작들 다봤을테고...)

그리고 보기에 그럴듯해보이는 거지. 전문가가 프레임별로 분석하면 다 판별 가능하죠.

물론 일반인이 시청하는 수준이면 판별 불가능할 가능성이 높겠죠..
17/12/13 03:06
수정 아이콘
이 프로그램이 퍼진다면 정말 감당할수 없는 일이 발생할거 같은데 이걸 좋다고 반기는 분들은 뭔가요?
예전 솔비가 자신과 닮은 사람이 나온 동영상을 마치 본인 동영상인거 처럼 해서 유포하는 사람을 고발했을 때,
자신이 아니라는 걸 증명하기위해 몸을 다 보여줬어야 했다고 합니다. 그래야 한다는 사실이 너무 치욕적이었다고 말했었죠.
이젠 아무나 이런 동영상 제작할 수 있다면 잡지도 못하겠네요.
petertomasi
17/12/13 05:01
수정 아이콘
저도 그냥 좀...무서운데요...

이거 테러리스트들이 CCTV 해킹한 다음 테러리스트의 얼굴을 다른 사람으로 합성할 수도 있지 않나요?
17/12/13 06:13
수정 아이콘
이거 웃고 넘기기엔 굉장히 심각한 일 같은데..
주본좌
17/12/13 08:53
수정 아이콘
이건 아닌거 같은데??
목록 삭게로! 맨위로
번호 제목 이름 날짜 조회
367250 [기타] 포탈최적화형 Ai [3] Lord Be Goja6221 19/10/26 6221
354925 [기타] 검찰 '성범죄 촬영물' Ai로 찾아 삭제 [63] 삭제됨13515 19/06/10 13515
345736 [기타] 중국의 Ai 감찰관 [11] Lord Be Goja7834 19/02/17 7834
334500 [기타] 5W 충전기만 넣은것은 무선충전기 AiRpower발매를 하기 때문 [13] Lord Be Goja6973 18/09/13 6973
334409 [기타] 판례 찾아주는 Ai 변호사.Ai [11] NCS9436 18/09/12 9436
334272 [기타] 눈빛만 보고 알아서…애인 같은 Ai 나온다 [15] 좋아요6793 18/09/10 6793
317904 [기타] Ai로 유명인의 얼굴을 빌려 가짜 포르노 영상을 만드는 기술 개발 중 [84] 유진호19040 17/12/12 19040
312075 [기타]  카카오, Ai 스피커 ‘카카오미니’ 실물 공개.jpg [49] 아라가키11543 17/09/05 11543
310741 [기타] 한 유명인의 Ai 걱정... [22] Neanderthal14499 17/08/13 14499
310188 [기타] 중국의 뛰어난 Ai 근황.... [10] 치열하게9269 17/08/03 9269
192173 [기타] [기타] [LOL] 롤프로매니저 계층 - Ai [7] Charles4144 14/01/24 4144
목록 이전 다음
댓글

+ : 최근 1시간내에 달린 댓글
+ : 최근 2시간내에 달린 댓글
맨 위로