그것이 알고싶다 1394회 딥페이크 빼앗긴 얼굴
그것이 알고싶다 1394회 딥페이크 빼앗긴 얼굴 황현희 존리 그알
이번 주 그알은 이전에 계속해서 제보를 받고 있었던 소재죠 저 역시 한번 다음 주쯤에 방영될 것 같다고 말씀드렸던 그 소재입니다. 바로 딥페이크 범죄
요즘 한 번씩 '아이유가 밤양갱을 부르면?'등으로 ai가 노래를 불러주는 영상을 보셨죠 그냥 무심코 봤을 때는 우와 신기하다~하지만 이게 범죄로 악용되고 있어서 심각한 상황이라는 거 다들 아시나요
사실 이전에도 한번 방송에서 다룬 적이 있었는데요 몇 년 전 보다 기술이 더 발달되어 이젠 경찰도 쉽게 구분하지 못할 정도로 고도로 발달되었답니다. 따라서 누구나 범죄에 쉽게 노출되고 있는 상황입니다.
특히나 이번엔 이름과 얼굴을 도용당한 유명인들에 대한 이야기가 나옵니다. 각종 sns에 황현희 님 존리님 그리고 송은이 유재석님 등등
최근 연예인들이 아니 왜 이런 걸 해?라고 생각이 들 정도로 이상한 영상들이 유튜브나 페이스북 인스타등등에 올라온 걸 보셨죠
물론 예리하신 분들은 가짜고 영상 도용이라는 걸 인지하셨지만 유명인들의 얼굴에 혹해서 모르고 클릭하시거나 사기행위에 넘어가신 분들도 많아요.
그만큼 치밀한 영상이라는 거~ 오늘 그것이 알고싶다 1394회에서는 이러한 딥페이크 영상들에 대해 자세히 다뤄준다고 합니다.
자 먼저 우리의 사회자 김상중 님입니다. 누가 누군지 아마 못 알아보실 겁니다. 가짜 연예인 사진과 가짜 김상중 님이 있는데요 뭐가 가짜인지 구분이가시나요?
위에 영상 중 어떤 게 진짜 김상중 님이신지 진짜 스타인지 구분 못하겠죠? 감쪽같아서 구별조차 안 갑니다.
물론 이런 영상들이 그냥 단순한 '재미'를 위한 거라면 좋죠 하지만 앞서 말한 대로 심각한 범죄로 악용되고 있습니다.
특히 황현희 님은 얼마 전부터 sns에 자신을 사칭하는 계정이 끝도 없이 등장해서 골치를 앓고있어요. 자신의 인지도를 이용하여 링크를 누르게끔 유도하고 가짜 정보를 흘린답니다.
자신을 황현희라 소개하며 얼굴을 합성한 영상을 보낸 후 30만 원으로 100억을 번다며 돈을 요구 잠수를 탄다고 사기를 친대요. 황현희 님은 이야말로 코미디라며 답답함을 호소합니다
뿐만 아니라 금융인 존리님도 비슷한 피해를 입었다며 인터뷰에 응해주셨어요. 그를 사칭한 계정이 역시나 좋은 정보를 알려준다며 사기를 친다는 것
거기다가 유재석, 송은이 님 심지어 유명 재벌까지 사칭 계정은 날이 가면 갈수록 늘어나며 유명인 피싱 범죄 피해액 만 약 1조 원에 달한다고 합니다.
진짜보다 더 진짜 같다
앞에 나온 영상을 안 보신 분들은 이미지를 보세요 둘 중 누가 김상중 씨 같나요 하나는 가짜입니다. 그냥 들었을 때는 왜 이렇게 당하나 싶지만 감쪽같은 영상에 속을 수밖에 없는 거죠
최근에 2차 전지 관련 주로 돌풍을 일으킨 배터리 아저씨 박순혁 작가님, 작가님 역시 사칭 계정이 등장하면서 피해자들이 대거 발생했어요.
수익이 무려 400%라는 말에 넘어가지 않을 법도 하지만 배우 송혜교 님이 공모주 프로젝트를 기념하는 영상 메시지를 보내고 조인성 씨의 축하 영상까지 있었다고하네요.
이 영상을 본 사람들은 어린이 자선사업에 쓰일 공모주에 별다름 없이 거액의 돈을 건네게 된 거죠
그러나 예상하신 대로 이 모든 건 딥페이크 기술로 만든 합성 영상입니다. 그런데 연예인 영상만 있을까요? 아닙니다. 그것이 알고싶다 1394회에서는 피해자들을 더 찾아 나섰습니다.
화면 속에 내 얼굴이 있다
일반인도 당합니다
얼마 전 딸이 납치되었다는 다급한 전화를 받았다는 강 씨, 전화번호도 딸의 번호였고 목소리도 딸의 목소리였습니다.
또 헬스 트레이너로 일하고 있는 조용태 씨는 한 번도 본적도 없는 베트남 여성이 돈을 갚아라고 자신을 찾아왔다고 하는데요
네 맞습니다. 이들 모두 딥페이크 영상에 얼굴을 도용당한 것입니다. 평범한 일반인인대요 유명인들뿐만 아니라 일반인들마저 표적으로 삼아 사기를 치고 있는 것입니다.
앞서 말한 조 씨에게는 납치를 한 척 돈을 요구하고 헬스 트레이너 조용태 씨에게는 자신의 얼굴을 도용하여 영상통화까지 하며 일명 로맨스 스캠에 딥페이크 영상을 활용한 거죠
가면 갈수록 이렇게 범죄에 악용되고 있는데 이런 악용 영상은 근절할 수가 없는 걸까요? 이번 주 그알 딥페이크 빼앗긴 얼굴과 가짜의 덫 편을 방송하면서 더 자세하게 다뤄준다고 합니다.
본방사수해야겠죠 이상입니다.
#그것이알고싶다1394회 #그알 #황현희 #뺴앗긴얼굴과가짜의덫 #존리
코미디언이자 성공한 개인투자자로 제2의 인생을 살고 있는 황현희씨. 그는 얼마 전부터 SNS에 자신을 사칭하는 계정이 수도 없이 등장해 피해를 주고 있다고 말했는데요. 영상 속 링크를 클릭하자 투자 정보를 알려주는 채팅방으로 연결되더니 그곳에서 자신을 황현희라 소개하는 사람이 주식 투자를 유도했다고 합니다.
이를 본 황현희는 "30만원으로 어떻게 100억을 버나? 채팅방에서 자기가 황현희라고 인사를 하는데, 이게 얼마나 코미디인가?"라며 황당해 했는데, 투자 전문가로 유명한 금융인 존 리씨도 비슷한 피해를 입었다고 합니다.
그는 자신을 사칭한 계정이 투자를 유도하는 식으로 SNS나 동영상 플랫폼에서 사기를 치고 있는데, 이에 속은 투자피해자가 실제로 자신을 고소하기까지 했다고 합니다. 이렇게 유명인들을 사칭한 온라인 피싱 피해액만 약 1조원에 달하는 상황.
2차전지 관련주로 돌풍을 일으킨 이른바 '배터리 아저씨' 박순혁 작가도 사칭 계정이 등장해 앞으로 상승할 주식 종목을 추천하는 방식으로 많은 투자자들을 유인하는 사례를 보았고, 그 규모가 점점 커지더니 수익률 400%의 대규모 공모주 프로젝트를 진행했다고 합니다.
투자자들은 반신반의했지만, 배우 송혜교가 단체방에 공모주 프로젝트를 기념하는 영상 메시지를 보내오면서 의심을 거두게 되었고, 이어 조인성 또한 축하 영상 메시지를 보내왔다고 하는데요. 사실 이 모든 건 딥페이크 기술로 얼굴과 목소리를 조작한 것인데, 피해자들은 알지 못했죠.
요즘은 보이스피싱 범죄가 진화해 미리 빼돌린 휴대폰 정보로 아내 또는 자녀가 납치된 것처럼 협박해 돈을 뜯어내는 사례가 많은데, 강정희(가명)씨는 대부업자에게 납치되었다는 딸의 다급한 전화를 받았을 때 목소리마저 같은 것에 놀랐다고 합니다.
헬스 트레이너 조용태씨는 일면식도 없는 베트남 여성이 빌려준 돈을 갚으라며 자신을 찾아왔다고 말했는데, 여성은 그가 자신과 영상통화까지 했다며 캡처한 사진을 보여줬습니다. 이는 상대의 환심을 사 돈을 가로채는 이른바 '로맨스 스캠'인데, 사진을 도용해 사기를 치던 범죄가 이제는 딥페이크 기술을 결합해 영상까지 만들어낸 것이죠.
딥페이크 기술은 여러 방송에서 과거를 추억하고, 그리움을 달래주는 좋은 의미로 많이 쓰였는데요. 울랄라 세션의 임윤택, 거북이의 터틀맨 등 안타깝게 사망한 가수들을 활동 당시의 모습으로 구현해 멤버들과 함께 하는 무대를 만들어 주기도 했고, 최근엔 드라마 [웰컴투 삼달리] 1회에서 故 송해의 [전국노래자랑] 진행 모습을 재현해 나와 화제가 되기도 했습니다.
하지만 요즘 벌어지는 사기 범죄를 보면 딥페이크 & 딥보이스 기술은 위험성이 더 크다는 드는데요. 똑같은 얼굴, 똑같은 목소리. 상대가 진위 여부를 파악할 수 없기에 이건 예방할 수 있는 방법이 마땅히 떠오르지가 않습니다.
납치 사기의 경우 주변 사람의 휴대폰을 빌려 연락해 보는 방법이 있지만, 당황하면 판단력을 잃는 경우가 많아서 이 또한 쉽지는 않죠.
[그것이 알고 싶다] 제작진은 전문가들의 자문을 받아 딥보이스 기술을 이용한 실시간 변조 실험을 진행해 자녀나 동생의 목소리로 돈을 요구하는 전화가 걸려왔을 때 가족들의 반응을 확인해 본다고 하는데, 금액이 고액이 아니면 의심 없이 쉽게 송금해 줄 수도 있겠단 생각이 듭니다. 오히려 납치 상황보다 더 현실성 있어서 쉽게 당할 것 같은. 그래서 요즘은 이에 대응하기 위해 가족끼리 암호를 만들어 사용하는 경우도 있다고 하더라고요.
보이스 피싱은 사전에 막을 방법이 없어서 결국 개인이 의심을 높이는 것으로 밖에 결론이 나지 않았는데, 더 진화된 딥페이크 & 딥보이스 기술 사기 범죄는 어떻게 대처해야 하는지 구체적인 예방법이나 해결책이 있었으면 좋겠습니다.
그것이 알고싶다
1394회
이거 좀 무섭다고 생각하는 #신종범죄 중 하나인데..
#딥페이크범죄 이거 진짜 앞으로 너무 걱정됨
SBS드라마 7인의 탈출에서도
딥페이크를 이용해 케이가 이휘소가 되는 등
범죄에 사용을 했었는데.. 지금 그런 시대가 왔다는;
얼굴 뿐만 아니라 목소리도 가능하고..
#그것이알고싶다 에서 취재를 해서 방송되는거
너무 잘된거 같음(특히 나이드신 분들이 이걸 꼭 봐야함)
근데 이건 젊은 사람들도 속을 수 있고…
누구나 속을 수 있는 문제의 범죄라 생각이 됨!
#그것이알고싶다1394회
빼앗긴 얼굴과 가짜의 덫 - 화면 속 그들은 누구인가?
이거보니 요즘 보이스피싱 수법으로
내가 직접 저장힌 이름으로 전화오는거 생각나네;
정말 목소리 똑같은 전화받으면 어떨가?!
특히 나이드신 부모님들이 저 전화 받으면
당연히 내 자식이라고 생각하고 돈 보낼거 같고..
# 이름과 얼굴을 도용 당한 유명인들
코미디언이자 성공한 개인투자자로
제2의 인생을 살고
있는 황현희 씨가 ‘그것이 알고 싶다’ 카메라 앞에 섰다. 얼마 전부터 SNS에 자신을 사칭하는 계정이
수도 없이 등장해 피해를 주고 있다는 것이다.
직접 영상 속 링크를 클릭하자
투자 정보를 알려주는 채팅방으로 연결됐는데,
그곳에서 ‘황현희’라고 행세하는
인물이 주식 투자를 유도했다고 한다.
“30만 원으로 어떻게 100억을 벌어요?
채팅방에서 자기가 황현희라고 인사를 하는데,
이게 얼마나 코미디입니까.”
코미디언 황현희
투자 전문가로 유명한 금융인 존 리 씨도
비슷한 피해를 입었다며 인터뷰에 나섰다.
그를 사칭한 계정이 투자를 유도하는 식으로
SNS나 동영상 플랫폼에서 사기를 치고 있는데,
이에 속은 투자피해자가
실제로 존 리 씨를 고소하기까지 했다고 한다.
최근 유재석, 송은이 씨 등 유명인들을 사칭한
온라인 피싱 범죄 피해액만 약 1조 원에 달하는 상황.
수많은 피해자들은 왜 사기범죄에 당했던 걸까.
# 진짜보다 더 진짜 같은 가짜, 딥페이크
2차 전지 관련주로 돌풍을 일으킨 이른바
‘배터리 아저씨’ 박순혁 작가.
SNS와 동영상 플랫폼에
그를 사칭한 계정이 등장하면서,
앞으로 상승할 주식 종목을 추천해
많은 투자자들을 유인했다고 한다.
투자규모가 점점 커지더니
수익률 400%의 대규모 공모주
프로젝트를 진행하겠다고 하자,
반신반의했다는 투자자들.
하지만 이들의 의심을 단번에
거두게 했다는 영상이 등장했다.
“얼굴도 그렇고 말소리도 똑같고.
이걸 누가 송혜교가 아니라고 그러겠어요?”
투자사기 피해자 박기철(가명)
배우 송혜교 씨가 단체방에 공모주 프로젝트를
기념하는 영상 메시지를 보내왔다는 것이다.
뒤이어 배우 조인성 씨의 축하영상 메시지도 올라왔다. 이 영상을 본 투자자들은 어린이 자선사업에 쓰일
공모주 프로젝트에 별다른 의심 없이
투자하게 됐다고 한다.
하지만 놀랍게도, 두 배우의 영상은
딥페이크 기술로 얼굴과 목소리가 조작된 것이었다.
와 이거 진짜와 가짜 구별 어떻게 해야하나요?!
딥페이크 기술 무섭다. 정말;
범죄수사 관계자분들도
수사하는데 정말 어려우실거 같고..
그알에서 테스트도 해보는 듯
진짜와 가짜 구별!
구별하는 방법도 알려주실려나?
(사실 이게 가능한가 싶기도..)
# 화면 속 얼굴과 목소리를 의심하라
“처음 딸한테 전화 받았을 때는 놀랐죠.
전화번호랑 사진화면,
목소리 세 개가 다 똑같았으니까요.”
딥보이스 피싱 피해자 강정희(가명)
대부업자에게 납치되었다는
딸의 다급한 전화를 받았다는 강정희(가명) 씨.
분명 딸의 전화번호와 목소리가 분명했는데
누가, 어떻게 딸의 목소리를 실시간으로 변조한 걸까.
헬스 트레이너 조용태 씨는,
일면식도 없는 베트남 여성이
빌려준 돈을 갚으라며 자신을 찾아왔다고 한다.
그와 영상통화까지 했다며 캡처한
사진을 보여줬다는 여성.
이성의 환심을 사 돈을 가로채는
이른바 ‘로맨스 스캠’에 딥페이크 기술까지 결합한 걸까.
유명인 뿐 아니라 일반인들마저 표적으로
삼고 있는 딥페이크 신종 범죄.
제작진은 전문가들의 자문을 받아
딥보이스 기술을 이용한 실시간 변조 실험을 진행했다. 자녀나 동생의 목소리로 돈을 요구하는
전화가 걸려왔을 때,
가족들은 과연 어떻게 반응할까.