딥페이크로 같은학원 여중생 합성사진 만든학생 실형...현재 항소중.. 엠마왓슨도 피해자?

A군은 최후 진술에서 “피해자에게 죄송하다”며 반성 뜻을 나타냈으나 재판부는 죄질이 불량하다며 실형을 선고했다.

재판부는 “피해자와 아무런 인적 관계가 없음에도 오로지 피해자를 괴롭힐 목적으로 저열한 범행을 했다”며 “모욕적인 글의 내용과 사진의 영상이 피해자의 사회적 인격권을 심각하게 침해한 것에 비춰 보면 죄질이 매우 불량하다”고 판시했다.

 

또 “피고인이 범행 당시 성 관념이 온전히 형성되지 않은 만 14세 소년이라는 점에서 고민을 많이 했다. 하지만 이를 고려하더라도 피고인의 엄벌을 탄원하는 피해자의 고통을 외면할 수 없었다”며 실형 선고 이유를 밝혔다.

이 사건은 A군과 검찰이 모두 항소해 현재 서울고법 춘천재판부에서 항소심 진행 중이다.

 

같은 학원에 다니지만, 일면식이 없는 여학생의 사진을 딥페이크(deepfake·합성 조작) 기술로 합성해 만든 사진을 유포한 중학생이 실형을 선고받고 법정구속됐다.

19일 법조계에 따르면 춘천지법 원주지원 형사1부는 아동·청소년의 성보호에 관한 법률 위반(성 착취물 제작·배포), 모욕 교사 등 혐의로 기소된 A(16)군에게 징역 장기 2년, 단기 1년 8개월을 선고했다.

 

불구속 재판 중 실형을 선고받은 A군은 법정에서 구속됐다.

또한 40시간 성폭력 치료 프로그램 이수, 아동·청소년·장애인 관련 기관 3년간 취업 제한 명령도 내려졌다.

A군은 지난해 5월 말 SNS에서 찾은 B양 사진을 나체사진 합성을 해주는 성명불상자에게 보낸 후 ‘나체사진과 합성해 달라’고 부탁했다. 그러자 이들은 딥페이크 기술을 이용해 B양의 사진을 합성해 A군에게 전달했다. A군은 일명 ‘지인 능욕’ 사진을 SNS 등에 게시·배포했다가 기소됐다.

지인 능욕은 피해자의 이름·나이 등 신상정보나 합성 사진을 모욕적인 허위 사실과 함께 SNS에 게시하는 행위를 말한다.

 

 

A군의 공소장에는 2021년 12월 19일에도 B양의 인적 사항과 사진이 포함된 지인 능욕 게시글을 성명불상자에게 게시해 달라고 한 모욕 교사 혐의도 포함됐다.

조사 결과, B양 A군은 같은 학원에 다니지만 서로 알지 못하는 사이로 드러났다.

A군은 최후 진술에서 “피해자에게 죄송하다”며 머리를 숙였으나 재판부는 죄질이 불량하다며 실형을 선고했다.

재판부는 “피해자와 아무런 인적 관계가 없음에도 오로지 피해자를 괴롭힐 목적으로 저열한 범행을 저질렀다”며 “모욕적인 글의 내용과 사진의 영상이 피해자의 사회적 인격권을 심각하게 침해한 것에 비춰 보면 죄질이 매우 불량하다”고 판시했다.

그러면서 “피고인이 범행 당시 성 관념이 온전히 형성되지 않은 만 14세 소년이라는 점에서 고민을 많이 했다. 하지만 이를 고려하더라도 피고인의 엄벌을 탄원하는 피해자의 고통을 외면할 수 없었다”며 실형 선고 이유를 밝혔다.

A군과 검찰이 모두 1심에 불복해 항소한 이 사건은 현재 서울고법 춘천재판부에서 항소심 진행 중이다.

할리우드 유명 배우들이 딥페이크(Deepfake) 기술로 SNS 속 음란 광고에 등장하고 있어 논란이 일고 있습니다. 딥페이크는 동영상에 다른 사람의 얼굴과 소리를 합성하는 기술로, 최근 인공지능(AI) 기술이 접목되면서 더욱 정교해지고 있습니다. 현지 시간으로 지난 8일 NBC 뉴스는 딥페이크를 이용해 유명 배우들의 얼굴을 합성한 음란 동영상이 각종 SNS를 통해 퍼져나가고 있다고 보도했습니다. 보도에 따르면 온라인 광고 중 127개가 영화 '해리포터' 시리즈 주인공인 배우 엠마 왓슨을 닮았고, 또 다른 74개는 할리우드 배우 스칼렛 요한슨의 얼굴을 합성한 것으로 집계됐습니다. 실제로 해당 광고에서 수줍게 웃거나 몸을 굽히는 엠마 왓슨은 실제로 출연한 것이 아니라 딥페이크로 합성된 것입니다.

 

이미지 확대하기 대다수의 SNS 플랫폼은 딥페이크 기술이 생겨나면서부터 악의적으로 조작된 콘텐츠 노출을 금지하고 있지만 규제를 교묘하게 파고든 게시물들을 모두 막을 수는 없는 상황입니다. 노골적인 성적 행동은 제한되지만 아슬아슬하게 규제를 넘지 않도록 딥페이크 동영상을 만들어 허점을 노리는 것입니다. 문제의 광고에 대해 페이스북과 인스타그램을 운영하는 메타 측은 "현재 해당 앱이 우리 플랫폼에서 광고하는 것을 제한한 상태"라고 밝혔습니다. 애플 또한 "지적을 받고 앱스토어에서 문제의 앱을 삭제했다"며 "아직 딥페이크에 대한 구체적 규칙을 갖고 있지 않지만, 명예훼손 등의 우려가 있는 음란물 콘텐츠가 포함된 앱은 금지하고 있다"고 전했습니다. 딥페이크 기술이 불법적인 목적으로 사용되는 것만은 아닙니다. 최근 딥페이크 기술을 활용해 먼저 세상을 떠난 사람을 AI로 복원시키거나, 원로 배우들의 젊은 모습을 재연하여 활용하는 등의 사례는 딥페이크 기술의 긍정적 사례로 꼽힙니다. 이미지 확대하기 하지만 더 정교해진 기술을 이용하여 다른 사람의 얼굴을 동의 없이 부적절한 영상에 악의적으로 사용되는 경우가 늘어나면서 우려의 목소리도 커지고 있습니다.

 

영화 '해리포터'의 주인공 엠마 왓슨 등 유명 배우들이 딥페이크 기술로 인해 SNS의 음란 광고에 등장하고 있다고 미국 NBC 뉴스가 8일(현지시간) 보도했습니다.

딥페이크는 동영상에서 다른 사람의 얼굴을 합성하는 기술로, 최근 인공지능(AI) 기술이 접목되면서 더욱 정교해지고 있어서 사회적 문제로 떠오르고 있습니다.

보도에 의하면, 최근 페이스북에 떠도는 딥페이크 관련 애플리케이션 광고물에서 왓슨의 얼굴이 자주 등장합니다.

이는 실제 왓슨이 출연한 것이 아니라 딥페이크를 이용해 영상의 얼굴을 바꾼 것입니다.

NBC는 페이스북 등 메타의 SNS에 나온 앱 광고물 중 127개가 왓슨을 닮은 것이었고 다른 74개는 할리우드 액션 여배우 스칼릿 조핸슨의 얼굴을 쓴 것으로 파악됐다고 전했습니다.

이처럼 동의 되지 않은 딥페이크 영상은 왓슨 같은 유명 인사나 인플루언서뿐 아니라 미성년자까지 포함한 어떤 사람의 얼굴도 바꿔치기가 가능하다는 점에서 심각합니다.

NBC는 실제로 최근 이 같은 앱을 이용해 딥페이크 기술을 적용해보니 수 초 만에 뚝딱 얼굴을 바꿀 수 있었다고 전했습니다.

문제의 앱 광고물은 NBC가 지난 7일 취재에 들어가자 모두 메타 서비스에서 사라졌다고 합니다.

애플 앱스토어에도 똑같은 광고물이 9세 이상 무료로 다운로드가 가능하게 돼 있었으나 NBC의 취재 후 삭제됐습니다.

메타 대변인은 성명에서 "우리의 정책은 AI에 의한 것이든 그렇지 않은 것이든 간에 성인물을 금지하는 것"이라며 "우리는 이 페이지를 우리 플랫폼에서 광고하지 못하게 했다"고 설명했습니다.

애플 대변인도 아직 딥페이크에 대한 구체적 규칙을 갖고 있지 않지만 음란물을 포함한 앱은 금지한다고 말했습니다.

한편 라이브 스트리밍 분석가 제네비브 오는 "2018년 이후 딥페이크 포르노 동영상은 매년 배 가까이 증가했다"고 말했습니다.

 

출처: 이데일리, 매일경제, 서울신문, 연합뉴스, 아시아경제, 머니투데이