딥페이크, 가짜 음란물 유통...단속 2년 만에 2.5배 증가

AI, 범죄 악용되더라도 생명이나 신체에 위해를 줘야 기술 중지 가능
정신적·금전적 피해 심각하다면 기술 사용 중지 가능할 수 있도록 제도개선 시급
김상희 의원, “미래산업 사회에 진입을 위해 AI 발전은 꼭 필요하지만 인간에게 심각한 피해를 끼친다면 정부가 직접
김한결 기자 | eco@ecomedia.co.kr | 입력 2021-09-28 14:15:37
  • 글자크기
  • -
  • +
  • 인쇄
[이미디어= 김한결 기자] 인공지능(AI) 기술의 발달은 인간의 삶의 질을 한 단계 높일 뿐만 아니라 실종아동과 치매 환자를 추적하고 불법 촬영물을 인공지능이 찾아 삭제ߴ차단하는 등 범죄 예방의 기능도 있다. 하지만 최근 AI 기술이 불법적인 범죄에 악용되고 있어 대책 마련이 시급하다.

특히 AI를 악용한 범죄 중 딥페이크(Deepfake) 불법 영상물에 대한 우려의 목소리가 지속적으로 나오고 있는 상황이다. 딥페이크란 심층학습(Deep Learning)과 가짜(Fake)의 합성어로 AI를 이용해 가짜 영상을 만들어내는 기술이다.

최근 딥페이크 기술로 타인 얼굴 사진을 도용해 음란물 영상에 합성해 이를 유포하겠다고 협박해 금전을 요구하는 범죄가 기승을 부리고 있다. 해외에서도 딥페이크를 악용해 회사 고위 임원 목소리를 모방해 거액을 송금토록 속이고, 친구 얼굴을 모방해 실제 영상통화를 한 후 돈을 빌려 달라는 범죄도 발생해 범죄 피해 예방을 위해 각별한 주의가 필요한 때이다.

이러한 ‘딥페이크 성적 허위영상물’의 제작 및 반포 행위를 금지하기 위해 2020년 3월에 「성폭력범죄의 처벌 등에 관한 특례법」이 국회 본회의를 통과해 2020년 6월 25일부터 시행됐다. 하지만 딥페이크의 범죄가 근절될 것이라는 예상과 달리 그 수법은 진화하고 차단·삭제 건수도 증가하고 있다.

김상희 국회부의장(과학기술정보방송통신위원회, 경기 부천병)이 방송통신심의위원회에서 제출받은 자료에 따르면 2020년 6월부터 단속이 시작된 ‘딥페이크 성적 허위영상’ 차단ߴ삭제 건수는 12월까지 548건에서 올해 1월부터 9월까지 1408건으로 2.5배 이상 증가했다.

 

▲ 방송통신심의위원회 제출자료(기간 2020.6.25.∼2021.9.24.) 성폭력범죄처벌특례법 제14조의2(허위영상물 등의 반포 등)는 2020. 6. 25.부터 시행 <제공=김상희 의원실>

 

또한 김 부의장이 경찰청으로부터 제출받은 딥페이크 범죄 내용을 살펴보면 SNS와 채팅 메신저로 일반인과 연예인 등 피해자들의 사진과 개인정보를 받아 딥페이크로 ‘성적 허위 영상물’을 제작해 판매 및 유포하는 것으로 드러났다. 피해자의 사진만 가지고 AI로 이질감 없이 영상을 만들기 때문에 확실히 단속하지 못한다면 다크웹 등으로 퍼져나가 ‘제2의 N번방 사건’이 될 가능성도 높다.

AI를 포함한 지능정보기술을 악용한 범죄의 피해를 막기 위해서는 기술에 대한 규제가 필요하다는 지적이 나오고 있다. 현행 「지능정보화 기본법」 제31조와 제60조에 따르면 지능정보기술이 사람의 생명과 신체의 안전을 저해하면 이를 제한하고 필요하다면 국가가 그 기술을 비상 정지하게 돼있다.

 

하지만 현재까지 AI 등 지능정보 기술이 사람의 생명 또는 신체에 대한 긴급한 위해를 야기하는 등 규정을 위배하는 사례가 없어 해당 법에 적용된 적은 단 한 번도 없다. 현재까지 AI가 인간의 생명과 신체에 위해를 가할 만큼 기술력이 발달하지 못했기 때문이라는 일부 지적이 있어 현실적이고 범죄를 막을 수 있는 개선책이 필요하다.

이에 김 부의장은 “현행법에는 AI를 악용해 심각한 정신적, 금전적 피해를 주는 것에 대한 규정이 없다”면서, “AI를 악용한 범죄를 예방하고 큰 피해를 막기 위해 심각하게 지능정보 기술을 악용한 경우는 기술의 사용을 제한하거나 중지할 수 있게 해야 한다”고 말했다. 이어, “미래산업 사회에 진입을 위해 AI 발전은 꼭 필요하지만 인간에게 심각한 피해를 끼친다면 정부가 직접 나서야 한다”면서, “AI 범죄를 신종 범죄로 규정하고 AI의 불법행위와 악용을 막을 방안을 마련해 더 이상 AI 범죄로 고통받는 국민이 없도록 노력하겠다”고 강조했다.

[저작권자ⓒ 이미디어. 무단전재-재배포 금지]

  • 카카오톡 보내기
  • 카카오스토리 보내기
  • 글자크기
  • +
  • -
  • 인쇄
  • 내용복사

헤드라인

섹션별 최신기사

많이 본 기사

오늘의 핫 이슈

    ECO 뉴스

    more

    환경신문고

    more

    HOT포토