1. 현황
생성형 인공지능 기술을 이용하여 실제 인물의 사진이나 영상, 음성 등으로 가짜 사진, 영상, 음성 등을 합성한 “딥페이크”가 범죄에 활용되는 경우가 많아 사회적 논란이 되고 있다. 특히 생성형 인공지능은 기존의 합성, 편집 기술보다 정교하고 빠르게 여러 합성물들을 만들 수 있다는 특징을 가지고 있어서 그 활용이 올바르지 않은 경우 얼굴이 알려진 연예인, 정치인들은 물론 일반인들에게도 큰 피해가 예상된다.
‘그것이 알고싶다’ 방송팀의 조사 결과, 온라인 딥페이크 사용 목적의 약 96%가 포르노그라피인 것으로 확인되었다. 게다가 딥페이크 성범죄는 단순히 불법 음란 합성물을 만드는 것에서 그치지 않고, 이를 활용한 협박, 갈취, 피싱, 폭력, 권리 침해 범죄로도 번지고 있다. 이렇듯 사실상 ‘딥페이크’라는 단어 자체가 실존인물을 대상으로 성적 목적으로 합성을 하는 행위 일체를 뜻하는 고유명사화 되었다고 볼 수도 있을 정도로 우리 사회에서 딥페이크는 하나의 범죄 용어가 되어버린 것만 같다.
이러한 딥페이크 성범죄는 최근 법률 개정 및 신설이 이루어지며 처벌의 수위가 대폭 강화되었다. 종전까지는 딥페이크 이용 불법 음란물 제작을 처벌할 수 있는 별도의 규정이 없었기 때문에 이를 유포시키는 경우에만 성폭력범죄의 처벌 등에 관한 특례법위반(통신매체이용음란)죄로만 처벌할 수 있었다. 그러나 2020년에 성폭력처벌법이 개정되면서 딥페이크 영상 제작을 처벌할 수 있는 직접 규정이 생겨났다. 이에 더하여 2024년에는 성폭력처벌법이 다시 개정되어 딥페이크 불법 음란물 제작자뿐 만 아니라 소지, 구입, 저장, 시청자도 처벌되게 되었으며, 딥페이크 불법 음란물 제작의 목적을 따지지 않고 처벌대상에 넣으며 처벌의 수위와 범위를 확대하였다.
2. 문제점
딥페이크 이용 범죄는 단순히 허위음란물, 불법음란물의 제작 및 유포에서 그치지 않는다. 유명인을 사칭하여 투자를 하게하는 피싱 문제, 정치인을 사칭하고 가짜 뉴스를 유포하여 극단적 선동을 하는 문제, 저작권 문제 등 다양한 분야에서 여러 사람의 권리가 침해되는 사례가 많다. 더하여 딥페이크 불법 음란물을 이용하여 각종 권리 침해 범죄로도 번지고 있다.
3. 개선방안
최근 개정된 성폭력 특별법 14조의2 에서는 딥페이크 불법 음란물의 제작, 유포, 소지, 다운로드 소지 등의 경우에 처벌할 수 있도록 규정하고 있다. 이것만으로는 나날이 발전하는 기술력 앞에 피해자들을 보호하기 어려울 것으로 생각된다. 따라서 딥페이크 불법 음란물이 실질적으로 돌아다니는 인터넷과 플랫폼에서의 규정도 강화해야 할 것이다.
1. 피해자, 일반 플랫폼 사용자, 지자체, 경찰 등의 요청에 따라 인터넷 서비스, 플랫폼 제공자가 직접 딥페이크 불법 합성물을 제한 시간 내에 차단 및 삭제할 수 있도록 한다.
2. AI 기술을 활용한 “안티 딥페이크”, 즉 딥페이크 영상을 탐지할 수 있는 기술을 개발하고, 각 플랫폼에 적용할 수 있도록 한다. 이를 통해 사람의 직접 신고뿐 만 아닌 실시간 자동 검열 및 자동 삭제가 이루어지도록 한다.
3. 인터넷 플랫폼의 일반 사용자가 딥페이크 신고 요청을 용이하게 할 수 있도록 플랫폼에 신고 기능 탑재를 의무화한다.
4. 현재 유포자의 경우, 최대 7년 이하의 징역 또는 5천만 원 이하의 벌금으로 규정되어 있는데, 이를 최대 10년 이하의 징역 또는 1억 원 이하의 벌금으로 처벌 수위를 높인다.
5. 딥페이크를 사용하여 콘텐츠를 만드는 경우, 딥페이크 활용을 명시할 것을 의무화한다.
4. 기대효과
딥페이크 불법합성물로 인해 피해 받는 사람들의 권리를 보호할 수 있다. 그리고 무분별하고 극단적인 허위 정보 확산을 막아, 시민들의 올바른 의사결정에 도움을 주어 더욱 바람직한 사회가 되는데 도움이 될 것이다.
1. 현황
생성형 인공지능 기술을 이용하여 실제 인물의 사진이나 영상, 음성 등으로 가짜 사진, 영상, 음성 등을 합성한 “딥페이크”가 범죄에 활용되는 경우가 많아 사회적 논란이 되고 있다. 특히 생성형 인공지능은 기존의 합성, 편집 기술보다 정교하고 빠르게 여러 합성물들을 만들 수 있다는 특징을 가지고 있어서 그 활용이 올바르지 않은 경우 얼굴이 알려진 연예인, 정치인들은 물론 일반인들에게도 큰 피해가 예상된다.
‘그것이 알고싶다’ 방송팀의 조사 결과, 온라인 딥페이크 사용 목적의 약 96%가 포르노그라피인 것으로 확인되었다. 게다가 딥페이크 성범죄는 단순히 불법 음란 합성물을 만드는 것에서 그치지 않고, 이를 활용한 협박, 갈취, 피싱, 폭력, 권리 침해 범죄로도 번지고 있다. 이렇듯 사실상 ‘딥페이크’라는 단어 자체가 실존인물을 대상으로 성적 목적으로 합성을 하는 행위 일체를 뜻하는 고유명사화 되었다고 볼 수도 있을 정도로 우리 사회에서 딥페이크는 하나의 범죄 용어가 되어버린 것만 같다.
이러한 딥페이크 성범죄는 최근 법률 개정 및 신설이 이루어지며 처벌의 수위가 대폭 강화되었다. 종전까지는 딥페이크 이용 불법 음란물 제작을 처벌할 수 있는 별도의 규정이 없었기 때문에 이를 유포시키는 경우에만 성폭력범죄의 처벌 등에 관한 특례법위반(통신매체이용음란)죄로만 처벌할 수 있었다. 그러나 2020년에 성폭력처벌법이 개정되면서 딥페이크 영상 제작을 처벌할 수 있는 직접 규정이 생겨났다. 이에 더하여 2024년에는 성폭력처벌법이 다시 개정되어 딥페이크 불법 음란물 제작자뿐 만 아니라 소지, 구입, 저장, 시청자도 처벌되게 되었으며, 딥페이크 불법 음란물 제작의 목적을 따지지 않고 처벌대상에 넣으며 처벌의 수위와 범위를 확대하였다.
2. 문제점
딥페이크 이용 범죄는 단순히 허위음란물, 불법음란물의 제작 및 유포에서 그치지 않는다. 유명인을 사칭하여 투자를 하게하는 피싱 문제, 정치인을 사칭하고 가짜 뉴스를 유포하여 극단적 선동을 하는 문제, 저작권 문제 등 다양한 분야에서 여러 사람의 권리가 침해되는 사례가 많다. 더하여 딥페이크 불법 음란물을 이용하여 각종 권리 침해 범죄로도 번지고 있다.
3. 개선방안
최근 개정된 성폭력 특별법 14조의2 에서는 딥페이크 불법 음란물의 제작, 유포, 소지, 다운로드 소지 등의 경우에 처벌할 수 있도록 규정하고 있다. 이것만으로는 나날이 발전하는 기술력 앞에 피해자들을 보호하기 어려울 것으로 생각된다. 따라서 딥페이크 불법 음란물이 실질적으로 돌아다니는 인터넷과 플랫폼에서의 규정도 강화해야 할 것이다.
1. 피해자, 일반 플랫폼 사용자, 지자체, 경찰 등의 요청에 따라 인터넷 서비스, 플랫폼 제공자가 직접 딥페이크 불법 합성물을 제한 시간 내에 차단 및 삭제할 수 있도록 한다.
2. AI 기술을 활용한 “안티 딥페이크”, 즉 딥페이크 영상을 탐지할 수 있는 기술을 개발하고, 각 플랫폼에 적용할 수 있도록 한다. 이를 통해 사람의 직접 신고뿐 만 아닌 실시간 자동 검열 및 자동 삭제가 이루어지도록 한다.
3. 인터넷 플랫폼의 일반 사용자가 딥페이크 신고 요청을 용이하게 할 수 있도록 플랫폼에 신고 기능 탑재를 의무화한다.
4. 현재 유포자의 경우, 최대 7년 이하의 징역 또는 5천만 원 이하의 벌금으로 규정되어 있는데, 이를 최대 10년 이하의 징역 또는 1억 원 이하의 벌금으로 처벌 수위를 높인다.
5. 딥페이크를 사용하여 콘텐츠를 만드는 경우, 딥페이크 활용을 명시할 것을 의무화한다.
4. 기대효과
딥페이크 불법합성물로 인해 피해 받는 사람들의 권리를 보호할 수 있다. 그리고 무분별하고 극단적인 허위 정보 확산을 막아, 시민들의 올바른 의사결정에 도움을 주어 더욱 바람직한 사회가 되는데 도움이 될 것이다.