딥페이크 법 개정 오세훈 시장의 강력한 요구!

딥페이크 현황 및 문제점

딥페이크 기술은 사용자가 AI(인공지능)를 통해 대체 불가능한 비디오 콘텐츠를 생성할 수 있게 해주는 기술로, 여기에 활용되는 알고리즘은 자연어 처리와 이미지 합성을 포함합니다. 이 기술은 단 7초 만에 제작될 수 있는 비디오를 만들어낼 수 있으며, 이를 통한 유포는 진정한 피해자를 만들어내는 큰 문제로 부각되고 있습니다. 특히, 딥페이크 성범죄는 성별에 관계없이 피해가 발생하고 있어, 사회 전반에 걸쳐 불안감을 초래하고 있습니다. 따라서, 이러한 위험 요소를 인식하고 효과적인 대응책이 필요한 기본적인 이유는 명확합니다.

서울시의 대응책

서울시는 딥페이크 피해를 줄이기 위한 지자체 최초의 대응 체계를 마련했습니다. 피해 영상물 삭제를 위해 방송통신심의위원회와 협력하여 운영되는 24시간 신고 핫라인을 통해, 딥페이크 피해자들의 요청에 빠르게 대응할 수 있습니다. 서울시는 또한 '디지털 성범죄SOS상담창구'를 신설하여, 피해자들이 즉각적으로 상담을 받을 수 있는 경로를 제공하고 있습니다. 이는 피해자 또한 심리적 안정을 찾을 수 있도록 지원하고 있으며, 향후 위기 대응 교육을 지속적으로 실시할 예정이라고 밝혔습니다.

• 딥페이크 영상물 삭제 지원을 위해 24시간 핫라인 운영
• 피해자 상담을 위한 SOS 상담창구 신설
• 딥페이크 예방 교육을 초·중·고에서 실시

피해 규모 추산의 어려움

딥페이크 성범죄의 발생은 해마다 증가하고 있으며, 피해 규모를 정확히 추산하기 어렵습니다. 서울시와 관련 기관의 조사에 따르면, 전국적으로 약 400개에서 500개의 학교가 딥페이크 관련 피해를 보고한 것으로 추정됩니다. 그러나 딥페이크 영상이 피해자의 인지 없이 생성되고 유포되는 경우가 많아, 정확한 피해 조사와 데이터 수집이 이루어지지 못하고 있습니다. 이는 피해자가 자신이 피해를 당하고 있다는 사실을 인지하지 못하는 경우가 많기 때문입니다. 따라서 정부와 지자체는 더 깊이 있는 조사가 필요하며, 데이터 수집 방법 또한 개선해야 할 필요성이 있습니다.

딥페이크 예방을 위한 교육

딥페이크 예방 교육은 초·중·고 학생들을 대상으로 실시되고 있으며, 교육의 목적은 학생들이 기술의 위험성을 인식하고 올바른 정보 활용법을 배우도록 하는 것입니다. 이를 통해 청소년들은 딥페이크가 단순한 오락을 넘어서 심각한 범죄로 이어질 수 있다는 점을 배웁니다. 서울시는 향후 50개 학급에 대해 1,000명의 학생을 대상으로 이러한 교육을 실시하여, 학교에서부터 성교육과 함께 디지털 리터러시를 강화하는 계획을 추진하고 있습니다.

가해자와 사적 제재에 대한 고민

딥페이크 성범죄가 증가하면서, 종종 피해자가 아닌 제3자가 가해자로 지목되는 '사적 제재'가 발생하고 있습니다. 오세훈 서울시장은 이러한 사적 제재의 확산이 또 다른 피해자를 발생시킬 수 있음을 우려하며, 공적 시스템을 통해 올바른 처리가 이루어져야 한다고 강조했습니다. 사적 제재는 필요 이상의 피해를 가져올 수 있으며, 이는 피해자와 사회 전반에 부정적인 영향을 미칠 수 있으므로, 신중한 대응이 필수적입니다.

딥페이크 성범죄 예방 정책의 방향

서울시는 이러한 정책을 통해 딥페이크로 인한 피해를 최소화하기 위한 다양한 접근 방식을 모색하고 있으며, 향후에도 심도 깊은 연구와 빠른 법적 대응을 통해 예방 시스템을 강화할 계획입니다. 이러한 단계적 접근이 실질적인 변화로 이어질 수 있도록 지속적인 중점 관리가 필요합니다.

앞으로의 과제

딥페이크는 기술의 발전과 더불어 가늠할 수 없는 새로운 문제들을 우리 사회에 제기하고 있습니다. 따라서, 정책 결정자들은 적극적인 협력과 정보 공유를 통해 법률과 기술적 대응 방안을 모두 포함한 포괄적인 전략이 필요합니다. 이러한 전략을 채택함으로써, 정부는 국민의 안전을 보장하고, 피해자의 권리를 보호하기 위한 준비가 되어 있어야 합니다. 결국, 기술 발전에 따른 새로운 범죄 예방을 위한 정책이 사회에 긍정적인 영향을 미칠 수 있도록 하는 것이 주요 목표입니다.