[내외신문/전용욱 기자] 생성형 인공지능 기술이 급속도로 발전하면서 선거 환경 역시 새로운 위협에 직면하고 있다.

특히 ‘딥페이크’로 불리는 AI 기반 허위 콘텐츠가 유권자의 판단을 왜곡할 수 있다는 우려가 커지면서, 이를 규제하기 위한 제도적 장치가 본격적으로 가동된다.

▲ 딥페이크 최근 생성형 AI의 대중화로 일반 사용자도 손쉽게 제작할 수 있는 수준(사진=내외신문)

오는 6월 3일 치러지는 지방선거는 개정된 공직선거법상 딥페이크 금지 조항이 처음으로 전면 적용되는 사례로, 선거 공정성 확보의 중요한 시험대가 될 전망이다.

딥페이크는 딥러닝 기술을 활용해 실제 인물의 얼굴이나 음성을 합성, 진짜처럼 보이는 영상과 이미지를 만들어내는 기술이다.

과거에는 전문 기술과 장비가 필요했지만, 최근 생성형 AI의 대중화로 일반 사용자도 손쉽게 제작할 수 있는 수준에 이르렀다.

이로 인해 창작의 영역은 넓어졌지만, 동시에 허위 정보 생산과 유포 역시 급격히 증가하는 양상을 보이고 있다.

이 같은 변화에 대응해 공직선거법은 2023년 12월 개정을 통해 ‘딥페이크를 활용한 선거운동 금지’ 조항을 신설했다.

해당 조항에 따르면 선거일 90일 전부터 누구든지 AI 기술 등을 이용해 실제와 구분이 어려운 가상의 음향, 이미지, 영상 등을 제작·편집·유포·게시하는 행위는 금지된다.

한 번 확산된 허위 정보의 피해를 회복하는 데 상당한 시간이 소요된다는 점을 고려해, 선제적으로 차단하는 취지다.

특히 특정 후보의 당선 또는 낙선을 목적으로 한 딥페이크 콘텐츠는 명백한 위법 행위로 간주된다.

단순한 풍자나 의견 표현과는 구별되며, 객관적으로 선거 결과에 영향을 미치려는 의도가 인정될 경우 처벌 대상이 된다.

대표적인 사례로는 유명 인사가 특정 후보를 지지하는 것처럼 조작된 영상, 후보자의 범죄 연루를 암시하는 허위 뉴스 형식 콘텐츠, 특정 정당을 홍보하는 노래 영상 등이 있다.

실제로 딥페이크를 활용한 정치적 조작은 이미 국내외에서 반복적으로 등장해왔다.

2024년 인도네시아 대통령 선거에서는 사망한 지 오래된 정치인의 모습이 등장해 특정 정당에 대한 지지를 호소하는 영상이 확산되며 사회적 파장을 일으켰다.

해당 영상은 SNS에서 수백만 회 조회수를 기록하며 유권자들에게 영향을 미친 것으로 분석된다. 국내에서도 2022년 대선 당시 AI 기술로 제작된 정치인 영상이 논란을 일으키며, 기술 활용의 경계에 대한 사회적 논의를 촉발한 바 있다.

이번 지방선거에서는 지난 3월 4일부터 관련 행위가 전면 금지된 상태다. 과거 선거에서는 법 적용 시점과 선거 일정이 맞물리지 않아 규제의 실효성이 제한적이었지만, 이번에는 제도가 온전히 작동하는 첫 사례라는 점에서 의미가 크다.

전문가들은 이러한 조치가 유권자의 알 권리를 보호하고 선거의 공정성을 유지하는 데 긍정적으로 작용할 것으로 보고 있다.

현실과 구분하기 어려운 허위 정보가 선거 기간 중 바로잡히지 않을 경우, 유권자의 선택 자체가 왜곡될 가능성이 높기 때문이다. 특히 박빙의 승부가 예상되는 지역에서는 작은 정보 하나가 결과를 뒤흔드는 변수로 작용할 수 있다는 지적이다.

이번 선거는 기술과 민주주의가 충돌하는 접점에서 제도가 얼마나 효과적으로 작동하는지를 가늠하는 계기가 될 것으로 보인다. 딥페이크라는 새로운 변수 앞에서, 선거의 공정성과 유권자의 판단을 지켜낼 수 있을지 주목된다.