한강타임즈 = “남자아이는 앞뒤가 맞지 않는 말들을 중얼거리더니 갑자기 몸을 떨기 시작했다. 얼굴이 일그러지면서 입술 가장자리가 크게 벌어지자 두 줄의 날카로운 치아가 드러났다. 남자아이는 노숙자의 목을 물어뜯었다. 고통스런 비명이 울려퍼지자 다른 노숙자들도 잠에서 깼다. 남자아이는 입술과 턱에서 피가 뚝뚝 떨어진 채 달아났다" 영상에서는 ‘백인 뱀파이어 소년의 노숙자 공격’ 이라는 제목이 달렸다.

위 영상은 공유 플랫폼에 올라간 지 24시간 만에 수백만 뷰를 기록했다. 하지만 며칠 지나지 않아 가짜로 밝혀지면서 관련된 모든 광고 수입도 동결됐다. 딥페이크라는 신기술과 상업적 목적이 영합한 너무나 끔찍한 장면이다 - 「AI 2041」의 ‘가면의 신’ 중에서

6월에 이 책을 읽을 당시만 해도 설마 했다. 무엇보다 허구이니 저자의 상상일 뿐이라고 생각했다.

그리고 2041년이 되려면 17년이나 남았으니 미리 걱정할 일로 보이지 않았다. 그런데 갑자기 딥페이크가 요즘 우리 사회를 시끄럽게 달구고 있다.

어느 중학생이 만든 지도를 보니 각 도시를 중심으로 시뻘겋다. 어린 청소년들, 대학생들, 직장인들 할 것 없이 대상도 폭넓다.

소셜네트워크(SNS)의 사진과 지인들을 통해 받은 사진으로 얼굴을 합성해 피해자들에게 협박하는 등의 일들이 발생하고 있다. 내용도 포르노에 가까울 정도로 낯뜨겁다.

오죽하면 대학가에서는 선후배 사이도 경계하며 조용히 텔레그램, SNS 등에서 탈퇴한다고 할까. 피해자들은 수치심, 모욕감을 넘어 불신하는 사회가 되어 가고 있다. 신기술이 재앙이 되고 있는 셈이다.

그렇다면 딥페이크 기술 무엇이길래 이토록 물의를 일으키고 있는 것인가. 딥페이크는 딥 러닝(deep learning)과 가짜(fake)의 혼성어로 인공지능을 기반으로 한 인간 이미지 합성 기술이다.

딥페이크는 기존에 있던 인물의 얼굴이나, 특정한 부위를 영화의 CG처리처럼 합성한 영상편집물을 총칭한다.

인물의 사진이나 영상을 합성해 게시하던 것이 디지털 기술과 인공지능의 발전으로 몇 단계 더 정교해진 결과로써 머리 외곽선을 통째로 따서 합성하는 것이 아닌, 안면윤곽 안쪽 부분만 피부톤을 맞춰 바꿔치기하는 방식이다. 즉, 눈ㆍ코ㆍ입 부분만 합성하는 것이다.

현재 딥페이크 기술은 많은 분야에서 유용하게 사용되고 있다. 교육 분야에서 학습 도구로도 활용되는 중이다.

역사적 인물이나 문학 작품의 캐릭터를 구사하여 학생들이 체험하도록 도와주는 역할도 하고 있다. 이는 학생들의 교육 흥미를 높여주는데 기여하는 중이다.

엔터테이먼트 분야에서도 딥페이크 기술이 적극 활용된다. 한국의 한 드라마에서는 딥페이크 기술을 활용해 배우의 어린시절을 촬영한 사례도 있다.

시청자들의 몰입을 더욱 깊게 하는 효과를 지니고 있기에 이에 대한 활용이 증가하고 있다. 이처럼 딥페이크는 잘 만 유용하면 축복의 선물이 되기도 한다.

답은 나와 있다. 「AI 2041」에서처럼 안티 딥페이크의 악용을 막는 것이다. 안티페이크는 조작된 정보를 식별하고 방지해 정보의 신뢰성을 유지하게 하는 것을 목표로 한다.

안티 페이크는 조작된 콘텐츠를 탐지하고 방지하기 위한 종합적인 접근 방식을 총칭함으로써 여러 기술이 이에 포함될 수 있다.

블록체인을 기반으로 하여 콘텐츠의 출처와 변경 이력을 기록해 진위를 검증한다. 또한 딥페이크 탐지 기술로서 AI 및 머신러닝 기술을 사용하여 조작된 콘텐츠를 식별하기도 한다. 이처럼 딥페이크는 또 다른 신기술로 해결가능하다.

블랙 해커가 있으면 화이트 해커도 있다. 딥페이크도 ‘AI 2041’의 책에서처럼 안티페이크로 현실의 혼란을 잠재웠으면 좋겠다.

물론 개인적 차원의 윤리의식 함양도 병행하는 노력이 요구된다. 그러할 때 우리 사회는 진정한 기술의 강국이 되며 신기술이 재앙이 아닌 축복이 되지 않을까.

• 한강타임즈는 언제나 여러분의 제보를 기다립니다.
• ▶ 전화 02-777-0003
• ▶ 이메일 news@hg-times.com
• ▶ 카카오톡 @한강타임즈