최근 ChatGPT, 자율주행 등 인공지능(AI) 기술이 급속도로 발전하여 우리의 생활에 많은 영향을 주기 시작했다. 딥페이크(Deepfake) AI은 사람들의 얼굴, 목소리, 동작 등을 합성하여 진짜와 구분하기 어려운 가짜 영상, 음성 등을 만들어내는 기술로 큰 주목을 받은 인공지능 기술이다.
그러나 딥페이크 AI는 다양한 분야에서의 유용한 활용 가능성을 보여주고 있지만, 가상 인간(Virtual Human)과 다르게 윤리적인 문제인 이중사용 딜레마(Dual-Use Dilemma)에 서서히 빠져 들어가고 있다.
가상 인간(Virtual Human)은 주로 가상현실(Virtual Reality) 플랫폼에서 상호작용이 가능하게 처음부터 AI로 만들어진 가상의 인물이다. 영상 콘텐츠 뿐만 아니라 교육, 게임, 광고, 패션 등 다양한 분야에서 활용되고 있다. 로지, 미켈라, 한유아, 루시, 제니(이터니티) 등과 같은 가상 인간은 사람이 만든 가상적인 인물로써, 실제 사람의 얼굴이나 목소리 등을 토대로 제작되기도 하지만, 대부분의 경우 실제 인물과 명확하게 구별된다. 그래서 가상인간은 딥페이크 AI와 다르게 초상권 문제의 발생 가능성이 낮다.
반면, 딥페이크 AI는 인공지능 분야 중 하나인 GAN(Generative Adversarial Network, 생성적 적대 신경망)를 이용하여 실제 사람의 데이터를 기반으로 실존 인물의 얼굴을 다른 사람의 몸에 합성하는 기술을 사용한다. 결과적으로 실제 인물과 거의 구별하기 힘든 가짜 인물의 얼굴, 목소리 등 데이터를 자동으로 생성한다. GAN 알고리즘은 인간의 개입이 거의 없이 두 개의 서로 다른 신경망이 서로 경쟁하면서 더 나은 결과를 자동으로 만들어내는 인공지능 기술이다.
가짜 이미지를 생성(Generative)하는 생성자 신경망(Generator)과, 진짜 여부를 감별하는 또 다른 신경망인 구분자(Discriminator)를 가지고 있다. GAN 알고리즘은 이 두 개의 신경망 모델을 서로 적대적(Adversarial)으로 경쟁시키면서 진짜와 구별할 수 없는 수준까지 계속 학습시키는 대표적인 인공신경망 기술이다.
2017년 처음 등장한 이후로 급속도로 발전주로 영상과 음성 분야에서 사용되며, 사용자의 명시적인 동의 없이 다른 사람으로 가장하는 위협적인 용도로도 사용될 수 있다. 정치, 사회, 경제 등 다양한 분야에서 악용될 수 있는 잠재력이 있기 때문에, 실존 인물의 초상권 문제, 윤리적 사용 등 이중사용 딜레마(Dual-Use Dilemma)을 위한 논의 필요가 있다.
딥페이크 AI는 핵기술, 드론 기술, 생화학 기술 등과 같이 이중사용 딜레마(Dual-Use Dilemma)의 대표적인 사례가 될 수도 있다. 이중사용 딜레마(Dual-Use Dilemma)란 기술이 긍정적인 목적과 부정적인 목적으로 동시에 사용될 수 있는 상황을 의미한다. 딥페이크 AI도 이러한 딜레마에 놓일 가능성이 매우 높다. 기술의 잠재력을 최대한 발휘하기 위해서는 긍정적인 측면에서의 활용을 권장할 수 있으나, 그로 인해 부정적인 측면에서 악용될 가능성도 반드시 고려해야 한다.
딥페이크 AI의 활용과 윤리적으로 고려할 것이 너무나도 많지만, 간단하게 세가지 영역을 예를 들어 살펴보자
첫째, 예술과 엔터테인먼트 영역에서 고려사항으로는 영화, 드라마 등에서 특수 효과를 향상시키거나, 고전적인 배우를 다시 살려내는 등의 용도로 사용될 수 있다. 하지만 실제 배우의 인지적 권리를 침해하거나, 역사적인 의미를 왜곡할 우려도 있다.
둘째, 교육과 연구 영역에서 고려사항은 교육 분야에서 사용자 정의 캐릭터를 만들거나, 언어학 연구 등에서 활용될 수 있다. 그러나 사실과 혼동될 수 있는 정보를 제공하거나, 학문적으로 비윤리적인 데이터 사용에 대한 문제가 발생할 수 있다.
세째. 사회 문제와 프라이버시 영역에서는 가짜 뉴스, 사기, 음란물 등 유해한 콘텐츠 제작에 악용될 수 있다. 또한 개인의 프라이버시를 침해하거나 명예를 훼손할 수 있다.
정부와 기업은 딥페이크 AI 기술의 개발과 사용에 있어서 윤리적인 체계를 조기에 마련해야 한다. 투명성과 책임성을 강화하여 개인의 권리를 보호하고, 법적 제한과 검증 기술을 도입하여 악의적 사용을 방지해야 한다.
정부, 기업, 연구자, 그리고 일반 사용자들이 함께 협력하여 긍정적인 활용과 부정적인 악용을 균형 있게 다루는 방안을 모색해야 할 것이다.