대중문화 속 AI
인공지능이 가상의 온라인 모델을 만들어낸다면?
2019/03/14 by 이수경, 홍상훈, 유영무 변호사(법률사무소 조인)

사례 1.2010년대 초반, 쇼핑몰 업계에 ‘할리우드 합성’이 인기를 끕니다. 해외 유명인의 파파라치 사진에 의상을 합성하는 게 핵심이죠. 쇼핑몰은 자사 제품을 할리우드에서 유행하는 것처럼 꾸며낼 수 있음은 물론, 비싼 모델료를 아낄 수 있었습니다. 그러다가 할리우드 합성을 먼저 고안한 A 쇼핑몰이 B 쇼핑몰을 상대로 소송을 겁니다. 다행히(?) 쇼핑몰 A가 낸 가처분 신청은 기각당합니다. 법원은 해외 유명인의 초상권을 부당하게 침해하고 있으며, 따라서 A 쇼핑몰의 영업 행위를 법률상 보호할 가치가 있는 이익이라 보기 어렵다고 판시했죠.

사례 2.얼굴만 도용하지 않으면 되는 걸까요? 아닙니다. 또 다른 사례를 보겠습니다. 한 인터넷 업체는 온라인에서 찾은 외국인 A 씨의 신체 부위와 유료 이미지 사이트에서 구매한 다른 사람의 얼굴을 합성한 사진을 자사 광고에 활용했습니다. 이를 알게 된 A씨는 업체를 상대로 손해배상 청구 소송을 냅니다. 항소심 재판부는 인물의 체격이나 머리카락, 옷차림을 보고 A를 특정할 수 있다고 판단합니다. 신체 부위만 가지고 특정인임을 알아챌 수 있다면 초상권 침해 소지가 있다고 본 거죠.

만약에 세상에 존재하지는 않지만 존재할 법한, 매력적인 얼굴을 가진 가상 모델을 만드는 기술이 있었다면 어땠을까요? 아마도 두 업체 모두 초상권 분쟁을 피할 수 있었을 것 같다는 생각이 드네요. 가까운 미래에 이런 기술이 나온다면 아마도 GAN(Generative Adversarial Networks)이 기반이 될 것으로 보입니다. 현재 기술이 실존하지 않는 사람의 얼굴(fake faces)을 매우 사실적으로 만들어내는 수준에 도달했기 때문입니다. 이번 글에서는 최근에 소개된 styleGAN과 인공지능 모델 시장, 그리고 이로 야기될 수 있는 법적 분쟁 등에 관해 다뤄보고자 합니다.


styleGAN이 만드는 '실존하지 않는 사람들'

2014년 이안 굿펠로우(Ian Goodfellow)가 주축이 된 몬트리올 대학교(University of Montreal) 연구팀이 GAN을 고안한 이후 지난 5년간 많은 혁신이 이뤄졌습니다. 오늘날 GAN이 가장 많이 활용되는 분야는 이미지 스타일 변환(style translation), 이미지 합성(face image synthesis)과 같은 컴퓨터 비전(computer vision)입니다. 최근에는 음성이나 자연어 등 비(非) 이미지 데이터를 생성하는 데도 활용되는 등 그 활용 가능성은 점차 커지고 있습니다. 얀 르쿤(Yann Lecun) 교수가 지난 10년간 이뤄진 머신러닝 연구 중 가장 흥미로운 아이디어를 GAN이라고 평가한 이유가 바로 여기에 있죠.

(더 자세히 보기 - 페이퍼 데이 2018 - GAN)

가장 최근에 등장한 GAN 논문은 상당히 현실적으로 얼굴을 만들어냅니다. 지난해 엔비디아(NVIDIA)가 발표한 styleGAN이 바로 그것이죠. 2017년 버전과 비교하면 기술이 진일보했음을 알 수 있습니다.

홍상훈 카카오브레인 연구원은 styleGAN의 특징 중 하나가 이미지 스타일을 빠르게 변환하는 연구에 제안된 스타일 추출 모듈인 ‘AdaIN(Adaptive Instance Normalization)’을 이미지 생성에 도입했다는 데 있다고 설명합니다. 스타일 변환은 하나의 사진이나 그림을 고흐, 피카소, 르누아르 등 다양한 화가의 그림체로 바꾸는 신경망(neural networks)을 만드는 연구 분야 중 하나입니다. 홍 연구원은 “보다 쉽게 설명하자면, styleGAN은 하나의 이미지를 두고 붓의 굵기나 색깔, 투명도 등 세부 요소를 바꿔가며 새로운 그림을 만들어내는 방식을 차용해 새롭고 다양한 얼굴을 만들어내는 얼굴 생성 기술이다”고 말합니다.

[ 그림 1 ] 스타일 변환 네트워크를 도식화한 이미지

styleGAN은 CelebA-HQ와 FFHQ라는 두 데이터셋으로 학습했습니다. 두 데이터 셋의 해상도는 1024*1024픽셀입니다. CelebA-HQ에는 약 3만 개의 유명인 이미지가 담겨 있습니다. FFHQ는 연구팀이 자체적으로 구축한 데이터셋으로, 7만 장의 플리커(Flickr) 인물 이미지를 포함하고 있습니다.

styleGAN가 눈, 코, 입 등 신체 부위를 디테일하게 그려내는 능력은 탁월한 듯 보입니다. 배경이나 신체의 대칭성, 안경을 쓴 얼굴, 머리카락, 치아 등 일부 신체를 표현하는 능력은 다소 아쉽다는 평가입니다만, 그래도 이전 연구와 비교해보자면 상대적으로 더 나은 표현력을 선보입니다.

홍 연구원은 “사람이 신경 쓰지 않는 랜덤 노이즈(머리카락, 피부의 세부 디테일 따위)와 스타일(머리 색, 머리 모양 등)를 분리한 점, 고화질 데이터 셋을 추가로 수집하는 등 좋은 결과를 내기 위한 추가적인 작업도 양질의 결과물을 내는 데 긍정적인 영향을 미쳤을 것으로 보인다”고 덧붙였습니다.

물론 해상도가 높으며 자연스러운 이미지 생성하기, 다양한 변화 생성하기, 의미 있는 단위(나이, 얼굴형, 피부색 등)로 분리하기 모두 지속해서 연구되는 분야라고 합니다. 체감상 GAN을 활용한 얼굴 이미지 생성 분야가 이전보다 세간의 큰 이목을 끌게 된 이유는 바로 styleGAN을 활용한 사이트의 등장 덕분입니다.


'새로고침'을 누를 때마다 인물 사진을 만들어내는 AI

최근 우버(Uber)의 소프트웨어 엔지니어인 필립 왕(Pilip Wang)이 만든 '실존하지 않는 사람(ThisPersonDoesNotExist.com)’과 워싱턴 대학교(University of Washington)의 제빈 웨스트(Jevin West) 조교수와 칼 버그스트롬(Carl Bergstrom)교수가 만든 ‘어떤 얼굴이 진짜일까?'(WhichFaceIsReal.com), 두 곳의 사이트가 개설됐습니다. 이들 모두 엔비디아가 오픈소스 형태로 공개한 styleGAN을 활용합니다.

첫 번째 사이트에서는 '새로고침’을 누르는 순간마다 현실 세계에 존재하지 않는 인물 사진이 생성됩니다. 두 번째 사이트에서는 방문자가 두 이미지 중 진짜를 고를 수 있습니다. 몇몇 사진은 그 진위를 매우 명확하게 구분할 수 있었습니다. 하지만 일부는 진짜가 가짜 같고, 가짜가 진짜처럼 느껴질 정도로 구분이 어려웠죠. 그 밖의 ‘실존하지 않는 000’ 시리즈를 보고 싶으시다면 다음의 깃허브(Github) 링크를 참조해보시길 바랍니다.

실제 얼굴과 가짜 얼굴을 구분하는 몇 가지 기준이 있기는 합니다. 첫 번째, 안경이나 귀걸이가 제 모양을 갖췄는지, 두 번째, 같이 등장하는 또 다른 등장인물의 얼굴이 완전한지, 배경 속 텍스트가 제대로 생성됐는지 등처럼 말이죠. 아울러 동일 인물에 대한 여러 장의 이미지를 얻을 수 없다는 한계도 있습니다.

[ 그림 2 ] GAN으로 생성한 얼굴 사진의 진위를 파악하는 몇 가지 방법이 제시되고 있다.

그러나 지난 4년간 GAN의 발전상을 보자면 언젠가는 이미지 속 인물의 성별, 나이뿐만 아니라 신체 부위를 자유자재로 바꿀 수 있게 될 것으로 기대됩니다. 원하는 포즈를 취하는 인물도 만들어낼 수 있음은 물론이죠. 또는 "트렌치코트를 입은 한 여인이 카페 안에서 창밖을 바라보고 있다"는 문장대로 이미지를 생성할 수 있게 될 것으로 보입니다. 개인적으로는 GAN을 활용한 인물 생성 알고리즘의 활용 예상 분야 중 하나가 온라인 모델 시장이지 않을까 싶습니다.


초 단위로 만들어지는 가상 얼굴, 어디에 활용해볼 수 있나

온라인 쇼핑에서는 상품 정보가 구매에 큰 영향을 미칩니다. 소비자가 직접 상품을 만져보거나 입어볼 수 없는 한계 때문이죠. 텍스트 정보만큼이나 이미지 정보가 매우 중요한 건 바로 이 때문입니다. 제품만 촬영하는 방식이 주를 이은 2000년 초반과는 달리, 중반 이후에는 실제로 제품을 착용해서 찍은 사진이 성행합니다. 인터넷 쇼핑몰이 우후죽순으로 생겨나며 경쟁이 치열해진 가운데, 소비자의 구매를 유도하려는 세련된 전략이 나온 거라 볼 수 있죠.

이런 점에서 봤을 때 오프라인뿐만 아니라 온라인에서도 모델은 제품이나 서비스를 돋보이게 한다는 점에서 매우 중요한 요소입니다. 제품 판매에 많은 영향을 미치기에 빼어난 얼굴이나 몸매를 갖춘 모델을 기용하죠. "그녀가 원했던 것은 모델이 입은 옷이 아니라 모델 자체였다. 가진 돈을 다 쏟아부어서라도 그녀가 갖고 싶은 것은 아무도 팔 수 없는 것, 바로 그녀가 아닌 다른 존재다.” 알랭드 보통의 저서인 <우리는 사랑일까>에 나온 구절에서처럼 마르고 매력적인 모델을 많은 이가 선호하니까요.

물론 빼어난 외모가 전부는 아닙니다. 제품 컨셉과 모델 이미지가 잘 맞아떨어져야 하죠. 그래서 무조건 유명한 모델을 고용하기보다는, 아이템에 적합한 모델을 선택하는 게 바람직하다는 의견이 지배적입니다.

단순히 생각하면 톱 모델을 기용하지 않아도 되는 의류 피팅 모델을 생성하는 데 GAN이 활용될 가능성도 생각해볼 수 있습니다. 글 서두에서 언급한 사례에서 ‘하나’만 바꾸는 겁니다. 바로 사진 속 인물의 얼굴을 GAN으로 만든 것으로 대체하는 방식인 거죠. 현실에 존재하지는 않지만 세련된 마스크를 갖춘 인물을 모델로 활용할 수 있게 됩니다. 많은 모델을 기용할 수 없는 중소규모 쇼핑몰에서는 모델 라인업 다각화 전략을 펼칠 수 있을 것으로 기대됩니다. 모델 한 명으로 사진 촬영을 진행하지만 쇼핑몰에는 수백 명, 수천 명의 사람이 등장하는 거죠.

분위기를 연출하는 사진에서 무엇보다 중요한 건 배경입니다. 현재 기술은 실존하지 않는 가상의 공간도 생성합니다. 물론 아직은 인물을 생성하는 것과 비교하자면 품질이 좋지는 않습니다만, 나날이 발전하는 기술 발전 속도를 봤을 때 배경 생성 기술도 진위를 가리기 힘들 정도로 고도화될 것으로 보입니다. 특히, 의류 쇼핑몰에 소개되는 사진의 경우 카페에서, 길거리에서, 여행지에서의 한 장면을 연출했을 때 고객은 모델의 일상을 엿보는 동시에 자신 또한 여행에 동참하는 느낌을 받아 구매욕을 더 느낀다고 해요. 이런 점에서 봤을 때 단조로운 장식의 스튜디오에서 찍은 사진으로도 100가지, 200가지 장소에서 촬영한 느낌의 사진을 만들어낼 수 있지 않을까요?

비단 제품 판매가 아니더라도 고객의 감성을 자극하려는 목적으로 인물이 등장하는 컨셉 사진에도 GAN이 활용될 가능성도 배제할 순 없습니다. 아래 [그림 3]이 예입니다. 쇼핑하는 사진, 회의하는 사진, 운동하는 사진, 자녀와 즐겁게 노는 사진, 요리하는 사진 등 특정 상황에서의 컨셉이 비슷할 가능성이 높습니다. 단 한 장의 사진으로 상황적 즐거움을 표현해야 하기에 전형성을 따르기 때문이죠. 이런 특징을 감안한다면 GAN이 만들 컨셉 사진이 유료 이미지 사이트에 팔릴 날도 머지 않을 듯 보입니다.

[ 그림 3 ] 회의하는 사진, 쇼핑하는 사진, 운동하는 사진 등 전형성을 따르는 컨셉 사진 생성에도 인공지능이 활용될 가능성을 완전히 배제할 수 없다. © pixabay


어떤 법적 분쟁이 발생할 수 있을까?

GAN과 같은 알고리즘이 만든 데이터를 활용하고자 할 때 검토해야 하는 부분이 있습니다. 악의적이거나 재산상 이득을 취하려는 목적으로 특정인과 유사한 얼굴을 생성할 경우 법에 저촉될 수도 있기 때문이죠. 초상권 분쟁이 일어나지 않도록 학습 데이터를 취득하는 과정 또한 투명할 필요가 있습니다. 좀 더 자세한 내용은 유영무 변호사(법률사무소 조인)를 통해 받은 질의응답 내용을 확인해보시길 바랍니다.

Q.만약 알고리즘으로 생성한 가짜 얼굴(A’)이 현실 세계에 존재하는 누군가(A)와 비슷하다면, A는 초상권을 침해받았다고 주장할 수 있을까요?

A.인공지능이 생성한 얼굴이 누군가와 빼닮았더라도 시스템 제작자 또는 소유자가 의도치 않은 우연한 결과라면 이를 두고 법적 문제를 지적하기는 어려울 것으로 보입니다. 민사상 책임을 물으려면 고의 또는 과실, 형사 책임에는 고의가 필요하기 때문이죠. 형제자매는 아니지만 쌍둥이처럼 닮은 사람이 현실에도 존재하듯이, 인공지능으로 누군가를 닮은 얼굴을 생성할 수는 있을 것으로 보입니다.

다만 다음과 같은 이유라면 이야기는 달라집니다. 특정인의 유명세에 편승해 재산상 이익을 얻고자 하거나 가짜 뉴스로 특정인의 명예를 훼손하거나 선정적인 콘텐츠로 모욕을 주는 등 옳지 않은 목적으로 인공지능을 동작했다면 문제가 되죠. 일부러 특정인과 흡사한 얼굴이 만들어지도록 알고리즘을 설계하거나 편향된 데이터를 제공했을 수 있으니까요.

결국 법적인 책임은 이미지를 생성한 자의 의도에 따라 사건별로 따져야 합니다. 다양한 정황을 종합적으로 고려해 의도를 판단합니다. 예를 들어, 유명 스포츠 선수 얼굴을 떠올리게 하는 가짜 얼굴을 스포츠 의류 광고에 노출한다면, 이는 의도를 가지고 만들어낸 결과라고 추정할 수 있습니다.

Q.일반인이 아니라 유명인의 얼굴을 활용했다면?

A.유명인의 경우 초상권 외에도 퍼블리시티권[1] 침해 여부가 주요 쟁점이 될 수 있습니다. 다만, 아직 확립되지 않은 권리다 보니 다양한 논의가 존재합니다.

Q.업체가 2차 저작물 제작 활용에 동의하지 않은 사람의 얼굴로 모델을 학습시킨 정황이 있다면, 그 증거를 찾기 위해 해당 회사 서버 등을 압수 수사할 수 있나요?

A.수사기관의 판단에 따라서는 법원의 영장을 받고 압수 등 강제 수사가 가능합니다. 단순히 민사상 불법행위에 그치지 않고 형사상 범죄에 해당한다면 서버 내 정보를 압수할 수 있죠. 물론 단순히 자신의 사진을 도용했다고 고소해도 충분한 단서가 없다면 수사는 어려울 것입니다. 도용 근거는 고소인(피해자)이 제시해야 하고요. 이런 점에서 보자면 인공지능 분야에서 그 권리 침해 사실을 입증하기가 대단히 어려운 문제라고 볼 수 있습니다.

(더 자세히 보기 - 딥페이크와 리벤지 포르노)


모델의 실존 여부를 따지지 않을 미래

브랜드가 자사에 적합한 모델 이미지를 찾아가는 데 있어서 인공지능은 분명 크고 작은 역할을 해낼 것으로 보입니다. 어쩌면 모델의 실존 여부를 따지는 일은 더는 중요한 문제가 아니게 될지도 모릅니다. 해외 패션 브랜드가 선보인 가상의 사이보그 모델인스타그램(Instagram) 계정을 한 번 보실까요? 잘 모르는 사람이 봐도 주인공은 3D 모델링으로 만들어낸 가상 인물임을 단번에 알아볼 수 있습니다. 하지만 실존하는 인물의 인스타 계정만큼이나 높은 인기도를 구사합니다. 단순히 사이보그 모델이라는 점 때문에 이런 인기를 구사하는 건 아닐 겁니다. 인간 유명인과 마찬가지로 감각적인 패션 감각을 자랑하거나 남부럽지 않은 일상을 매우 자연스럽게 주는 모습에서 소비자가 매력을 느꼈다는 게 더 맞는 해석일지도 모릅니다. 카카오프렌즈의 대표 캐릭터인 ‘라이언’의 가상 인터뷰가 큰 인기를 끄는 것에서 보듯이, 인공지능이 만들어 낸 세련된 얼굴을 갖춘 사이보그가 브랜드 전속 모델로 활동할 날도 머지 않은 것 같네요.

[ 그림 4 ] 가상 사이보그 모델인 lilmiquela의 인스타그램 캡처

다만 앞서 언급한 법적 문제를 방지할 다양한 장치를 고안할 필요는 있을 듯합니다. 칼 버그스트롬 교수가 “이미 현실 속에 존재하는 기술이나 대중이 이 사실을 모르고 있을 때, 바로 이때가 가장 위험한 시기라고 볼 수 있다”고 말한 것처럼 이런 기술의 존재를 모르는 대중에게는 큰 혼란을 줄 수 있기 때문이죠. 인공지능이 만든 얼굴임을, 인공지능이 창조해낸 인물임을 사진 또는 페이지에 명시적으로 표기하는 가이드라인의 제정을 때이르게 고민해봐야 할 정도로, 현재 인공지능은 아주 빠르고, 그리고 아주 정교한 방식으로 이미지를 창조하는 ‘중’입니다.


(이 글의 피쳐 이미지는 '실존하지 않는 사람(ThisPersonDoesNotExist.com)’을 통해 생성했습니다)


참고
[1] 재산적 사치가 있는 유명인의 성명과 초상 등 프라이버시에 속하는 사항을 상업적으로 이용하는 권리를 가리킨다. 이 개념이 처음 등장한 미국에서도 아직 확립된 것은 아니다.
이 글을 쓴 사람들
samantha.lee
이수경 |
지난 2016년 3월 알파고와 이세돌 9단이 펼치는 세기의 대결을 취재한 것을 계기로 인공지능 세계에 큰 매력을 느꼈습니다. 인공지능을 알고 싶어하는 사람들을 위한 콘텐츠를 쓰고자 카카오브레인에 합류했습니다. 현재는 분야별 인공지능 전문가와 함께 기술 콘텐츠를 생산하는 재미에 푹 빠져 있습니다. 인공지능을 만드는 사람들의 이야기와 인공지능이 바꿀 미래 사회에 대한 글은 누구보다 쉽고, 재미있게 쓰는 사람이 되고 싶습니다.
ian.theman
홍상훈 | 기술감수
카카오브레인에서 새로운 아이디어를 고민하고, 이를 직접 구현하는 리서치 엔지니어로 활약 중입니다. 학부 시절부터 인공지능, 뇌 연구에 관심이 많았습니다. 딥러닝의 잠재력에 매일 놀라고 있지만, 완전한 인공지능이 될 때까지는 아직 갈 길이 멀다고 생각합니다. 카카오브레인의 뛰어난 사람들과 함께 AI 기술발전에 이바지를 하고, 이 기술을 활용해 인류 사회에 보탬이 되고자 합니다.
유영무 변호사(법률사무소 조인)
유영무 변호사(법률사무소 조인)