우리에게 익숙한 넷플릭스의 로고와 함께 시작되는 어떤 영상에서 세계인의 영원한 스타, 톰 크루즈는 특유의 낭랑한 목소리로 이렇게 말합니다.

아니 이게 무슨 소리냐고요? 바로 지난 파리 올림픽 개막을 앞두고 러시아가 유포한, 딥페이크(deepfake)를 활용해 만든 가짜 영상입니다. 약물 스캔들과 우크라이나 침공 등으로 올림픽 출전을 거부당한 러시아가 IOC와 서방 국가들을 비방하기 위해 만든 것이죠. 감쪽같은 톰 크루즈의 목소리에 실린 황당한 메세지를 보면 나날이 정교해지고 있는 딥페이크 기술을 새삼 경계의 눈으로 바라보게 됩니다. 딥페이크 영상이 우릴 놀라게 한 건 이뿐만이 아닌데요. 틱톡에서는 신나치주의자들이 만든, 유명 영화배우 엠마 왓슨이 히틀러의 ‘나의 투쟁’을 낭독하는 가짜 영상이 나돌기도 했고, 우리나라에서는 미성년 학생들이 친구들의 얼굴을 음란물과 합성하는 등의 딥페이크 성범죄를 저질러 큰 우려를 낳고 있습니다. 

딥페이크로 인해 발생한 충격적인 사건들은 어느새 사회 곳곳에서 활용되고 있는 인공지능이 가져다 준 반갑지 않은 미래의 일부입니다. 물론 다른 여러 기술들이 그렇듯, 딥페이크가 단지 범죄에 쓰이기 위해 개발된 것은 아닙니다. 그것은 고객에게 좀 더 편안한 환경을 만들어 주는 고객센터를 구축하는 데도, 학생이 온라인으로도 이질감 없이 교사와 소통하는 데도, 혹은 이제 더는 내 곁에 없는 그리운 가족과 따뜻한 말 한마디라도 더 나눌 수 있길 소망하는 사람들에게도 새로운 세상을 열어줄 수 있습니다. 그런데 왜 인간은 이것을 그릇된 욕망과 잔인한 이기심을 채우는 데 쓰고 있을까요? 우리 본성이 고작 그 정도밖에 되지 않아서일까요? 자조와 냉소를 보내기에 앞서, 우리는 이 새로운 기술이 개발되고 보급되고 활용되는 ‘속도’에 주목할 필요가 있습니다. 세상에 처음부터 나쁜 기술은 없습니다. 본질적으로 악한 기술도 없습니다. 단지 그 파급력을 충분히 예측하지 못하고, 미리 조심하면서 부작용에 대비할 시간이 주어지지 않은 채 널리 퍼지면서 인간에게 악용되는 기술이 있을 뿐이죠. 유네스코가 2021년 당시 세계 최초이자 유일한 인공지능 분야의 국제적 합의인 「인공지능 윤리 권고(Recommendation on the Ethics of AI)」를 채택하고 3년 여가 지난 사이에 인공지능은 우리 사회 곳곳에 대단히 빠른 속도로 스며들었습니다. 그리고 촘촘하고 튼튼한 안전망이 만들어지지 않은 상황에서 이 새로운 기술은 바로 ‘인간’에 의해 누군가의 자리를 빼앗고 누군가의 정보를 빼돌리고 누군가를 착취하는 데 악용되고 있습니다.

인공지능이 불러올 수 있는 부작용을 우려하는 사람들에게 전문가들이 이구동성으로 하는 조언입니다. 한마디로 인공지능이 ‘선’을 넘게 하지는 말라는 뜻인데요. 그 선이란 인공지능에게 맡길 수 있는 일의 한계를 말하는 것인 동시에, 인간이 인공지능이라는 도구를 맘껏 휘둘러도 될 분야를 구분하는 것이기도 합니다. 그런데 지금 그 선은 잘 지켜지고 있을까요? 인도와 콜롬비아 등에서 판사들이 사법적 판단을 내리는 데 챗GPT를 사용했다는 사실이 알려지면서 논란이 되고 있다는 유네스코의 발표를 보면, 그것은 매우 아슬아슬한 상태임이 분명해 보입니다. 유네스코의 설문에 응한 96개국의 법조계 관계자 중 44%는 판례를 수집해 논리를 구축하고 참고 서류를 요약하는 등 자신의 업무에 인공지능을 적극적으로 활용하고 있다고 답했습니다. 열 명 중 일곱 명(69%)은 이처럼 인공지능을 활용하는 데 따르는 위험을 인지하고 있다고 답했고 55%는 인공지능이 내놓는 결과물을 그저 문서 작성에 ‘참고’만 한다고 말했지만, 6%는 결과물을 다른 검증 없이 그대로 활용한다고 털어놓기도 했습니다. 그러면서 전체 응답자의 92%는 사법 체계 안에서의 인공지능 활용과 관련해 강제성 있는 규제, 그리고 적절한 교육과 훈련이 반드시 필요하다고 했습니다.

‘인공지능이 학습한 지식은 모두 기존의 인간에게서 나온 것’이라는 인공지능의 태생적인 한계 또한 이 새로운 기술이 악용될 여지를 더 크게 만들고 있습니다. 지난해 4월 『유네스코뉴스』에서 살펴봤듯, 챗GPT와 같은 생성형 인공지능은 인간이 만들어 무료로 공개해 놓은 자료들을 학습하면서 그 안에 깃든 우리 인간의 모든 측면, 즉 좋은 것과 나쁜 것을 고스란히 받아들였습니다. 인간의 지식과 지혜, 통찰과 연민을 물려받은 동시에, 편견과 오해, 거짓과 혐오 또한 학습했다는 뜻이지요. 개발사들은 인간이 직접 관여하는 학습 리뷰 과정을 통해 전자를 강조하고 후자를 억제해 왔다고 하지만, 그럼에도 불구하고 개발사의 연구실 밖에서 인공지능에게 잘못된 지식을 던져주려는 시도는 이어지고 있습니다. 앞서 언급한 신나치주의자들의 사례처럼 과거의 잘못이 잊히길 바라는 사람들, 나아가 그 잘못을 없었던 일로 하고 싶은 사람들은 딥페이크를 활용해 유명인들의 발언을 조작하기도 하고, 역사를 부정·왜곡하는 자료를 끊임없이 만들어 인터넷을 통해 퍼뜨리면서 인공지능의 ‘학습 교재’를 심어두고 있습니다. 여기에 적절히 대처하지 못한다면 학교에서 ‘홀로코스트’ 과제를 받아든 아이들이 그 내용을 인공지능에게 물어봤을 때, 그것이 자연스럽고 능청스럽게 내놓는 대답은 전혀 엉뚱한 방향을 가리키고 있을지도 모릅니다.

특별한 의도가 개입되지 않았더라도 인공지능의 ‘머리’ 속에 시대에 맞지 않는 편견이 여전히 스며 있다는 점도 문제입니다. 지난 3월에 내놓은 보고서를 통해 유네스코는 오픈AI(챗GPT 개발사)와 메타(라마2 개발사)를 포함한 주요 기술기업들의 생성형 인공지능을 상대로 한 테스트 결과를 발표한 바 있는데요. 무료 버전이 제공돼 학생과 일반인들이 손쉽게 활용하고 있는 이들 서비스에서 인공지능은 남녀를 고정된 틀 안에서 묘사하거나, 소수자와 인종을 차별하는 표현을 걸러내지 못하는 것으로 드러났습니다. 예를 들어 인공지능이 묘사하는 남성은 비즈니스와 의사결정, 연봉, 경력 등과 함께 의사나 기술자 같은 평판이 좋은 다양한 직종과 연결되는 반면, 여성은 집안일과 집, 가족, 아이, 요리, 봉사 등으로 한정되는 경우가 많았습니다. 인공지능에게 남녀별로 이야기를 하나씩 만들어 달라고 했을 땐 어떤 결과가 나왔을까요? 메타가 서비스하는 라마2의 경우, 남성의 이야기에는 보물, 숲, 바다, 모험, 결심, 발견 등의 단어가 주로 나온 반면, 여성의 이야기에는 정원, 사랑, 감정, 예의, 머리카락, 남편(?!)이 등장합니다. 오늘날 많은 사람들이 머지않아 인공지능이 선생님을 대체할 수도 있을 것이라 이야기하지만, 해묵은 편견과 낡아빠진 차별에 사로잡힌 스승을 원하는 사람은 아무도 없을 겁니다. 무료 서비스를 제공하면서 거대한 시장을 선점하려는 기업들, 그리고 이를 활용해 공부를 하고, 과제를 만들고, 새로운 이야기를 상상하는 우리 아이들의 만남이 잘못된 방향을 향하지 않도록, 우리는 기업과 사용자 모두에게 더 올바른 방향을 제시해 줄 수 있는 대책을 마련해야만 합니다.

다행스러운 점은 이미 3년 전에 「인공지능 윤리 권고」를 채택함으로써 인류는 그러한 대책을 세울 수 있는 윤리적 기준에 대해 포괄적인 합의를 이루었다는 사실입니다. 현재 50개국 이상에서 권고의 내용을 자국 법체계에 반영했다는 소식도 반가운데요. 유네스코는 정부뿐만 아니라 더 많은 기업들이 공평성과 투명성, 인권과 책임성을 인공지능 설계 단계에서부터 반영해야 한다고 강조하고 있습니다. 2월에는 개발 과정에서부터 적극적으로 윤리적 접근법을 취하겠다는 협약을 마이크로소프트를 포함한 8개 기업과 맺었고, 3월에는 우리나라의 LG AI연구소와 파트너십을 맺고 6월부터 인공지능 윤리 관련 MOOC(대규모 온라인 공개수업) 코스를 개발하기로 했습니다. 

정부와 기업 차원에서의 대책이 더욱 촘촘해지더라도 인공지능과 같은 신기술이 원치 않는 방향으로 활용되는 사례는 완전히 사라지지 않을 것입니다. 교통법규가 있다고 해서 자동차 사고가 사라지지는 않는 것처럼 말이지요. 오히려 21세기에는 인공지능이나 유전자 조작 같은 새로운 기술이 사회의 변화를 이끌어 내는 핵심 동력이 되고 있는 만큼, 우리를 걱정하게 만드는 상황은 더 빈번히 펼쳐질지도 모릅니다. 딥페이크 성범죄의 사례처럼 누군가 그것을 의도했든, 인공지능에 내재된 인간의 편견처럼 아무도 그것을 의도하지 않았든 말이지요. 따라서 유네스코는 새로운 기술을 사용하는 사람과 기술을 개발하고 적용하는 사람 모두에게 끊임없이 인간다움에 대한 고민을 해 볼 기회를 주고, 각자가 진실을 파악할 수 있는 비판적인 시각과 윤리적인 ‘선’을 판별할 수 있는 단단한 마음을 갖추도록 돕는 것이 그 무엇보다 중요하다고 이야기합니다. 유네스코가 강조하는 미디어 리터러시 교육이나 인공지능 윤리는 모두 바로 그 지점, 즉 새로운 기술을 만들고 퍼트리고 이용하는 ‘사람’을 향하고 있습니다. 이쯤되면 인공지능 윤리란 인공지능‘의’ 윤리가 아니라, 인공지능‘을 만들고 퍼뜨리고 이용하는 사람들’의 윤리라는 뜻임을 알 수 있을 것입니다. 어릴적부터 고사리손으로 코딩 블록을 매만지며 미래를 준비하는 아이들, 봄날의 벚꽃처럼 터져 나오는 상상력으로 쇼츠 영상를 만드는 청소년들, 그리고 사회의 중추에서 오랜 꿈을 현실로 만들어 가고 있는 모든 사람들에게 유네스코는 우리가 하는 이 모든 일의 끝에 ‘기술’이 아니라 ‘사람’이 있어야 한다고 이야기합니다. 정부와 기업, 학습 현장에서 구체적인 실천을 통해 이러한 가치를 지켜나갈 수 있다면, 앞으로 등장할 모든 새로운 기술들도 우리 모두에게 좋은 기술이 될 수 있을 겁니다. 

세계 최고 선수들의 땀과 노력, 선의의 경쟁과 눈부신 우정이 우릴 흥분케 했던 2024 파리 올림픽이 막을 내리고 약 2주 후인 8월 28일 아침, 저는 또 하나의 올림픽이자 진정한 모두의 축제인 파리 패럴림픽 성화 봉송을 현장에서 보기 위해 유네스코 본부로 향했습니다. 패럴림픽 성화가 유네스코에 도착하는 시간은 오전 10시이지만 보안상의 이유로 9시 30분까지 입장을 했는데요. 유네스코 직원들과 그 가족들, 주유네스코대표부 직원들, 당일 유네스코에서 개최된 국제 장애 포용 회의(International Disability Inclusion Conference) 참가자들과 함께 성화를 기다렸습니다.

패럴림픽 성화는 유네스코의 일본식정원(Japanese garden)에서 세귀르홀(Segur Hall)을 거쳐 피아짜(Piazza)라고 부르는 중앙정원에 도착했는데요. 다섯명의 성화봉송 주자 중에는 오드레 아줄레 유네스코 사무총장도 있었습니다. 아줄레 사무총장은 성화봉송용 유니폼인 하얀색 트레이닝복을 입고 패럴림픽 선수들과 함께했는데요. 워낙 사람들이 많아 저는 제대로 된 사진 한 장 찍지 못했습니다. 다행히 유네스코 본부에서 하이라이트 영상과 사진을 홈페이지를 통해 공유해 주었어요.

성화 봉송 다음으로 이어진 국제 장애 포용 회의(International Disability Inclusion Conference)에서 앤드류 파슨즈(Andrew Parsons) 국제패럴림픽위원회 위원장은 패럴림픽 티켓 판매가 다행히 순조롭다는 소식을 전하며 개회사를 시작했습니다. 아무래도 올림픽 보다는 미디어나 대중의 관심을 적게 받는 패럴림픽 운영의 어려움을 엿볼수 있었는데요. 제가 예약한 패럴림픽의 양궁 결승전 티켓 가격이 올림픽 양궁 결승전 가격의 5분의 1 수준이었던 것이 떠오르기도 했습니다.

파슨즈 위원장은 패럴림픽을 유치한 국가들이 장애인들의 스포츠 활동 지원을 강화한 선례를 소개하면서 모든 국가들의 참여를 독려했습니다. “우리가 패럴림픽에서 극복해야 하는 것은 장애가 아니라 장애가 인식되는 방식”이라는 말이 특히 인상깊었습니다. 이어서 연단에 선 아줄레 사무총장은 패럴림픽과 유네스코가 설립 배경과 가치에 있어 공통점이 많다고 언급했습니다. 2차 세계대전으로 신체와 정신의 피폐를 경험한 사람들이 패럴림픽과 유네스코를 만들었다는 것입니다. 잘 알려진 것처럼 유네스코는 교육, 과학, 문화를 통해 인간의 마음에 평화의 방벽을 쌓기 위해 만들어진 유엔 전문기구인데요. 패럴림픽은 1948년, 전쟁 부상병들이 참가한 영국의 체육대회에서 시작되었다고 합니다. 공식적인 패럴림픽은 이후 한참이 지난 1960년 로마에서 개최됐지만 그때의 정신을 기리기 위해 지금도 패럴림픽 성화는 영국에서 출발한다고 합니다.

올해 유네스코에서 발간한 『양질의 체육 교육 세계 현황 보고서(Global Status Report on Quality Physical Education)』에 따르면 장애를 가진 학생 3명 중 1명은 체육 교육을 받지 못하고, 학교의 3분의 1만이 포용적인 체육 시설을 갖추고 있습니다. 이번 포럼을 통해 유네스코와 국제패럴림픽위원회는 장애인 스포츠 활동에 대한 관심과 지원을 촉구하며 ▲접근권 향상(improve access) ▲기반시설(infrastructure) ▲포용 교육(inclusive education) ▲포용적인 미디어(media inclusion) ▲데이터 취합(data collection)을 강조하는 행동강령(call to action)을 발표했습니다.

이 중 ‘포용적인 미디어’란 미디어에서 비장애인뿐만 아니라 장애인들의 스포츠에도 충분한 분량을 할애해 다루고, 장애인과 비장애인 간의 소통과 이해의 폭을 넓힐 수 있는 다양한 콘텐츠를 만들어야 한다는 주문인데요. 이와 관련해서 최근 프랑스에서 큰 인기를 끌고 있는 《Un p’tit truc en plus》라는 영화 한 편을 여러분께 소개하고자 합니다.

장애인들이 대거 출연한 이 영화의 제목은 한국어로 ‘작은 덤’ 정도로 번역할 수 있을까요? 혹시 한국에서 개봉한다면 제목이 어떻게 번역될지도 궁금한데요. 영화는 막 보석상을 턴 도둑 부자 콤비가 경찰을 피해 도망가다 우연히 장애인 교육시설의 여름 캠프에 참가하게 되면서 겪는 이야기를 담고 있습니다. 비장애인이, 그것도 범죄자가 필요에 의해 장애인 흉내를 내며 생활하는 이야기라니, 보기에 따라서는 이런저런 우려도 나올 법한 이야기인데요. 영화는 저의 예상을 뛰어넘어 현실적이면서도 희망이 넘치고, 유쾌하면서도 가슴 찡한 장면들을 보여줬습니다.

각기 다른 장애를 가진 배우들은 때로는 일반인들의 편견을 뒤집는 모습을 보여주기도 하고(비장애인의 장애인 흉내를 바로 알아차린다든지요), 때로는 자신의 신체적 특징을 활용한 몸개그도 마다하지 않으며 관객들의 마음을 훔칩니다. ‘작은 덤’이 무엇인지 영화에서 직접 설명해 주지는 않지만, 저는 장애인이란 무언가 중요한 것이 결여된 사람이 아니라, 그저 덤처럼 별 것 아닌 무언가를 조금 더 짊어지고 있는 사람일 뿐이라는 이야기를 하고 싶었던 것이라고 느꼈습니다. 장애인은 시혜의 대상도 각성의 소재도 아닌, 저마다 작은 덤을 가지고 있는 개성 넘치는 한 인간이라는 것이지요. 

감독은 영화를 준비하면서 “장애인이 10명 나오는 영화를 보고 싶어하는 사람이 있겠냐”라는 얘기를 듣기도 했다고 합니다. 통쾌하게도 이 영화는 5월 초에 개봉해서 아직까지도 극장에서 상영중으로(바로 얼마전에 유료 온라인 스트리밍 서비스가 시작됐네요), 이미 천만 관객을 돌파하며 프랑스 역대 국내 영화 흥행 순위 10위권에 안착했습니다. 소외된 사람들에 대한 이야기를 하는 것은 분명 쉽지 않은 일이지만, 생각보다 훨씬 많은 사람들이 바로 그런 이야기를 기다리고 있다는 사실을 이 작고 사랑스러운 영화가, 그리고 패럴림픽 선수들이 보여주는 멋진 승부가 우리에게 알려주고 있는 것 같습니다. 

다양한 분야에서 용감한 도전을 이어가는 인플루언서 성해은이 유네스코 프렌즈로 위촉되었다는 소식! 취미부터 어떤 영향력을 줄 수 있는 사람이 되고 싶은지, 청년들에게 전하는 메시지까지 그녀의 이야기를 들어보았어요. 유네스코한국위원회와 함께 더 나은 미래를 만들어갈 성해은의 특별한 여정을 기대해 주세요!

▶︎ 링크를 복사해 주변의 친구와 가족, 지인들에게 유네스코 뉴스레터를 소개해주세요.

▶︎ 수신거부는 여기를 눌러주세요.