인공지능의 편향성을 보완하기 위한 대책은?

룸먼 초우두리 전 트위터(X) 머신윤리책임자

2026. 3. 25.

2026/3/26 (목)

오늘날 인공지능은 많은 부분에서 인간의 지적 능력을 훌쩍 넘어서는 수준에 이르렀지만, 한편으로는 처음부터 인간이 갖고 있던 편향성(bias)까지 그대로 학습했다는 태생적인 한계도 분명 존재합니다. 유네스코는 일찍부터 이러한 위험성을 지적하면서 인공지능의 디자인과 개발 단계에서부터 더 다양한 구성원이 참여하고 다양한 목소리가 반영되어야 한다는 점을 강조해 왔는데요. 특히 남초 현상이 두드러지는 프로그래밍 및 인공지능 개발 분야에 여성을 비롯한 다양한 소수자를 참여시키는 것이 더 포용적이며 공정한 AI 세상을 위해 중요함을 강조하고 있습니다. 트위터(현재는 엑스(X))의 머신러닝윤리 책임자 출신의 데이터과학자 룸먼 초우두리(Rumman Chowdhury)는 그 과정에서 여러 연구를 수행하며 보고서 집필에도 참여해 왔는데요. 그는 유네스코 《꾸리에》와의 인터뷰를 통해 생성형 인공지능의 발달로 인한 허위정보 범람과 젠더 폭력 증가를 우려하면서, 이를 막기 위해 더 폭넓은 분야에서 광범위한 노력과 참여가 필요하다고 말합니다. 탈진실(post-truth) 세상으로의 파국을 막기 위해 우리가 잊지 말아야 할 것은 과연 무엇인지, 인터뷰 내용을 정리해 여러분께 소개합니다.

오늘의 뉴스레터 아이템

신기술 악용, 가장 취약한 계층을 노릴 수 있기에 더 위험합니다

#AI #AI윤리 #젠더

유네스코 뉴스레터 편집진 / 뉴스룸에서 보기

룸먼 초우두리가 참여한 유네스코 보고서 『"Your opinion doesn’t matter, anyway": exposing technology-facilitated gender-based violence in an era of generative AI』의 표지 일러스트

+ 2023년 11월에 유네스코가 발간한 보고서 『"Your opinion doesn’t matter, anyway": exposing technology-facilitated gender-based violence in an era of generative AI(“당신의 의견은 상관 없다”: 생성형 AI 시대의 기술이 매개하는 젠더 기반 폭력)』를 통해 인공지능 시대의 새로운 기술이 여성과 소녀들에 대한 폭력의 가능성을 높이고 있다고 경고하셨어요. 구체적으로 어떤 위협을 이야기하시는 건지 궁금합니다.

온라인에서의 젠더 기반 폭력은 대개 사이버 괴롭힘(cyber harassment)에서 시작됩니다. 여성은 인공지능 시대가 열리기 전부터 폭력을 동반한 위협에 취약한 상황인데요. 최근 한 연구에 따르면 같은 연령대의 남성(7%)보다는 여성(26%)이 사이버 스토킹을 경험한 비율이 훨씬 높아요. 그런데 오늘날의 기술은 별도의 코딩 능력을 갖추지 않고도 필요한 작업을 손쉽게 하도록 도와줍니다. 폭력적 콘텐츠, 오해를 불러일으키는 콘텐츠, 그리고 단순한 ‘쓰레기’ 콘텐츠가 더욱 증가할 우려가 커졌고, 이러한 정보의 폭주와 혼란은 여성에 대한 폭력도 더욱 심화시킬 수 있습니다. 뿐만 아니라 사회에 내재된 무의식적 차별 행위와 성차별(sexism)이 인공지능 모델에 학습되면서 의도치 않은 피해도 낳고 있어요. 널리 알려진 사례로는 AI 모델이 여성을 의사나 과학자가 아닌 간호사나 교사로 자동 인식하거나, 여성의 이미지를 본인 동의나 의도 없이 성적 대상화하는 경우 등이 있습니다.

+ AI가 구체적으로 어떤 식으로 허위 정보 생성에 활용되고 있는지도 궁금해요.

먼저 많이들 우려하는 조합형 딥페이크(compositional deepfakes)가 있습니다. 여러 개의 조작된 미디어 소스를 결합하여 누군가에 대한 완전한 허구의 서사를 만들어내는 것이죠. 이렇게 만들어진 가짜 사진, 기사, 음성, 영상 등이 온라인상에 퍼지면서 매우 신빙성 있는 ‘가짜 역사’가 형성됩니다. 전문가들은 일부 주체들이 수년에 걸쳐 가짜 계정과 허구의 서사를 정교하게 구축한다는 사실을 알고 있는데요. 인공지능을 활용해 이러한 악의적인 행위를 대부분 자동화할 수 있습니다.

인공지능은 상호작용이 가능한 딥페이크도 만들 수 있어요. 특정 인물을 흉내내 대화하는 챗봇을 훈련시켜 해당 인물이 하지 않은 말도 했다고 믿게 만들 수 있습니다. 가짜 소셜 미디어 계정을 만들어 온라인상에서 특정 여성으로 가장하고, 그들이 부정적으로 보이게 하는 발언이나 게시물, 행동을 만들어내는 데에도 활용될 수 있습니다.

아울러 개인정보를 탈취하기 위해 심는 악성코드도 있습니다. 인공지능에 힘입어 괴롭힘을 목적으로 한 자동화된 악성코드를 만드는 진입 장벽이 훨씬 낮아졌습니다. 누군가의 소셜미디어 계정에 10분 간격으로 게시물을 올리는 코드를 생성하도록 맡기면, 15-20분이면 대규모로 온라인 괴롭힘 작업을 시작할 수 있습니다.

2024년 'Your right to repair AI systems'라는 주제로 TED 강연에 나선 룸먼 초우두리

+ 이러한 위협에 효과적으로 대응하지 못할 때 일어날 문제로는 어떤 게 있을까요?

각각의 문제들도 우려되지만, 궁극적으로 우리가 ‘탈진실(post-truth)’의 세계에 진입하는 것이 염려됩니다. 온라인상에서 보는 어떤 것도 믿을 수 없고 신뢰할 수 없게 되는 세상이죠. 인터넷을 매개로 전 세계와 소통하며 대화하는 사회에서, 모두가 서로를 의심하는 사회로 후퇴하게 되는 것입니다. 그 무엇도 신뢰할 수 없는 세상이 열린다면 우리가 그간 사회 전반에 걸쳐 이룬 수많은 발전들도 잃게 될 텐데요. 이 과정에서 피해는 가장 불리한 위치에 있는 사람들로부터 시작됩니다. 소수 인종과 소수민족, 성소수자를 비롯해 여성과 소녀들이야말로 이러한 공격들이 처음 시험되는 대상입니다. 전 세계가 이 부분을 주목해야 해요. 왜냐하면 일부 계층에서 시작되는 위험이 결국에는 모두에게 닥치게 될 것이기 때문입니다.

+ 스스로를 보호하는 책임을 피해자에게만 지우는 것에 대해서도 우려하고 계십니다. 보다 나은 대책은 무엇이라 생각하시나요?

‘온라인 보호’를 명목으로 의도치 않게 ‘위축 효과(chilling effect)’를 만들어 낼 수 있다는 점을 직시해야 합니다. 그저 특정 대화에서 스스로 물러나는 것이 자신을 보호하는 방안이어서는 안 된다는 뜻이에요. 이러한 방안은 불공평할 뿐만 아니라, 소셜 미디어 공간에서 활동해야 하는 정책 입안자나 언론인 같은 저명한 여성들에게는 사실상 불가능한 일이기도 합니다. 여성들에게 ‘이 세상에서 보호받기 위해서는 스스로를 배제해야 한다’고 말하는 것과 다름없습니다. 하지만 대다수의 앱들은 책임을 피해자에게 전가하는 경우가 많습니다. 피해자가 직접 신고 여부를 결정하고 행동에 나서야만 하는데요. 이렇게 하는 대신에 커뮤니티 차원의 지원 방안을 모색하고, 괴롭힘 행위에 대해 무관용 원칙을 적용하는 방향으로 앱 개발 방향도 바뀌어야 합니다. 그래서 저는 발언할 기회가 있을 때마다 매번 같은 질문을 던집니다. “온라인 보호 도구에 얼마만큼의 예산을 할당하고 있습니까?”라고요. 기업들은 개발에 투자하는 것만큼 온라인 보호에도 투자를 해야 합니다. 사용자들이 안심하고 기술을 사용할 수 없다면, 이 기술들이 우리가 꿈꾸는 긍정적인 변화를 세상에 가져올 가능성은 별로 없을 것입니다.

+ 개발 과정에서의 다양성 역시 더 필요하다는 뜻으로도 들립니다.

개발 과정에 한 가지 유형의 사람, 즉 특정 성별이나 지리적 지역, 교육 배경만 대표된다면 결과물 역시 다양성 있는 지식과 정보를 놓치게 될 거예요. 제가 창립한 비영리단체 ‘휴메인 인텔리전스(Humane Intelligence)’도 대중이 참여하는 ‘공공 편향탐지 및 보상(public bias bounties)’, ‘레드팀 연습(red-teaming exercises)’ 등의 활동을 주로 펼치고 있습니다. 이를 통해 AI 모델에 대중의 피드백을 선별하여 반영하죠. 2023년에는 2,200명 이상의 참여자로 구성된 역대 최대 규모의 생성형 AI 레드팀 연습을 주관하기도 했습니다.

AI 산업에 더 많은 여성과 소수자 및 기타 소외된 집단을 유입하려면, 인재 손실이 어떻게 발생하는지부터 이해해야 합니다. 예를 들어 여학생들에게 ‘프로그래밍은 남자들이 하는 것’이라고 말하는 교사, 여성보다 남성을 선호하는 채용 관행 등을 파악해야 하죠. 실제로 스타트업 창업 시에는 종종 자신과 비슷한 남자 동료들만을 채용하는 경우도 많은데, 이처럼 네트워크가 다양하지 않은 상태에서 다양성을 기대하기란 어렵습니다. 그래서 여성 창업자를 장려하는 프로그램이나 ‘여성도 프로그래밍을 할 수 있다’는 인식을 일상화하는 프로그램을 만드는 것도 기존의 편견을 허무는 데 도움을 줄 수 있을 거예요.

+ 여러 기술 기업과 협력하여 신기술의 책임성을 강화하는 데 도움을 주고 계십니다. 업계가 윤리성과 포용성 보장에 더 관심을 가져야 할 이유는 무엇일까요?

무엇보다 기업들은 자사의 경쟁력을 위해 안전하고 신뢰할 수 있는 제품을 개발하고자 합니다. 인종차별적이거나 성차별적인 발언을 하거나, 해를 가하거나, 폭력을 조장할 위험이 있는 AI로 제품을 만들 수 없기 때문에, 이러한 문제를 해결하기 위해 협력할 동기가 존재합니다. 그런데 단일 기업이 홀로 이 문제들을 해결하는 것은 매우 어렵거나 불가능에 가깝습니다. AI를 활용한 괴롭힘, 허위 정보 및 허위 사실 유포를 예방하기 위해서는 모든 이가 역할을 해야 합니다. 여기에는 콘텐츠 제작자, 플랫폼 기업, 소셜 미디어 기업, 정책 입안자, 정부, 시민사회 및 비영리 단체, 그리고 이러한 플랫폼을 이용하는 일반 사용자들까지 포함됩니다. 유네스코 역시 그중 하나죠. 기업이 다양성을 더욱 존중하는 프로그램을 설계할 수 있도록 기준을 마련하는 데 중요한 역할을 해 주어야 합니다.

멸종위기사랑 - 우리 안의 양심은 아직 살아있나요?

#양심의날 #평화의문화

최연수 전문관 / 뉴스룸에서 보기

이찬혁 - 멸종위기사랑 뮤직비디오 장면 (이미지 출처: 유튜브 'AKMU' 채널 캡처)

한국대중음악상 '올해의 노래'로 악뮤 이찬혁의 '멸종위기사랑'을 들어보셨나요? 밝고 경쾌한 멜로디 위에 얹힌 가사는 지금 우리가 살고 있는 세상에서 '사랑'의 의미가 무엇인지 질문해요. 생태학자이자 동물행동학자인 최재천 교수는 지난해 5월 '평화와 번영을 위한 제주포럼'에서 "양심은 사랑하는 무언가를 위해 행동하게끔 만드는 힘"이라는 내용의 강연을 한 적이 있는데요. 그러니 사랑이 멸종 위기에 처했다면, 우리가 당연하게 여기던 연민과 공감, 그리고 양심도 함께 위기에 처할 지도 몰라요. 반대로 끝까지 양심을 놓지 않는 한, 우리는 앞으로도 사랑하는 이를 위해 끝까지 노력하고 또 행동할 수 있을 거예요.
4월 5일, 유엔이 지정한 '국제 양심의 날'은 우리 모두가 양심을 따라 행동하고 사랑과 평화의 문화를 만들어가자는 취지를 담고 있어요. 세계인권선언문 제1조는 "모든 인간은 태어날 때부터 자유롭고, 존엄성과 권리에 있어 평등하며, 이성과 양심을 부여받았다"고 명시해요. 양심은 선택이 아니라, 우리 모두에게 주어진 인간다움의 본질이거든요.

+ 숫자로 본 ‘양심’

1989년: 유네스코가 코트디부아르에서 개최한 '인간 정신 속 평화를 위한 국제회의'를 계기로 평화의 문화 운동이 본격화됐어요
2019년: 유엔 총회에서 매년 4월 5일을 국제 양심의 날로 지정한 해예요
제1조: ‘모든 사람은 이성과 양심을 부여받았으며 서로 형제애의 정신으로 행동해야 한다’ (세계인권선언)

+ 유네스코는 지금

유네스코는 "전쟁은 인간의 마음속에서 생기는 것이므로 평화의 방벽도 인간의 마음속에 세워져야 한다"는 헌장 정신에 따라, 양심이 억압받거나 무시될 때 평화도 무너진다고 믿어요. 이를 위해 '평화의 문화'를 일상에 심는 활동에 앞장서고 있죠. 이를 위해 차별에 맞서고, 문화 간 대화를 활성화하고, 과학에서의 윤리를 다루면서 기술이 발전하는 시대일수록 인간의 양심이 최후의 보루가 되어야 한다고 강조해요. 또한 2023년 '평화, 인권, 지속가능발전을 위한 교육 권고'를 채택함으로써 교육을 통해 혐오와 폭력의 뿌리를 근절하고 평화를 만드는 구체적인 방법을 제시했어요. 2025년에는 이를 바탕으로 '폭력적 과거를 교육으로 다루는 정책 가이드', 반유대주의 대응 교육자료 등을 발간해 다음 세대가 과거의 아픔을 넘어 양심적인 시민으로 성장할 수 있도록 돕고 있어요.

+ 이날을 함께 기념하고 싶다면?

오늘 하루 내가 한 선택들을 돌아보는 건 어떨까요? SNS에 댓글을 달 때, 회의에서 동료의 의견을 들을 때, 길에서 누군가와 부딪쳤을 때. 그 순간 나는 양심을 따라 행동했나요? 국제 양심의 날은 거창한 실천이 아니라, 일상 속 작은 선택에서 시작돼요. 유엔 웹사이트에서 타레크 하드하드의 'Peace by Chocolate' 영상을 통해 "친절이 최고의 투자"라는 그의 말도 기억해 보세요. 오늘 하루 누군가에게 건넬 친절 한 조각이, 세상을 조금 더 평화롭게 만드는 초콜릿이 될 수 있어요!

‘Dream 드림 캠페인’ 모범학교 감사패 수여

유네스코한국위원회는 2025년 ‘Dream 드림 캠페인’ 모범학교로 선정된 5개 학교에 감사패를 수여했습니다. 학생 참여형 나눔 활동을 통해 모인 후원금은 개발도상국 교육 지원에 활용될 예정입니다. 위원회는 앞으로도 더 많은 학교의 참여를 통해 세계시민교육과 나눔 실천을 확산해 나갈 계획입니다.

제48차 세계유산위원회 안내단 모집

국가유산청은 제48차 유네스코 세계유산위원회 안내단(자원봉사자)을 모집합니다. 안내단은 위원국 전담 안내와 행사 운영 지원 등을 맡게 되며, 국내외 대학(원) 재학생 및 수료생을 대상으로 선발합니다.

2026 한국 로레알-유네스코 여성과학자상 공모

로레알코리아와 유네스코한국위원회가 후원하는 ‘2026 한국 로레알-유네스코 여성과학자상’ 후보자를 4월 20일까지 공모합니다. 올해로 25회를 맞은 본 상은 학술진흥상과 펠로십 두 부문으로 진행되며, 국내 여성과학자의 연구 역량 강화와 과학계 발전을 지원합니다.