“이력서에 ‘여성’ 들어가면 감점”…아마존 AI 채용, 도입 취소

입력 2018.10.11 11:07

아마존이 개발 중인 인공지능(AI) 채용 시스템이 여성 지원자를 차별하는 것으로 드러나 도입이 취소됐다고 로이터가 10일(현지 시각) 보도했다. 골드만삭스 등 해외 기업뿐 아니라 국내에서도 채용에 AI를 활용하려는 움직임이 일고 있는 만큼 아마존의 실패 사례를 교훈으로 삼아야 한다는 지적이 나온다.

아마존의 AI 채용 시스템 개발팀은 2014년부터 지원자의 이력서를 검토해 인재를 가려낼 수 있는 기술을 개발해왔다. 연구자들은 이 시스템을 활용해 채용 완료된 직원의 이력서에 적용해 실제 결과와 일치하는지 확인하는 실험을 했다. 아마존 이용자가 구매를 완료한 상품에 만족도를 평가하는 것과 비슷한 방식이다.

그러나 아마존의 기계학습(머신 러닝) 전문가 5명은 2015년까지의 자료를 바탕으로 실험한 결과 이 시스템이 여성을 차별하는 문제점을 안고 있다고 평가했다. 특히 소프트웨어 개발자 및 기타 기술 직무 지원자가 성 중립적으로 평가되지 않았다는 점이 드러났다고 전문가들은 전했다.

 아마존 구직을 위해 줄을 선 사람들의 모습. /SABC
아마존 구직을 위해 줄을 선 사람들의 모습. /SABC
가령, 이력서에 ‘여성 체스 동아리’처럼 ‘여성’이란 단어가 포함된 문구가 있으면 감점되는 식이다. 또 여자 대학을 졸업한 지원자 2명의 점수가 깎인 사례도 있었다고 한다. 반면 해당 AI는 ‘실행하다’ ‘포착하다’ 등 남성 기술자들의 이력서에 자주 쓰이는 동사를 유리하게 인식하는 것으로도 알려졌다.

이는 AI가 축적된 데이터를 학습해 작동하는 방식이기 때문에 발생할 수 있는 오류였다. 이 시스템은 지난 10년간 회사에 제출된 이력서 패턴을 익혀 이를 바탕으로 지원자들을 심사했다. 그런데 AI는 남성 우위인 기술산업 업계의 현실을 그대로 학습한 것이다.

실제로 미국 주요 정보기술(IT) 기업의 기술직 성비 불균형은 꾸준히 문제로 지적돼왔다. 로이터 통계에 따르면, 2017년 기준 아마존 전체 직원 중 남성의 비율은 각각 60%였다. 마이크로소프트(MS), 구글, 페이스북 등 여타 IT 기업을 살펴보면 기술 직무에서의 성비 불균형은 전체 직무를 따졌을 때보다 더 두드러지는데, 해당 조사에서 아마존 내 기술 직무에 종사하는 직원의 성비는 집계되지 않았다.

익명의 제보자에 따르면, 임원진의 결정에 따라 개발팀은 작년 초 해산됐다. 아마존 측이 추후 특정 용어에 관해 불이익을 주지 못하도록 프로그램을 재정비하긴 했지만, AI가 또 어떤 다른 경로를 통해 지원자를 차별할 수 있을지 모른다는 이유에서다. 관계자는 또 이 시스템이 자격 부족 지원자를 추천하는 등 성차별 만이 유일한 문제점은 아니었다고 덧붙였다.

아마존은 AI 채용 시스템 문제와 관련해 직접적인 입장은 내놓지 않았으나 회사가 직장 내 다양성과 평등을 실현하기 위해 노력하고 있다고 밝혔다.

아마존에서 드러난 한계가 채용 과정을 일부 AI로 대체하려는 기업들에게 반면교사가 될 것이라는 의견이 나온다. 골드만삭스는 이력서를 분석해 지원자를 최적의 부서와 연결할 수 있는 자체 도구를 만들었고, MS는 구직 사이트에 올라온 적성에 근거해 고용주에게 구직자의 순위를 제공하는 알고리즘을 가지고 있는 것으로 알려졌다. 컴퓨터 과학자 니하르 샤 카네기멜론대 교수는 "알고리즘이 공정하게 작동하는지, 또 실제 해석할 수 있고 설명 가능한지 확실히 알려면 아직 멀었다"고 지적했다.

내가 본 뉴스 맨 위로

내가 본 뉴스 닫기