안면인식기술은 이제 얼굴 표정에서 감정을 해석하는 단계로 발전했다. 그러나 숨겨진 편견이 존재한다.
안면인식기술은 이제 얼굴 표정에서 감정을 해석하는 단계로 발전했다. 그러나 숨겨진 편견이 존재한다.
  • 서정만 기자
  • 승인 2019.10.30 09:34
  • 댓글 0
이 기사를 공유합니다

[퓨처타임즈=서정만기자] 얼굴 인식 기술은 이제 얼굴 표정에서 감정을 해석하는 단계로 발전했다. 이러한 유형의 분석은 일상 생활에서 점점 더 많이 사용되고 있다. 예를 들어, 회사들은 고용 결정에 도움을 주기 위해 얼굴 인식 소프트웨어를 사용할 수 있다. 다른 프로그램들은 대중의 안전에 대한 위협을 식별하기 위해 군중 속에서 얼굴을 스캔한다.

안타깝게도, 이 기술은 검은 얼굴의 감정을 해석하는 데 어려움을 겪고 있다. 지난 달에 발표된 새로운 연구는 감정 분석 기술이 백인 남성보다 흑인 남성들의 얼굴에 더 많은 부정적인 감정을 부여한다는 것을 보여준다.

얼굴 인식 프로그램이 편향된 것으로 나타난 것은 이번이 처음이 아니다. 구글은 검은 얼굴을 고릴라로 분류했다. 카메라는 아시아인들의 얼굴이 깜박이는 것을 확인했다. 얼굴 인식 프로그램은 피부가 검은 사람들의 성별을 정확히 식별하기 위해 애썼다.

이 작업은 인공지능 소프트웨어에 숨겨진 편견을 더 잘 이해하라는 요구가 증가하는 요인이 되고 있다.

 

측정 바이어스

사람들의 감정을 분석하는 안면인식 시스템의 편향성을 살펴보기 위해 2016~2017시즌 NBA선수 400여장의 사진 데이터 세트를 사용했다. 왜냐하면 선수들의 옷, 운동, 나이, 성별이 비슷하기 때문이다. 또한, 이것들은 전문적인 초상화들이기 때문에, 선수들은 사진 속의 카메라를 본다.

잘 알려진 두 가지 유형의 감정 인식 소프트웨어를 통해 그 이미지들을 살펴보았다. 두 선수 모두 아무리 웃어도 평균적으로 흑인 선수들에게 부정적인 감정 점수가 더 많았다.

예를 들어, NBA 공식 사진을 Darren Collison과 Gordon Hayward로 생각해 보자. 두 선수 모두 미소를 짓고 있으며 얼굴 인식 및 분석 프로그램인 페이스++에 따르면 대런 콜리슨과 고든 헤이어워드는 각각 100점 만점에 48.7점, 48.1점을 받았다.
그러나 페이스++의 표현은 헤이워드의 59.7퍼센트, 분노 0.13퍼센트, 콜리슨의 표현은 39.2퍼센트, 분노 27퍼센트라고 평가했다. 비록 얼굴 인식 프로그램 자체가 두 선수가 모두 웃고 있다는 것을 인식했음에도 불구하고 콜리슨은 하이워드보다 행복하고 훨씬 더 화가 난 것으로 보여진다.

페이스++
페이스++는 농구 선수들의 얼굴 표정을 100점 만점으로 평가했다. 평균적으로 검은 얼굴은 흰 얼굴보다 더 화나고 불행해보였다.

대조적으로, 마이크로소프트의 페이스 API는 두 사람을 행복하게 보았다. 그럼에도 불구하고, 콜리슨은 각각 98퍼센트와 93퍼센트의 행복 점수를 가지고 있는 하이워드보다 덜 행복한 것으로 여겨진다. 그의 미소에도 불구하고, 콜리슨은 약간 경멸스럽다고 한 반면, 하이워드에게는 아무런 코멘트가 없었다.

NBA의 모든 사진에 동일한 패턴이 나타난다. 평균적으로, 페이스++는 흑인 얼굴을 백인 얼굴보다 두 배나 분노한 것으로 평가한다. 페이스 API는 검은 얼굴을 하얀 얼굴보다 3배 더 경멸적인 것으로 보여준다. 미소에 따라 선수들을 매칭한 후에도, 두 얼굴 분석 프로그램은 여전히 분노와 경멸의 부정적인 감정을 흑인 얼굴에 더 많이 부여할 가능성이 있다.

페이스 API
페이스 API는 100점 만점에 농구 선수들의 얼굴 표정에서 감정을 평가했다. 평균적으로 하얀 얼굴은 검은 얼굴보다 더 행복해 보였다.

AI에 의해 고정된 연구는 안면 인식 프로그램이 두 가지의 뚜렷한 편향을 보인다는 것을 보여준다.

첫째, 검은 얼굴은 모든 미소에 대해 하얀 얼굴보다 더 화가 난 얼굴로 꾸준히 평가되었다. Face++는 이런 종류의 편견을 보여주었다. 둘째로, 그들의 얼굴 표정에 대해 모호한 점이 있다면, 검은 얼굴은 항상 더 화가 난 것으로 점수를 매겼다. 페이스 API는 이런 종류의 불균형을 보여주었다. 비록 검은 얼굴들이 부분적으로 웃고 있더라도, 나의 분석은 그 시스템이 비슷한 표현을 가진 백인 얼굴들에 비해 더 부정적인 감정을 가지고 있다는 것을 보여주었다. 평균 감정 점수는 여러 인종에 걸쳐 훨씬 더 가까웠지만, 여전히 흑백 얼굴에는 눈에 띄는 차이가 있었다.

이러한 관찰은 다른 연구와 일치하는데, 이것은 흑인 전문가들이 그들의 업무 수행 평가에서 평등을 받기 위해 긍정적인 감정을 증폭시켜야 한다는 것을 암시한다. 연구에 따르면, 사람들은 흑인이 백인보다 신체적으로 더 위협적이라고 생각하는데, 심지어 같은 체격일지라도 말이다.

일부 연구원들은 안면인식기술이 인간보다 더 객관적이라고 주장한다. 하지만 이번 구는 얼굴 인식은 사람들이 가지고 있는 것과 같은 편견을 반영한다고 제안한다. 흑인의 얼굴 표정은 백인보다 더 자주, 심지어는 웃을 때도 협박적인 행동과 관련된 감정으로 표현된다. 얼굴 인식의 사용이 기존의 고정관념을 알고리즘에 공식화하여 그것들을 일상 생활에 자동으로 내장할 수 있다고 믿을 만한 충분한 이유가 있다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.

  • 서울특별시 영등포구 국회대로 800 (여의도동, 여의도파라곤) 1236호
  • 대표전화 : 02-783-7789
  • 팩스 : 02-783-7790
  • 청소년보호책임자 : 최성립
  • 법인명 : 퓨처타임즈
  • 제호 : 퓨처타임즈
  • 등록번호 : 서울 아 51999
  • 등록일 : 2017-11-20
  • 발행일 : 2017-05-01
  • 발행인 : 송승호
  • 편집인 : 송승호
  • 퓨처타임즈 모든 콘텐츠(영상,기사, 사진)는 저작권법의 보호를 받은바, 무단 전재와 복사, 배포 등을 금합니다.
  • Copyright © 2019 퓨처타임즈. All rights reserved. mail to
ND소프트