디지털 아티스트 루크 두보아(R Luke DuBois)와 자크 리베르만(Zach Lieberman)이 미국 전역에서 사용되고 있는 안면인식 기술의 실체를 드러내 보이는 설치작품을 만들었다.

쿠퍼 휴잇 스미소니언 디자인뮤지엄(Cooper Hewitt, the Smithsonian Design Museum)이 런던디자인비엔날레(London Design Biennale) 미국관을 위해 의뢰한 이 작품들은 “안면인식 기술이 야기하는 사회적 문제들에 대한 도발적인 디자인적 대응”이다.

두 개의 작품에는 모두 카메라가 설치되어 있는데, 관람객이 카메라 앞에 서서 지시에 따라 반응하면 컴퓨터가 그들의 외모와 감정상태에 대한 판단을 내린다.

루크 두보아의 작품 ‘표현의 초상(Expression Portrait)’은 관람객들에게 행복이나 분노와 같은 특정 감정을 30초동안 표현하도록 요구하고, 컴퓨터가 이들의 얼굴 표정을 분석한다. 조금 후에 내레이터의 목소리를 통해 관람객이 표현한 감정이 무엇인지를 말하고, 그들의 나이와 성별, 인종 등을 데이터를 바탕으로 추론해 밝힌다.

컴퓨터의 생각이 실제 현실과 일치하지 않는다는 사실은 작품의 일부다. 인공지능이 우리의 일상생활에서 광범위하게 사용되고 있는 현실에서 특히 이미지 인식과 관련해 미디어 독해능력을 갖출 필요가 있다는게 작가의 주장이다. 단순히 사람의 외모를 기준으로 건강보험 할증료가 붙고, 업무 적성이 판단되며, 사회위협 세력으로 간주되고, 소속여부가 결정되는 등 우리의 생활을 편리하게 해 주는 이 기술이 쉽게 오용될 수 있다는 사실을 지적한다.  

루크 두보와의 작품, 표현의 초상 

‘얼굴의 가치(Face Values)’라는 타이틀로 참여한 미국관은 사용자 동의없이 사진에 안면인식 기능을 적용해 페이스북이 비난을 받고 있는 상황과 대량의 개인정보를 제 3자에 유출한 캠브리지 애널리티카 사태 직후라는 시점을 생각할 때 시사점이 크다.

자크 리베르만의 작품 ‘표현 거울(Expression Mirror)’은 작품 앞에 앉은 사람이 표현한 감정과 동일한 감정을 나타낸 이전 관람객의 얼굴표정을 합성해 보여준다.

얼굴 정보는 사람이 자신의 개별성을 표현하는 주된 수단 중 하나이기 때문에 지극히 개인적인 것임에도 불구하고 정부와 거대 기술기업들은 윤리적 함의에 대한 숙고없이 이 기술을 밀어붙이는 경우가 많다는 게 작가의 문제의식이다.

리베르만의 작품은 스냅챗이나 인스타그램에서 셀카이미지를 보정하는 페이스필터, 아이폰에서 잠금해제하는 페이스 ID와 같은 방식으로 관람객의 얼굴표정을 구별한다.

시스템은 68개 지점에서 안면근육 움직임을 추적하고, 이를 바탕으로 분노나 혐오, 두려움과 행복, 슬픔, 놀람, 무덤덤 등의 감정을 판단한다. 리베만에 따르면, 컴퓨터가 감정상태를 감지하는 방법은 매우 원시적이어서, 가령 분노와 혐오 사이에 존재하는 미묘한 차이를 구분해 내지 못한다.

컴퓨터가 감정을 잘못 짚어내는 경우가 많다는 사실은 언뜻 중립적으로 보이는 알고리즘 속에 어떻게 편향성이 암호화될 수 있는지 보여주는 한 예라고 두보아는 보았다. 

"감정은 복잡하고 특이하며, 문화적으로 코드화되어 있습니다. 눈을 크게 뜨고 입가를 올리면 행복을 암시하는 것이라고 말하는 것은 지나친 단순화입니다. 그러나 19세기에 유행한 골상학이라는 사이비과학과 사진 등에서 나타나는 최악의 고정관념과 비슷하게, 머신러닝 기술도 종종 이런 결론을 낼 수가 있습니다.”

자료출처: www.dezeen.com