IT 업계에서 작년 말부터 급격하게 주목받고 큰 화제를 모으고 있는 분야는 인공지능 챗봇인 ‘챗GPT’이다. Open AI라는 스타트업이 대규모 인공지능 모델 GPT-3.5를 사용해서 개발했으며, 어떤 텍스트를 줬을 때 다음 답변이 무엇인지까지 예측하며 글을 만드는 모델이기에 마치 진짜 사람과 대화하는 듯 답을 주는 시스템이다. 챗GPT 이외에도 달리(DALL·E), 미드저니(Mid Journey) 등 제너레이티브 AI(생산형 인공지능)를 통해 사용자의 요구에 맞춰서 결과를 만들어 내는 인공지능 모델에 대한 연구가 활발하다.

이처럼 제너레이티브 AI의 규모와 정교함이 매년 급격하게 증가하면서 이 기술이 과연 인간을 대신할 수 있을지에 대한 논쟁도 끊이질 않는다. 이러한 새로운 기술 발전을 따라가기 위해 많은 회사가 자신의 제품이나 서비스에 인공지능을 도입하려고 하는데, 사용자가 더욱 편리하게, 해당 기술을 100% 믿으면서 사용할 수 있도록 도와주는 시스템이 사용자 중심 인공지능이다.

사용자 중심 인공지능(Human-centered Artificial Intelligence)이란?

사용자 중심 인공지능 (human-centered artificial intelligence)이란 인공지능 기술이 빠르게 발전하면서 새로 정의되고 있는 분야로, 인공지능이 인간을 대체하는 것이 아니라 인간을 도와주고, 우리의 능력을 최대치로 발휘하는데 목적을 둔다. 우리 삶에 편의를 제공하기 위해 인공지능을 사용하지만, 동시에 우리가 이 기술을 통제하고 함께 공존할 수 있도록 인공지능 관련 서비스를 만들 때 사용자를 중심에 두는 것이다. 이는 미국의 컴퓨터 과학과 교수이자 휴먼 인터랙션 랩의 창립자 벤 슈나이더만(Ben Schneiderman)이 2022년에 출간한 자신의 책 “Human-Centered AI”에서 더 자세하게 다루고 있는데, 인공지능을 사용함과 동시에 인간의 가치와 존엄성을 존중하는 프레임워크를 제안한다.

사용자 중심 인공지능 활용 예시

사용자 중심 인공지능은 현재가 우리가 사용하는 서비스에서도 쉽게 볼 수 있는데, 한 가지 대표적인 예시는 Google Photos에서 출시한 “1년 전 오늘” 서비스이다. 이는 1년 전 혹은 2년 전 같은 날의 사진을 다시 보여주면서 사용자가 추억을 회상할 수 있는 기능이다. 이는 인공지능을 사용해서 자연, 음식, 여행 등 비슷한 테마의 사진을 모아서 보여주기도 한다. 이는 잊고 살던 과거의 좋은 기억을 회상할 수 있는 이점도 있지만, 사용자가 떠올리기 싫은 기억까지 인공지능이 파악하기에는 어렵기도 하다. 특히 서양 문화에서는 장례식과 결혼식 모두 정장과 드레스를 입는 비슷한 환경인 것처럼 모호한 경계도 있기 때문이다. 이를 위해 구글은 사용자가 직접 환경설정을 바꿀 수 있도록 사용자에게 선택 권한을 제공한다. 특정 인물이나 날짜 필터를 통해 사용자가 보고 싶지 않은 사진들은 인공지능이 고려하지 않도록 설정할 수 있다. 이는 인공지능으로 사용자에게 새로운 기능을 제공하지만, 동시에 인공지능의 입력값은 사용자가 스스로 설정할 수 있는 선택권도 제공하는 것이다.

또 다른 예시는 IBM에서 만든 SCORE (Smarter Cognitive Opportunity Recommendation Engine) 라는 엔진이다. SCORE는 IBM의 셀러들이 더 많은 이익을 얻을 수 있는 비즈니스 파트너를 선택할 수 있도록 도와주는 머신러닝 모델로, 다른 모델과는 달리 셀러의 피드백을 AI 추천 시스템의 인풋 데이터로 넣을 수 있다. 셀러가 비즈니스 파트너와의 관계, 또는 판매 상품 관련 전문 지식 등 새로운 정보를 제공하면서 추천 시스템을 더욱 정교화하는 것이다. 또한 추천 결과에 영향을 미치는 주요 요소들을 셀러에게 보여줌으로써 셀러는 자신의 니즈에 따라 적절한 인풋 데이터를 제공할 수 있다. 이는 AI를 통해 추천 콘텐츠를 제공하는 것뿐만 아니라 사용자가 이를 능동적으로 바꿀 수 있도록 사용자의 편의도 함께 생각한 것이다.

사용자 중심 인공지능의 중요성

그렇다면 사용자 중심 인공지능이 중요한 이유는 알고리즘이 마치 블랙박스처럼 추천 결과에 대한 이유를 제공하지 못하기 때문이다. 인공지능 알고리즘이 더욱 방대한 데이터를 통해 더 정확한 추천 결과를 사용자에게 제공하지만, 정작 사용자는 알고리즘이 어떻게 결정을 내리는지 모르기 때문에 AI 시스템을 신뢰하지 않는다는 연구 결과가 나오기도 했다. 따라서 인공지능의 내부 과정이 설명할 수 있는 ‘설명 가능한 인공지능 (Explainable Artificial Intelligence)’에 대한 연구가 2017년에 미국 방위고등연구계획국(DARPA)에서 시작한 이후, 구글, MIT 등 민간 영역에서도 활발하게 진행되고 있다. 하지만 설명 가능한 인공지능은 개발자와 엔지니어 사이에서만 그들끼리 모델의 정확도와 투명성을 논의하고, 더 나은 알고리즘을 만드는 데만 사용되었다. 정작 궁극적으로 서비스를 사용하는 엔드 유저에게는 설명 가능한 인공지능이 전혀 도움을 주지 않았다. 그 이후에 설명 가능한 인공지능을 UX 디자인의 관점으로 바라보면서 사용자를 우선으로 두는 사용자 중심 인공지능에 대한 연구가 휴먼 컴퓨터 인태랙션 (HCI) 분야에서 시작된 것이다.

사용자 중심 인공지능을 사용하는 기업 및 연구 기관

​

구글의 사용자 중심 인공지능 연구소 PAIR (출처: https://pair.withgoogle.com/)

현재 다양한 기업 및 연구 기관에서 사용자 중심 인공지능에 대한 연구를 활발히 진행하고 있다. 가장 대표적인 연구 기관으로는 스탠퍼드 대학교 HAI 연구소를 꼽을 수 있는데, 이는 컴퓨터 공학뿐만 아니라, 스탠퍼드 전역의 다양한 학과의 교수진이 인공지능의 미래에 대해 연구하고 있다. 이외에도 구글, 마이크로소프트, IBM와 같은 테크 회사에서도 사용자 중심 인공지능에 대한 가이드라인을 만들어서 출시하는 제품에 이를 적용하고 있다. 컨설팅 업계에서도 역시 BCG의 헨더슨 연구소 (Henderson Institute) 설립, 베인&컴퍼니와 오픈 AI의 파트너십 체결 등 다양한 방법으로 해당 분야에 활발한 연구를 진행하고 있다.

사용자 중심 인공지능의 미래 전망

인공지능의 발전, 더 나아가 스스로 창작물까지 만드는 제너레이티브 AI의 빠른 발전을 고려했을 때, 앞으로 우리는 AI와 함께 공존하며 우리의 능력을 최대치로 끌어올릴 수 있도록 AI를 적절하게 사용해야 한다. 인공지능이 앞으로 일어날 일을 예측하고 새로운 콘텐츠를 추천하는 것에 강하다면, 인간은 의사결정을 내리고 다른 사람들과 공감하는 능력이 뛰어나다. 이처럼 인공지능과 인간이 함께 협업할 수 있도록 우리의 니즈에 맞춰진 기술 발전이 필요하고, 이를 위해서 사용자 중심 인공지능은 더더욱 중요할 것이다.

 참고자료:
https://pair.withgoogle.com/
https://research.ibm.com/topics/human-centered-ai
https://hai.standford.edu/
https://hcai.site/

https://medium.com/people-ai-research/a-snapshot-of-ai-powered-reminiscing-in-google-photos-5a05d2faa46
https://www.mckinsey.com/capabilities/quantumblack/our-insights/global-survey-the-state-of-ai-in-2020
https://www.ibm.com/blogs/research/2019/04/ai-sellers-score/

황소흠(스웨덴(스톡홀름))

soheum@naver.com

Umea Institute of Design 인터랙션디자인 석사 졸업

연세대학교 정보 인터랙션 디자인 졸업

(현) 맥킨지디자인 디지털프로덕트 디자이너

· 본 콘텐츠의 저작권은 저자 또는 제공처에 있으며, 이를 영리를 목적으로 무단 이용하는 경우 저작권법 등에 따라 법적 책임을 질 수 있습니다.
· 본 콘텐츠를 블로그, 개인 홈페이지 등에 게재 시에는 반드시 출처를 밝혀주시기 바랍니다.
· 외부필자에 의해 제공된 콘텐츠의 내용은 designdb의 입장과 다를 수 있습니다.