[임혜숙 칼럼] 알고리즘이 지배하는 세상에서 벗어나기

[임혜숙 교수]

최근 우연히 TV에서 시청한 미국 법정 드라마 ‘굿파이트’에 등장한 장면이다. 드라마의 주 무대가 되는 변호사 사무실에서는 투자회사로부터 비용을 투자받고 소송에서 이기는 경우 발생하는 이익 일부를 투자회사에 돌려주는 방식으로 몇 개 소송을 진행하고자 한다. 그중 하나가 고용주로부터 급여를 삭감당한 직원들을 모아 대기업을 상대로 하는 소송이다. 투자회사에서는 이 소송에 대한 정보를 입력하고 컴퓨터 알고리즘을 돌려 그 결과에 따라 투자 여부를 결정한다. 알고리즘은 해당 소송을 담당하는 판사 때문에 승소 가능성이 작다는 부정적인 의견을 냈다. 이 경우의 알고리즘은 담당 판사가 그간 진행했던 재판의 내용과 결과들로부터 학습한 것을 토대로 판사의 성향에 대하여 파악하고 그러한 의견을 제시하였을 것이다.
 
알고리즘이 무엇인지 여기저기 검색해보면 대체로 ‘주어진 문제를 해결하기 위한 일련의 절차나 규칙’이라고 정의한다. 이 정의에는 빠져있는 부분이 있는데, 주어진 문제를 푸는 목적에 더하여 추가적인 특정 의도를 달성하기 위하여 알고리즘이 고안된다는 점이다.

 
예를 들어 온라인 쇼핑 알고리즘은 상품 유통을 위한 수단을 제공한다는 일차적 목적에 더하여 가능한 한 많은 상품의 구매를 유도하고자 하는 의도를 갖는다. 이 경우의 알고리즘은 사용자의 과거 구매 기록과 검색 내용을 기반으로 상품을 추천하는데 종종 예상치 못한 상품을 발견하게 해주는 장점이 있기도 하지만, 소비자의 소비 행동을 예측하고 조종할 수 있으며, 충동적 구매 등의 무분별한 소비를 부추기기도 한다.
 

관련기사

• 일과 가정의 양립이 가능한 사회…저출산 극복의 지름길
• 과학연구는 근육만들기…꾸준함이 '생명력'

세계 최대 규모의 비디오 플랫폼인 유튜브에서 사용하는 알고리즘은 동영상 콘텐츠의 공유라는 일차적 목적에 더하여 사용자를 광고에 노출되게 하려는 의도를 갖는다. 이는 사용자의 행동과 선호도를 학습하고 분석하여 개인 맞춤형 콘텐츠를 계속 추천함으로써, 사용자를 해당 플랫폼에 더 오래 머무르게 하는 방식으로 진행된다. 개인의 관심사에 맞는 콘텐츠를 더 쉽게 접할 수 있게 해주기도 하지만, 가치 지향이 유사한 정보만 보게 되는 ‘필터 버블’ 현상을 만들어 제한된 시각을 갖게 하거나 특정 의견에 대한 편향을 강화하는 문제가 있다.
 
다른 예로 마크 저커버그가 이끄는 소셜미디어 회사 메타는 작년에 미국의 41개 주 정부들로부터 집단 소송을 당했다. ‘좋아요’와 같은 댓글이 달린 것을 실시간으로 알려주는 푸시 알림, 페이지를 넘기지 않고도 게시물을 계속 볼 수 있는 무한 스크롤 기능 등을 통해, 페이스북과 인스타그램 중독을 유발하고 청소년들의 정신 건강을 해치고 있다는 혐의이다. 주 정부는 소장에서 ‘도파민을 조종하는 추천 알고리즘’을 중독성의 원인으로 꼽았다.
 
스탠퍼드 대학의 교수이면서 정치경제학자인 프랜시스 후쿠야마의 저서 <자유주의와 그 불만>에는 ‘동기화된 추론(motivated reasoning)’이라는 개념이 등장한다. 이는 사람들이 상황이나 사실을 인지하는 데 있어 경험적 현실에 관한 중립적 관찰로부터 시작하는 것이 아니라, 오히려 자신들이 바라는 결론에 대한 강한 선호로부터 시작한다는 것이다. 인간은 개인적인 신념이나 편향에 따라 정보를 해석하고 필터링하여 결론을 끌어내는 경향이 있다. 예를 들어 어떤 사람이 특정 정치적 신념을 갖는다면, 그는 해당 신념을 지지하는 정보는 우선하여 받아들이고 반대되는 정보는 무시하거나 비난하는 것이다. 논리적인 추론보다 개인의 감정과 선호가 더 큰 영향을 미치는 것으로, 정치적으로 대립하는 양측 세력에 속한 사람들의 경우 단순히 이데올로기나 정책의 선호 면에서 일치하지 않는 정도가 아니라, 서로 다른 정보에 의해 만들어진 다른 버전의 현실을 인식하고 있다는 것이다.
 
오늘날의 거대 인터넷 플랫폼들은 정보 콘텐츠의 대중적 인기를 불러일으키는 데 치중하는 사업 모델에 따라 작동하며, 무수한 채널들이 편향되거나 거짓된 정보를 퍼뜨릴 수 있는 환경을 제공한다. 인터넷을 통하여 유통되는 정보 중 상당수가 검증되지 않은 콘텐츠이거나, 특정한 목소리를 인위적으로 확장하거나 억제하고 특정 목적을 달성하고자 하는 의도를 갖고 만들어진 콘텐츠들이다. 그런데도 인터넷은 여러 대안적 정보들이 데이터의 검증을 거쳐 전문가들이 생산한 정보와 동등하게 신뢰할 만한 것처럼 보이게 만드는 문제가 있다.
 
사용자들은 마치 스스로 정보를 선택하는 것처럼 생각하지만, 상업적 이해타산에 따른 플랫폼의 정교한 조작에 기초한 것이다. 플랫폼 알고리즘에 의하여 개인 맞춤형으로 추천된 인터넷 콘텐츠들의 무분별한 신뢰는 개인이 기존에 가진 믿음과 선호를 강화하는 역할을 한다. 특별히 종교나 정치, 소수자의 인권과 같은 사안과 관련되는 경우 사회적 갈등과 대립을 유발하고, 자신과 처한 상황이 다르거나 추구하는 가치가 다른 타인에 대한 혐오나 폭력을 일으키는 원인이 되기도 한다.
 
건강하고 역동적인 시민사회를 만들기 위해서는 좋은 문화와 좋은 삶, 공동체의 필수적인 가치에 대한 보편적 이해와 동의가 필요하다. 후쿠야마 교수는 공공선, 관용, 열린 마음, 그리고 공적 문제에 대한 활발한 참여에 더하여 지혜, 용기, 정의와 함께 고대 그리스에서 내려오는 네 가지 주요 미덕인 절제를 강조한다. 절제는 ‘아무것도 넘치지 않도록’이라는 의미를 담은 단어로, 아무것도 넘치지 않도록 끊임없이 경계하는 절제의 의미를 개인과 공동체 차원에서 재발견할 것을 그는 역설한다. 또한 그는 절제가 자유주의 정체의 실현 과정에서 반드시 지켜야 하는 개인과 집단의 보편적 생존 원리라 주장한다.
 
우리 사회는 정치적인 논의와 활동에 있어 절제가 필요하다. 누군가를 자극하거나 누군가를 자기 편으로 만들기 위한 공격적인 언어를 자제하는 것, 편향되거나 거짓된 정보를 유포하거나 타인을 허위로 비방하지 않는 것, 폭력적으로 행동하지 않는 것 등이 절제의 의미에 포함될 것이다. 내가 가진 신념이 나도 모르는 사이에 알고리즘의 부추김에 의하여 강화되지는 않았는지, 내가 가진 열정이 절제가 필요하지는 않은지 돌아봐야 한다.
 
알고리즘이 중요한 의사결정뿐 아니라 일상을 지배하는 시대를 우리는 살고 있다. 알고리즘의 영향력에서 벗어나는 방법을 고민해야 할 시점이다. 개인화되고 맞춤화된 알고리즘이 동작하는 온라인 플랫폼에서 보내는 시간에 대한 자성과 절제가 그 첫걸음이 될 것이다. 알고리즘의 동작 원리를 이해하고 알고리즘이 추천한 콘텐츠의 내용에 대하여 의문을 제기하는 것에 더하여 의도적으로 ‘우연성’을 찾아 나서는 것은 어떨까. 전통적 미디어인 도서, 신문이나 TV 등의 다양한 소스로부터 우연한 기회에 새로운 정보에 접하고 다양한 시각에 노출되도록 노력하는 것이다.



필자 주요 이력 

△이화여대 전자전기공학전공 교수 △전 과학기술정보통신부 장관 △ 전 국가과학기술연구회 이사장 △ 제50대 대한전자공학회 회장