필터 버블이란 뜻 AI 알고리즘의 딜레마 에코 챔버 필터 버블 필터 버블 Filter Bubble 이용자의 관심사에 맞춰 필터링된 인터넷 정보로 인해 편향된 정보에 갇히는 현상
필터 버블(Filter Bubble)은 대형 인터넷 정보기술(IT) 업체가 개인 성향에 맞춘(필터링된) 정보만을 제공하여 비슷한 성향 이용자를 한 버블 안에 가두는 현상을 지칭
미국 온라인 시민단체 무브온 이사장인 일라 이파리저(Eli Pariser)가 쓴 책 《생각 조종자들(The Filter Bubble)》에서 제기된 개념이다.
구글, 페이스북, 트위터 등 콘텐츠 제공업체는 콘텐츠를 유통하는 플랫폼을 운영
기업은 좋은 사용자 환경(UI) 마련해 주기 위해 개인이 좋아하는 것 개인이 자주 보는 것 위주로 정보를 제공
사용자가 어떤 콘텐츠를 어디에 반응했는지, 소비했는지, 좋아하는 주제는 무엇인지 파악해서 사용자가 좋아할 법한 콘텐츠 위주로 제공
이용자는 방대한 정보 가운데 필요한 정보만 받게 되는 것이다.
광고도 마찬가지 광고 제공업체들은 사용자 정보를 바탕으로 사용자가 관심을 가질 만한 광고 콘텐츠를 내보낸다.
- 게임을 검색해 봤다면 광고에도 게임을 추천하는 식
- 스마트폰 보급으로 인해 이와 같은 데이터 분석이 가능
- 스마트폰 안에는 한 사람 기록이 온전히 담겨 있기 때문에 추천 개인화가 가능
- \이를 정교한 알고리즘을 이용해 맞춤형 뉴스와 정보를 서비스
필터 버블의 위험성도 존재한다. 자기가 좋아하는 뉴스, 보고 싶은 뉴스만 보면 비슷한 성향 때문에 계속 노출
다양한 정보를 접하기는 어려워지고 자신 생각과 비슷한 것만 보다 보니 인식이 왜곡될 수 있다.
정치 · 사회 문제에서 고정관념과 편견을 강화하는 계기가 된다.
AI 알고리즘의 딜레마...‘선택의 역설’vs‘에코 챔버’·‘필터 버블’
바야흐로 데이터 시대다. 지금 우리는 빅데이터, 인공지능(AI), 블록체인 등 디지털 데이터를 기반으로 한 4차 산업혁명을 목도하고 있다. 인류가 문자와 기호를 사용하기 시작한 지난 5천 년 동안 문명의 흐름이 지구촌 곳곳에서 큰 강을 이루고 이제는 모이는 바다에 이르렀다.
필자는 오래전에 설악산과 속초 동해 바닷가를 놀러 갈 때 미시령과 한계령의 굽은 산길을 운전했던 기억이 선하다. 지금은 미시령에 터널이 뚫려서 통과하면 금방 동해 바다가 보인다. 요즘 이곳을 갈 때면 시간이 단축돼 좋으면서도 뭔가 아쉽기도 하다. 미시령과 한계령의 좁은 산길을 타는 재미와 함께 길 주변의 아름다운 경치를 볼 기회가 사라졌기 때문이다. 이것이 ‘하이웨이 이팩트(Highway Effect)’다.
고속도로로 빨리 갈 수 있으나 주변의 많은 디테일을 놓치게 된다는 얘기다.
사람들은 불과 얼마 전만 해도 뭔가를 사거나 필요한 정보를 찾을 때 도움이 될 만한 채널은 매우 제한적이었다. 주로 주변 지인에게 묻거나 혹은 본인이 발품을 팔았다.
지금은 모든 것이 온라인으로 연결되어 있고 배달, 여행, 숙박, 금융 등에서 유튜브와 넷플릭스와 같은 소셜미디어와 OTT 서비스 콘텐츠 구매에 이르기까지의 거의 모든 일상 활동을 스마트폰 하나로 검색하고 구매한다.
사람들은 과연 “새로운 것을 찾아보고 싶어 하고, 듣고 싶어하고, 믿고 싶어 하는가?” 아니면 “보고 싶은 것만 보고, 듣고 싶은 것만 듣고, 믿고 싶은 것만 믿는가? “ 빅데이터 시대 사람들의 정보 소비 패턴에 대한 큰 화두(話頭)다.
AI 추천 알고리즘 “신속함과 편리성” or "확증 편향성“ 논쟁
국내 최대 소셜미디어 플랫폼인 카카오는 지난 2015년부터 AI 알고리즘 기반의 개인 맞춤형 뉴스 추천 시스템인 ‘루빅스(Rubics)’를, 포털 네이버는 2017년부터 ‘에어스(AiRS)’를 도입해 왔다.
그러나 이번 정책 방향 속에 두 플랫폼 기업은 그동안의 서비스를 중단하고 모바일 첫 화면에 노출되는 뉴스 언론사를 이용자가 스스로 선택하게 하는 ‘언론사 선택 기능’ 서비스를 8월부터 새롭게 시작할 예정이라고 발표
그러나 개인들이 각자 선호하지 않는 특정 언론사들을 배제하고 본인이 선택한 언론사의 뉴스 콘텐츠만을 이용하게 하는 것이 과연 올바른 해결책인가 하는 우려는 여전히 남는다.
한편, 이런 AI 알고리즘 기반의 추천 서비스는 뉴스만이 아니라, 페이스북이나 인스타그램 국내의 카카오톡 메신저 같은 소셜미디어에서도 계속 활용돼 오고 있다.
지인과의 일상적인 톡 가운데 특정 제품이나 서비스를 홍보하는 광고가 등장하고 사람들마다 다른 광고가 나타난다. 평소 여행에 관심이 많아 여행 관련 검색을 자주 했던 사람이라면 여행사 광고가 보인다.
얼마 전 아이를 출산한 사람이라면 유아용품 광고가 많이 뜬다. 글로벌 OTT 서비스 넷플릭스는 거의 모든 이용자에게 다른 메인 화면을 제공한다. 평소 드라마를 자주 봤던 사람에게는 드라마 위주로 배열된 화면이, 액션 장르를 좋아하는 사람에게는 최신 액션 영화로 채워진 화면이 우선 뜬다.
정말 이제는 개인 맞춤형 정보 추천을 위한 알고리즘의 문제가 무었고, 편리함 속에서도 지속적으로 제기되는 편향성 논쟁의 핵심은 무엇이며, 바람직한 해결책을 위해 어떤 노력이 필요한지에 대한 고민이 절실히 필요해 보이는 시점이다.
알고리즘(Algorithm)이란 무엇인가. 이는 ‘대수학의 아버지’로 불리는 중세의 수학자 알콰리즈미(Al-Khwarizmi)의 이름에서 유래했다고 전해진다. 이후 문제를 해결하기 위한 수학적 절차나 공식을 의미하는 걸로 발전했다. 가장 최근에는 흔히 기계학습(Machine Learning)을 통해 인공지능이 구현해내는 다양한 설루션의 수학적 공식을 뜻하기도 한다.
지금은 빅데이터의 시대고 정보가 넘쳐 난다. 무엇을 먹고 어디를 가고 뭔가를 살 때 너무나 많은 정보를 접할 수 있다. 그러다 보니 어느 순간에 우리에게 ‘결정 장애’라는 말도 익숙해졌다. 때로는 뭔가를 정하는 대신 “아무거나”를 외친다. 뭘 먹을 때, 뭔가를 살 때 고민하며 찾는 시간과 감정노동이 싫어서 대충 타협할 때 그냥 쓴다.
햄릿 증후군과 선택의 역설
이는 “사느냐 죽느냐, 그것이 문제로다”의 햄릿 증후군(Hamlet Syndrome)과도 연결이 된다. 비단 물건을 구매할 때만이 아니다.
직업을 선택하거나 사람을 만나거나 배우자를 정할 때도 더 많은 정보로의 접근이 가능해져서 선택의 어려움을 겪게 되고, 이것은 오히려 사람들을 불편하게 만들기도 한다.
또한 각자가 선택한 결과가 나쁠 때는 자신에게 주어진 무수하게 많은 옵션 중에서 잘 못 선택을 한 본인의 실수에 대한 후회가 더 많이 생길 수도 있음을 의미한다.
보통 사람들은 많은 정보에 접근 가능하면서 더 합리적인 선택을 할 것이라고 생각한다. 또한 더 많은 선택권을 가졌기에 더 행복할 것이라고 믿는다. 그러나 여러분들이 백화점에서 물건을 구입할 때나, 뷔페에 가서 식사를 할 때 너무 많이 진열된 제품과 음식으로 인해서 상대적으로 더 힘든 선택의 순간을 경험하고 오히려 만족감이 떨어져 본 경험이 다들 있을 것이다.
“선택의 수가 어느 정도 많아질 때까지는 행복감이 높아지다가, 지나칠 때는 오히려 행복지수가 떨어지게 된다는 ‘선택의 역설‘
‘선택의 역설(The Paradox of Choice)’이다.
저명한 심리학자인 배리 슈워츠(Barry Schwartz)는 “개인적 자유의 상징인 선택권이 오히려 사람들을 무력하게 만들고 좌절시킨다”라며 선택할 종류가 많아짐으로 사람들은 오히려 입력된 정보의 과부하로 불만도 커지고 비합리적으로 선택을 할 때가 많아질 수도 있다고 주장했다.
‘에코 챔버’와 ‘필터 버블’
AI 추천 알고리즘의 가장 큰 문제는 각 개인들이 선호하는 맞춤형 뉴스나 콘텐츠를 우선으로 제공해주는 것에서 시작된다. 자신이 좋아하거나 유사한 생각을 가진 사람들과만 소통하면서 편향된 사고를 갖는 현상을 미국의 법학자 캐스 선스타인(C. Sunstein)은 ‘에코 챔버(Echo Chamber)’라고 칭했다.
방송에서 에코 효과를 만들어 내기 위한 반향실(反響室)을 일컫는 말에서 나온 개념이다. 이는 특정 성향의 개인이 자신의 입맛에 맞는 콘텐츠만 소비하고, AI 알고리즘도 그 사람이 선호하는 콘텐츠 위주로 추천을 지속하면서, 동시에 사람들이 자신과 의견을 달리하는 이야기는 듣지 않고 각자가 가진 자신의 생각만 추구하는 ‘편향성 강화(Confirmation Bias)'를 가져온다.
‘필터 버블’이 만들어 내는 자신만의 갇힌 세상
이런 논의는 ‘필터 버블(Filter Bubble)’로 확장됐다.
미국의 시민단체 ‘무브온(Move on)’의 엘리 프레이저(Eli Pariser)가 그의 저서인 ‘Filter Bubble’에서 이 개념을 처음으로 사용하기 시작했다. 간단하게 정의하면 “사용자에게 맞게 필터링된 정보가 마치 거품(버블)처럼 사용자를 가둬버린 현상”을 말한다.
어쩌면 AI 기반의 자동화된 알고리즘이 지금처럼 바쁜 시대에 사람들의 성향을 파악해 필요한 정보만을 취사선택하여 제공해주는 것은 매우 편할 수 있다. 그러나 문제는 사용자들의 선택을 넘어 생각까지도 바꿀 수 있는 힘이 생기기 시작했다는 점이다.
‘플라톤’ ‘베이컨’의 동굴과 브드리야르의 ‘시뮬라시옹’
일찍이 고대 철학자인 플라톤은 사람들의 현실에 대한 인식을 동굴벽에 비치는 그림자로 비유하며 사실과 다른 편향성을 언급했다. 근대에 와서 ‘동굴’의 표현은 다시 등장한다. 경험주의 철학의 대가인 프란시스 베이컨은 그의 ‘우상론’에서 사람을 거짓으로 이끄는 마음의 모든 경향을 우상으로 정의했는데, 그가 두 번째로 언급한 것이 '동굴의 우상'이다.
각 개인의 차이에서 오는 특수한 오류의 경향을 말한다. 모든 사람은 자기만의 고유한 동굴을 가지고 있는데, 각자의 당파가 있고 읽는 책이 다르며 또 취미도 각양각색이다. 베이컨은 이를 극복하기 위해서는 자신의 주관적 경향을 배제하고 자신만의 동굴에서 빠져나와 다른 사람들의 의견을 듣고 바깥세상과 소통하면서 사회적 가치를 나눠야 한다고 했다.
후에 20세기 프랑스를 대표하는 철학자 장 보드리야르는 ‘시뮬라크르와 시뮬라시옹’ (Simulacres et Simulation)이라는 저서에서 “가상과 실재의 구분이 사라졌다”라고 말하며, 실제가 아닌 것이 더 실제 같아서 가상과 현실이 뒤바뀌는 현상을 ‘시뮬라시옹’이라 일컫기도 했다. 이는 미디어가 만들어내는 수많은 정보가 때로는 사람들이 직접 경험하는 현실보다 더 실제처럼 느껴지는 '하이퍼 리얼리티(Hyper Reality)'를 생산해 낸다고 주장했다.
그래서 AI 시대의 기술적 진화가 제공하는 뉴스피드나 정보 큐레이션은 어쩌면 현실세계의 인간들이 도출해내는 방식보다 훨씬 더 정교하게 사람들의 심리와 소비패턴을 파악해서 개인들이 가장 선호하는 정보만을 우선적으로 제공하여 결국에는 그 사람의 인식 구조도 바뀌게 만들 수 있게 되는 것이다. 이런 편향성은 사람들이 동굴 속에서 보는 ‘시뮬라크르’라는 그림자를 더 믿게 만드는 악순환을 계속 반복하게 만드는 것이다.
2021.09.05 - [건강] - 유방암 초기증상 좋은음식 정의 위험요인
댓글