세계일보

검색
초연결사회 편향 현상 해결 위해
의식·미디어 문해력 등 향상 필요
온전한 알고리즘 개발 위해서는
아집·편견·증오 등 뛰어넘어야
4차 산업혁명은 작년부터 중요한 화두였고, 새 정부의 주요 현안이기도 하다. 그런데 벌써 4차 산업혁명이 거품(버블)이라는 얘기가 나오고 있다. 국내의 현실을 감안하면 당장 산업화를 이끌어내는 데 한계가 있고, 지금까지의 가시적 성과는 미미하며 유독 국내에서만 떠들썩한 버블이라는 것이다. 더욱이 4차 산업혁명의 과장이라는 버블 논란보다 더 심각한 버블은 바로 필터버블(Filter Bubble)일 수 있다.

4차 산업혁명으로 인한 초연결사회, 지능정보사회는 사람들의 소통을 원활하게 하고 더 민주적인 건전한 열린사회로 이끌 수 있으나 역설적으로 빅데이터, 인공지능(AI), 사물인터넷(IoT) 등의 4차 산업기술은 사람들의 생각을 무의식적으로 거르고 서로 교류하지 않게 고립시키는 필터버블현상을 일으킬 수 있다. 사용자 데이터의 발현으로 인터넷 정보제공자가 사용자 맞춤형으로 필터링된 정보만 사용자에게 제공하게 되고, 사용자는 효율적으로 자신만의 문화적·이념적 거품에 갇히게 된다. 아마존, 알리바바 같은 쇼핑몰에도 쓰이는 필터기능은 음악, 영화, 광고, 온라인 뉴스, 친구 소개 등에서 정보를 추리고 정리된 내용을 사용자에게 제공하면서 사용자가 전체 정보를 볼 기회를 원천적으로 차단할 수 있다. 즉, 추천 시스템이 지능화될수록 사용자의 입맛에 맞는 정보만 제공되고 다른 정보는 축소 사장되는 편향적 현상이 심화된다.


신동희 중앙대 교수 인간컴퓨터상호작용학
필터버블에 의해 개인의 버블이 모여 사회적으로 집단화되면 ‘에코체임버 효과’를 일으킨다. 이는 같은 방에 있는 사람이 비슷한 메아리를 듣는 현상으로, 같은 뜻을 가진 사람끼리 모여 서로 동의하는 의견이 계속 메아리처럼 울려 퍼지면서 점점 더 그 의견이 고착화되고 과격해진다. 특히, 소셜플랫폼에서 진보적인 사용자는 진보적인 뉴스나 정보를 팔로잉함으로써 그들의 확증편향을 강화하고, 보수적인 사용자는 보수적인 뉴스만 선택적으로 인지한다. 초연결사회에서는 이 에코체임버 효과가 전 사회영역에서 전방위적으로 나타나고, 그 부정적 영향도 커질 수 있다.

필터버블, 에코체임버 현상은 사람과 알고리즘의 상호작용의 결과이다. 사람들은 자신이 듣고 싶은 것만 듣고, 보고 싶어 하는 것만 보려는 선택적 인지 경향이 있는데 이를 알고리즘이 적절히 만족시켜 주는 것이다. 인터넷에서 비슷한 사람과 어울리며 자신의 기존의 생각과 믿음을 강화하려는 확증적 편향을 기술이 알아서 충족시켜 주면서 사용자의 선택을 받아 적자생존의 원리처럼 시장에서 살아남게 된다. 특정 정보는 사람들의 선택을 받으며 딥러닝(심층학습)에 의해 사람들의 선호도를 학습하게 되고 사용자의 기호, 경험을 예측하는 알고리즘이 형성된다.

가짜뉴스가 발흥하는 것은 바로 이러한 사용자, 딥러닝, 알고리즘의 선순환 구조 때문이다. 알고리즘이 강화될수록 기존 미디어의 게이트키핑 기능은 약화되고, 다양성은 실종돼 건강한 민주주의 발전을 저해할 수 있다. 이러한 부정적 영향 때문에 데이터저널리즘의 선구자 격인 영국의 가디언지는 ‘필터버블 터뜨리기’(Burst your bubble)라는 지면을 통해 사고의 확장을 도울 수 있는 다른 관점의 기사를 추천해주고 있다. 미국에서는 독자들이 뉴스를 균형 있게 소비할 수 있도록 돕는 ‘리드 어크로스 디 아일’(Read Across the Aisle)이라는 애플리케이션이 소개돼 독자가 읽은 뉴스가 한쪽으로 치우친 것으로 분석되면 반대 성향의 기사를 읽어볼 것을 권고하는 알림도 발송한다.

AI, 빅데이터가 기반이 된 초연결사회에서 이러한 편향된 현상은 더욱 심화될 수 있다. 인간의 관계, 정서, 감성, 사랑까지 수량화하는 알고리즘의 세계에서 인간은 선택을 강요받는다. 이러한 문제를 해결하기 위해서는 기술적 진화뿐만 아니라 사람들의 전반적 의식 향상과 미디어 리터러시(literacy·미디어 문해력)의 향상이 필요하다. 인간의 기능을 완전히 대체하는 온전한 알고리즘이 개발되기 위해서는 인간의 아집, 편견, 증오 등을 뛰어넘어야 한다.

신동희 중앙대 교수 인간컴퓨터상호작용학

[ⓒ 세계일보 & Segye.com, 무단전재 및 재배포 금지]

오피니언

포토

리센느 메이 '반가운 손인사'
  • 리센느 메이 '반가운 손인사'
  • 아일릿 이로하 '매력적인 미소'
  • 아일릿 민주 '귀여운 토끼상'
  • 임수향 '시크한 매력'