[데스크의눈] 쓰레기를 넣으면 쓰레기가 나온다

신용평가 알고리즘 작동 방식/효율성 위해 객관·공정성 놓쳐/사용자도 결과물 맹목적 수용/잘못된 결과에 대한 경계 필요

최근 A은행에서 신용대출 상담을 하다가 인공지능의 어두운 일면을 목도했다.

그 은행은 20년 넘게 주거래 은행으로 이용했고 연체 기록도 없어서 방문 전만 해도 내심 우대금리를 기대했지만 결과는 사뭇 달랐다. 필자의 신용등급이 턱없이 낮게 평가돼 있었다. 담당 직원조차 고개를 갸웃거릴 정도였다. 본점 신용등급 관련 부서에 문의해봤지만 똑부러진 답변은 듣지 못했다. 한동안 카드 사용 내역이 없는 점이 신용등급 평가에 부정적 영향을 미친 것 같다는 추정뿐이었다. 신용카드 사용 내역이 신용등급을 평가하는 효율적 수단이라는 점을 수긍하면서도 마음 한쪽에서는 오랜 충성고객에게 이럴 수 있느냐는 반발심이 일었다. A은행이 필자의 신용을 평가할 수 있는 데이터는 지천에 널려 있는데도 은행 측은 신용평가 시스템을 통해 한번 산정된 등급을 인위적으로 변경하는 것은 어렵다는 입장이었다. 결국 필자가 신용등급을 올리기 위해 할 수 있는 유일한 해결책은 신용카드를 다시 신청해서 열심히 긁어대는 일뿐이었다. 인공지능이 그걸 인식해서 필자에게 우량 고객 등급을 부여할 때까지 말이다.

조남규 경제부장

이런 방식의 신용 평가 알고리즘은 효율적일 수 있다. 은행마다 거래 고객은 천만이 넘고 거래 정보는 천문학적 규모다. 말 그대로 빅데이터다. 그 자체로는 아무 의미가 없는 데이터들을 분류하고 해석하려면 나름의 잣대가 필요할 것이다. 이를 수학적으로 모형화한 것이 알고리즘인데 지금 우리의 삶에 시도 때도 없이 개입하고 있는 대다수 알고리즘은 효율성을 위해 공정성이나 배려 같은 가치를 희생시키고 있는 것들이다. 그래서 수십년 거래한 고객이 단지 신용카드 거래 내역이 없다는 이유만으로 불이익을 받고 있다. 수익률만 좇는 벌처펀드라면 몰라도 고객의 신뢰로 먹고사는 은행에서 이런 방식의 알고리즘은 지속가능하지 않다. 허술한 신용평가 시스템보다 더 심각한 문제는 누가 봐도 불합리한 결론을 맹목적으로 수용하는 행태다. 빅데이터에서 추출됐다는 이유만으로 결과물의 객관성과 정확성을 담보할 수 있는 것은 아니다. 알고리즘 속에는 설계자의 편견이나 편향이 녹아 있을 수 있다. 그런데도 알고리즘을 사용하는 사람들은 그 결과물을 맹신하다시피 한다. 알고리즘의 작동 방식은 극소수의 설계자 외에는 정확히 알 수 없다. 황당한 신용등급을 받아든 필자처럼 알고리즘이 어떤 결정을 내리든 내부 작동방식을 알 수 없는 사람들은 속수무책의 상황에 놓이게 된다. 필자는 신용대출 대신 적금담보대출을 통해 급전을 융통했지만 신용대출이 외통수였다면 불합리하게 설계된 알고리즘 탓에 고금리 대출을 감수해야 했을 것이다. 장차 정보화가 더 진행되면 단순한 대출이 아니고 취업이나 결혼처럼 한 인간의 운명이 걸린 선택들이 알고리즘의 편견에 의해 왜곡되는 사태가 빚어질 수도 있다.

알고리즘은 양날의 칼이다. 빅데이터 속에서 인간의 삶을 풍요롭게 만드는 진주를 찾아내는 것도, 위험한 금융상품을 안전한 상품으로 포장해주는 것도 알고리즘을 통해서 진행된다. 우리는 2007년 글로벌 금융위기 과정에서 잘못 설계된 알고리즘이 우리 사회에 어떤 해악을 끼치는지를 지켜봤다. 알고리즘은 비우량주택담보대출(서브프라임모기지) 채권의 가치를 눈덩이처럼 키우는 데는 능숙했지만 막상 금융시장이 붕괴하기 시작하자 쓰레기 채권들의 가격조차 제대로 산정하지 못했다. 그때 무너진 시장을 바로잡은 주체는 알고리즘이 아닌 인간이었다. 알고리즘이 탐욕의 도구로 전락하지 않도록 알고리즘을 감시해야 할 필요가 여기에 있다. 최근 네이버는 댓글 논란의 와중에 공정성 시비가 일자 인공지능이 뉴스를 편집하고 배열하도록 하겠다는 방침을 내놨다. 궁여지책일 뿐 옳은 방향은 아니다. 인공지능의 뉴스 편집 배열은 자칫 이용자들을 ‘필터 버블’(Filter Bubble) 속에 가둘 수 있다. 뉴스 편집, 배열 알고리즘에 대한 검증이 필요하다.

데이터 업계에서 회자되는 유명한 경구가 있다. ‘쓰레기를 넣으면 쓰레기가 나온다’(garbage in, garbage out)는 말이다. 제아무리 좋은 알고리즘도 잘못된 데이터가 입력되면 잘못된 결정을 내리게 된다는 점을 경계하는 말이다.

조남규 경제부장