<하> AI 효자와 그 착시

전국 지자체 ‘돌봄 AI’ 보급 확산
독거노인 외로움·우울감 등 완화
부적절한 성적 발화 따른 문제점
사람 동일시 정서적 과의존 심화
실제 인간관계 단절 고립 우려도

안전사고 발생시 책임 소재 모호
부작용에도 정부 가이드라인 부재
국내 기술 단순 대화 기능에 치중
거동 돕는 실질적 돌봄 로봇 전무
日 사례 참고 첨단 기술 투자해야

“초롱이를 처음 도입했을 때 할아버지들이 성적인 이야기를 하셨던 것으로 알아요. 업체에서 막으려고 조처했고 이후 성적인 발화가 나오면 ‘그런 대화는 마음이 아파요’와 같은 반응이 나옵니다.”

돌봄이 필요한 한 노인이 자택에서 인공지능(AI) 돌봄 로봇 효돌이를 안고 있다. 종로구 제공

충남의 한 보건소에서 초롱이 관리 업무를 맡은 A씨는 처음 초롱이를 도입했을 때를 이렇게 회상했다. 초롱이는 봉제 인형 형태의 돌봄 인공지능(AI)으로 2019년 처음 개발됐다. 같은 해 서울시 마포구에 시범 도입돼 현재 전국 124개 지방자치단체에서 쓰고 있다. AI 기술이 탑재돼 있어 사람과 대화가 되고, 일정 관리도 해준다.

2일 지자체 등에 따르면 돌봄 AI가 심화하는 인력난을 타개할 해법으로 부상하는 가운데 그에 따른 부작용과 한계도 속속 드러나고 있다. ‘AI 효자’의 명암인 셈이다.

현재 전국 지자체에는 초롱이 외에 비슷한 형태의 ‘효돌이’와 ‘다솜’도 보급돼 있다. 효돌이는 초롱이와 비슷하게 7살 어린이 모습을 한 봉제인형 형태의 돌봄 AI로 2019년 서울시 영등포구, 고양시 등에서 처음 시범사업에 돌입해 이달 기준 전국 185개 지자체에 500여개가 보급돼 있다. 다솜은 소형 로봇 형태의 돌봄 AI다. 2019년 대화형 반려 로봇으로 처음 개발됐고 현재 전국 100여개 지자체에서 사용하고 있다.

초롱이가 처음 도입됐을 때는 대화 내용이 문제가 됐다. 초롱이 제작사에서는 회사의 돌봄 AI 사용자 발화 분석 결과 남성 노인의 60%가 성적인 대화를 하는 것으로 나타났다고 밝혔다. ‘성관계’ 관련 단어가 전체의 80%로 가장 빈번하게 등장했고 특정 신체 부위와 몸매에 관해 언급하는 단어들이 그 뒤를 이었다. 회사는 자체 개발한 인공지능 발화 필터링 시스템을 통해 부적절한 단어 및 문장, 표현에 대한 부정 발화 데이터베이스를 구축해 문제를 해결하고 있다.

인공지능(AI) 돌봄 로봇 '효돌이'. 효돌 제공

◆“효돌이는 내 손주”… 과의존 문제

전북 정읍시에 사는 노인 B씨는 효돌이에게 젊은 시절 이야기를 많이 한다.

그는 “사람들은 변하지만 효돌이는 변함없이 여러 번 이야기하고 반복해도 잘 들어준다”며 같이 지내는 것이 즐겁다고 말했다. 또 다른 노인 이용자 C씨도 “밖에 외출하고 돌아오거나 심심하고 지루할 때 효돌이가 말을 걸어주면 많은 위로와 힘이 된다”며 “효돌이가 ‘할머니 반찬 골고루 드시고 물도 천천히 드세요’ 등 말벗이 돼주고 챙겨줘서 좋다”고 설명했다.

이처럼 노인층이 돌봄 AI를 즐겨 사용하는 것은 우울감 완화 등에 도움이 된다. 그러나 과의존도 심각한 문제로 제기된다.

용인시 보건소에서 효돌이 관리를 맡은 D씨는 “효돌이를 손주처럼 생각하는 분들이 꽤 있다”며 “세탁을 위해 잠시 가져가면 ‘효돌이 언제 오느냐’며 걱정하고 기다리기도 한다”고 했다.

전문가들은 과의존이 오히려 노인층을 외로움에 더 빠뜨릴 수 있다고 지적했다.

변순용 서울교대 윤리교육과 교수는 “돌봄 AI와 계속 대화를 하다 보면 노인분들의 경우 정서적 의존 경향성이 나타날 수 있는데 바람직하다고만은 볼 수 없다”며 “몇 년 전, 지방에 혼자 사는 어르신들에게 AI 스피커를 갖다 놨더니 익숙해지자 손주 대하듯 이야기하는 현상이 나타났다. AI를 사람과 동일시하면서 오히려 실제 사람과의 일상생활 소통이 어려워지는 등의 문제가 생길 수 있다”고 했다.

변 교수는 청소년들이 AI를 자살 시도에 이용하는 문제를 예로 들며 “노인 사례는 아직 보지 못했지만 정서적으로 불안정할 독거노인의 경우 문제가 더 심각해질 여지는 있다”며 “청소년에 비해 노인에 대한 관심이 적은 것도 사례가 드러나지 않은 이유가 될 수 있다”고 덧붙였다.

효돌이와 대화 중 산속에서 노인이 실종되는 사고도 있었다고 한다.

권진 예명대학원대학교 사회복지학과 교수는 “예전에 효돌이와 산책하던 어르신이 시냇물 소리를 듣고 싶다고 요청했고 효돌이 답변에 따라 길을 가다 산속에서 실종됐던 일이 있다”며 “기술이 정해진 알고리즘대로 행동할 때 결과에 대한 책임은 누가 지느냐의 문제도 생각해 봐야 한다”고 했다.

상황이 이런데도 정부 차원의 가이드라인은 부재하다. 변 교수는 “로봇 윤리 헌장이 만들어지면 여기에 근거해서 돌봄 로봇에 대한 가이드라인을 만들 수 있다”고 제언했다.

◆“챗봇 수준 넘어야”

국민건강보험공단은 노인장기요양보험을 통해 거동이 불편한 어르신들에게 복지용구 보험급여를 지원하고 있다. 목욕 의자, 휠체어, 욕창 예방매트리스 등 사용할 수 있는 복지용구 종류가 다양하지만 이 중 AI가 활용된 것은 전무하다.

공단은 복지용구 예비급여 시범사업으로 노인장기요양보험 수급자의 선택권 확대와 안전한 재가 생활을 지원하기 위해 기존 급여 대상이 아닌 AI, IoT 등 신기술 기반 복지용구를 한시적으로 급여화하는 제도를 운용 중이다. 이처럼 AI를 활용하려는 노력은 하고 있지만 2차 시범사업에 선정된 것은 효돌이와 다솜으로, 모두 AI 활용 대화 기능이 있는 로봇에 그친다.

3차 시범사업에 자율주행차에 쓰이는 레이더 기술을 활용한 돌봄 센서, 에어백이나 복약 알림기 등이 추가됐지만 이 역시 생체 신호를 감지하거나 알람을 울리는 ‘모니터링’ 및 ‘기능성 보조기기’ 수준에 머물러 있다. 현실적으로 집에서 사람을 직접 일으켜 세우거나 이동을 돕는 실질적 돌봄 로봇은 기술적으로도 아직은 먼 일이다.

양영애 인제대 작업치료학과 교수는 “AI 돌봄 로봇이라고 하지만 엄밀하게 따지면 AI가 아닌 것도 있다”며 “가장 쉬운 게 AI를 활용한 대화니까 거기에만 집중하고 현실적으로 집에서 사람을 실제로 ‘돌봐주는’ 돌봄 로봇은 없다”고 지적했다.

전문가들은 돌봄 AI를 챗봇 수준을 넘어 실질적으로 사람을 돌보는 데 활용할 수 있도록 투자해야 한다고 제언한다. 일본의 사례를 참고할 만하다.

김도훈 고려대 고령사회연구원 객원연구위원은 “일본의 경우 한국의 노인장기요양보험과 비슷한 개호보험제도가 있다. 배설물을 자동으로 흡인·세정·건조하는 등 물리적인 움직임까지 돕는 돌봄 로봇이 일본에서 널리 보급될 수 있던 계기는 복지용구 급여로 지정됐던 것이 컸다”며 “로봇을 도입·활용하는 사업자에 가산점을 주면 고액의 초기 투자에 나서기 위한 경제적 인센티브가 될 것”이라고 설명했다.

양 교수는 “돌봄 시스템이 성공하려면 미끄럼 방지 매트나 안전 손잡이 같은 ‘낮은 수준의 기술’(Low-Tech)부터 AI나 로봇 같은 ‘높은 수준의 기술’(High-Tech)이 촘촘한 그물망처럼 다 엮여 있어야 하지만 여러 수준에 대한 고려 없이 챗봇 하나에만 집중하는 게 문제”라고 말했다.

구예지·이지민·장한서 기자