“수 만개의 ‘좋아요’와 댓글이 가짜?…이 상품 믿을 수 있을까?” [수민이가 화났어요]

40대 직장인 김 모씨는 매일 출퇴근길 지하철에서 스마트폰을 들여다 본다. 인스타그램 피드에 뜬 인플루언서의 게시글을 확인하는 게 습관이 됐다. 해당 게시물에 수만개의 ‘좋아요’와 수백개의 댓글을 보면서 ‘나랑 취향이 비슷한 사람들이 많구나’ 하는 공감을 느끼다가도 의문이 들기도 한다. “진짜 이렇게 많은 사람들이 ‘좋아요’를 누르고 댓글을 다는 걸까?” 김씨는 “가족들과 여행을 다닐때도 ‘좋아요’와 댓글을 참고해서 숙소, 식당을 정하는 데 이렇게 믿고 따라도 되는 건지 궁금할 때가 있다”고 말했다. 

사진=게티이미지뱅크 제공

◆추천 수와 댓글의 진실은?

19일 업계에 따르면 인터넷과 소셜미디어(SNS)에서 ‘좋아요’와 ‘댓글’의 숫자는 콘텐츠의 인기와 신뢰도를 가늠하는 기준으로 삼는다. 상품 후기나 인플루언서 게시글에 수백 개가 넘는 ‘좋아요’가 있다면 “믿을 만하다”고 판단한다.

그러나 최근 국내외 연구들은 이러한 ‘추천 수와 댓글 수’의 상당 부분이 실제 사용자가 아닌 생성형 인공지능(AI)과 봇 계정 자동화를 통해 생성되고 있다고 지적한다.

구체적인 요금표나 업체명은 공개되지 않았지만 최근 보도들은 “월 10만 원대 비용으로 수만 건의 댓글과 ‘좋아요’를 자동으로 생성해준다”는 주장을 다루고 있다. 이처럼 적은 비용으로 대규모의 반응 조작이 가능해진 배경에는 GPT-4o 등 대규모 언어 모델(LLM) 기반 생성형 AI의 발전과 서버 비용 하락이 자리잡고 있다.

실제로 GPT-4o 등 최신 LLM을 이용할 경우 댓글 한 개에 약 1원 내외의 비용으로 수십만 건의 자동 댓글 및 ‘좋아요’ 생성이 가능한 것으로 알려졌다. 심지어 250만원 내외의 비용으로 하루 만에 인스타그램 팔로워 30만명, ‘좋아요’ 수만 개를 조작한 사례도 발각된 바 있다.

카이스트 연구팀은 한국어로 작성된 AI 생성 댓글 식별 기술을 개발하며 “몇 시간 안에 수십만 개의 댓글을 만들어낼 수 있다”고 설명해 자동화의 심각성을 경고했다.

카이스트 연구팀은 “GPT-4o API 등을 활용하면 한국어 댓글 한 개에 비용이 약 1원 수준이 될 수 있다”고 밝혔다.

사진=게티이미지뱅크 제공

◆‘봇’이 누르고 ‘AI’가 쓰는 조작

네이버, 인스타그램, 유튜브 등 주요 플랫폼 운영사들이 AI 댓글·좋아요 탐지 시스템인 ‘클린봇’ 등을 고도화하고 있지만 완벽한 차단에는 어려움을 겪고 있다.

카이스트 연구팀 보고서에 따르면 인간이 AI가 작성한 댓글을 실제 사람의 댓글로 오인하는 비율이 67%에 달해 LLM이 만든 자동화 댓글의 자연스러움이 매우 높은 것으로 나타났다. 

문제는 단순히 ‘좋아요’ 수가 늘어나는 것에만 머무르지 않는다는 점이다.

인플루언서 게시글의 댓글, 온라인 쇼핑몰 후기의 댓글, 유튜브 영상의 추천에 이르기까지 자동화 조작 우려가 커지고 있다.

AI에 의한 자동 댓글 및 ‘좋아요’ 조작은 현행법상 정보통신망법, 업무방해죄, 표시광고법 등 여러 법률 위반 가능성이 높다. 하지만 법과 제도의 개선 속도가 AI 기술 발전을 따라잡지 못하고 있다는 지적이 끊이지 않고 있다.

사진=게티이미지뱅크 제공

◆AI 조작 확인 방법은

우리가 스스로 AI 조작 가능성을 점검할 수 있는 몇 가지 방법이 있다.

우선 조회 수 대비 반응 비율을 보는 것이다. 조회수가 500건인데 댓글이 1000개 달리는 등 댓글이나 ‘좋아요’ 수가 조회수 대비 지나치게 많지 않은지 확인해 볼 필요가 있다.

댓글 내용에서 문장 구조나 어투의 반복성이 높다면 자동화 가능성을 의심해야 한다. 특정 시간대에 댓글이 갑자기 몰리거나 급격히 증가했다면 AI를 이용한 대량 생성의 가능성이 있다.

플랫폼이 제공하는 신고 기능이나 이상 반응 감지 기능을 적극적으로 확인해보는 것도 좋다.

디지털 시대에 우리는 ‘수치의 출처’를 의심할 필요가 있다.

앞으로 인플루언서 게시물을 볼 때 댓글과 ‘좋아요’ 숫자를 한 번 더 눈여겨보며 그 뒤에 정말 사람이 눌렀는지 묻는 비판적인 시각이 필요한 시대가 됐다.

김기환 기자 [e-mail]