초록우산, 3천300명 조사결과 공개…"사용제한 아닌 안전한 환경 먼저"

생성형 인공지능(AI) 챗봇을 이용하는 아동·청소년이 절대다수인 가운데, 챗봇 답변을 사실 확인 없이 받아들이는 사례가 5명 중 1명꼴이라는 조사 결과가 최근 나왔다.

30일 초록우산 홈페이지에 게재된 '내 친구와의 위험한 대화' 이슈브리프에 따르면 지난 3월 9∼23일 전국 만 14세 이상 아동·청소년 3천300명을 상대로 조사한 결과, 94.4%가 생성형 AI 챗봇 사용 경험이 있는 것으로 나타났다.

이 가운데 사용 빈도는 '주 1∼2회'가 31.4%로 가장 많았고, '주 3∼4회' 27.9%, '그보다 드물게' 21.4% 순이었다. '거의 매일' 사용한다는 응답도 19.3%였다.

챗봇 답변을 신뢰하는 편이라는 응답은 77.7%에 달했다.

'챗봇 답변을 가끔 믿는다'가 66.5%, '항상 그렇다'가 11.2%였으며, '그렇지 않다'는 15.3%, '전혀 그렇지 않다'는 6.9%였다.

답변의 사실 여부를 확인하는 방법으로는 인터넷 검색(56.3%)이 가장 많았고, 뉴스·공식 홈페이지 확인(26.6%), 교과서·학습자료 확인(21.9%)이 뒤를 이었다.

그러나 '따로 확인하지 않는다'는 응답도 20.7%로 집계돼 일부 청소년은 별도 검증 없이 정보를 수용하는 것으로 나타났다.

또 청소년의 49.5%가 AI가 자신을 이해해 준다고 느끼고 있으며, 약 3명 중 1명에 달하는 32.3%는 힘들거나 우울할 때 실제로 AI와 대화를 나눈 경험이 있는 것으로 조사됐다.

챗봇에 개인정보를 입력한 경험도 적지 않았다. 나이(45.0%), 이름(32.8%), 건강·정신 상태(23.9%), 학교·소속(19.4%), 개인 비밀(15.9%), 거주지(14.1%) 등을 입력했다는 응답이 나왔다.

챗봇이 위험 정보의 통로가 되는 사례도 확인됐다.

위험·불법·폭력·성적 내용 등을 챗봇에 물어본 경험이 있다는 응답자는 전체의 약 6%였으나, 이들 중 52%는 실제로 관련 답변을 받은 것으로 나타났다.

유형별로는 '불법이지만 처벌을 피하는 방법'(55.6%), '성적이거나 부적절한 대화'(55.2%), '상대를 비하·차별하는 내용'(52.7%), '자해·자살 구체적 방법'(51.6%), '폭력·위험 행동 방법'(43.7%) 순이었다.

초록우산은 이번 결과를 토대로 "생성형 AI 기술의 사용 제한이 아니라 안전한 활용 환경 조성이 먼저 이뤄져야 한다"며 "아동·청소년의 안전과 권리를 기술 설계 단계부터 체계적으로 반영해야 한다"고 밝혔다.

<연합>