“윤리적 사용 강조 이상으로 AI 기술 자체 이해 중요” [심층기획 - AI앞에 선 민주주의]

서울시교육청. 전국 지자체 처음으로
학생들 위한 ‘생성형 AI’ 활용 지침 배포
학생수준 확인 진단검사 도구도 개발 중
“원리 이해 통한 AI 리터러시 향상” 강조

국내에서도 기존의 미디어 리터러시를 넘어선 인공지능(AI) 리터러시에 대한 관심이 커지면서 공교육 분야에도 AI 리터러시 교육이 필요하다는 목소리가 나온다. 이 같은 요구에 발맞춰 서울시교육청은 최근 전국 지자체 교육청 최초로 생성형 AI 활용 지침을 만들어 배포했다. 학생들의 AI 리터러시 수준을 확인할 수 있는 진단 검사 도구도 개발 중이다. 

지난달 말 서울시내 각 학교에 배포된 ‘학교급별 생성형 AI 활용 지침’을 만든 서울시교육청 AI 미래교육팀 박정희 장학사(사진)는 7일 세계일보와의 인터뷰에서 생성형 AI 활용 지침에서 가장 주안점을 둔 부분으로 생성형 AI의 원리 이해를 통한 학생들의 AI 리터러시 향상을 꼽았다. 박 장학사는 “AI의 경우엔 독특한 기술적 특성이나 한계점이 있다 보니 일반적인 미디어 리터러시 교육과 달리 단지 윤리적인 사용을 강조하는 것 이상으로 AI 기술 자체를 잘 이해하는 게 중요하다”면서 “AI 리터러시는 AI 기술을 아는 데에서 시작된다”고 거듭 강조했다. 

이 같은 관점을 반영해 서울시교육청의 생성형 AI 활용 지침에는 생성형 AI의 근본 기술에 대한 설명이 충분히 담겼다. 다른 기술들과 달리 어떤 데이터로 어떤 과정을 거쳐 산출물을 내는지에 대한 설명가능성과 투명성이 상대적으로 떨어지는 AI의 작동원리는 ‘블랙박스’로 표현되기도 한다. 또 생성형 AI가 사실이 아닌 오류를 마치 사실처럼 답하는 현상인 ‘환각현상’도 나타난다. 

이 같은 AI 기술의 특징들을 이해해야 한계와 위험성도 받아들일 수 있다는 게 박 장학사의 설명이다. 그는 “챗GPT처럼 초거대 언어모델을 기반으로 한 생성형 AI는 초창기에 마치 검색엔진의 대체물처럼 잘못 알려졌지만 실제로는 질문에 가장 적합한 말을 골라 문장을 만들뿐 사실 확인은 하지 않는다”라며 “완전히 엉뚱한 답변은 온라인에서 유머로 소비되기도 하지만, 실제 산출된 답변을 보면 해당 분야 전문가가 아니면 찾아내기 어려울 정도로 교묘하게 잘못된 정보를 제시하기도 해 위험하다”고 말했다. 이어 “특히 학생들이 AI에 대한 개념 등이 완벽하지 않은 상태에서 경계심 없이 생성형 AI를 통해 학습하게 되면 악용하려는 의도 없이 본인도 모르는 새 문제를 만들 수 있다”며 “학생들이 기술을 근본부터 제대로 이해해야 유용성과 위험성을 모두 알고 바르게 사용할 수 있다”고 덧붙였다.

한 발 더 나아가 서울시교육청은 AI 리터러시 진단 검사 도구도 개발 중이다. 아직까지 국내에는 AI 리터러시와 관련해 아이들의 수준을 진단할 도구가 없다. 올해 연말까지 진단 검사 문항을 개발한 뒤 내년부터 본격적으로 실제 적용 방안을 논의할 예정이다. 

이와 관련해 박 장학사는 “공교육 안에서 학생들이 초등학교를 졸업할 무렵에는 어느 정도까지는 AI 리터러시를 함양하고 있어야 한다는 목표를 갖고 진단 문항을 만들고 있다”며 “진단 결과를 기반으로 교육자료를 개발하고 교육 정책에도 반영할 수 있게 하려 한다. 저희가 진단 도구를 만들면 다른 시도교육청이나 교육기관에도 좋은 참고가 될 것으로 기대한다”고 말했다. 

박지원 기자 [e-mail]