서울시 전용 AI 행정지원 ‘챗봇 2.0’ 나온다… 자체 언어모델 도입 [오늘,특별시]

AI가 ‘디지털 행정 길잡이’ 역할 할 전망
실무대응·협업 기반 문서 공유에 활용돼

서울시에서는 공무원이 문서를 찾거나, 보고서를 작성하는 일까지 인공지능(AI)이 대신해줄 전망이다.

시는 7일 공무원의 반복 행정업무를 생성형 AI로 대체하는 새로운 행정 지원 체계 ‘챗봇 2.0’ 사업을 하반기부터 시범 운영한다고 밝혔다. 내부망에 자체 초거대 언어모델(LLM)을 도입, 일부 부서를 대상으로 시범 운영하고 내년부터는 내부 행정 시스템과 연계해 문서 자동화, 의사결정 지원 등 기능을 순차적으로 고도화할 예정이다.

예를 들면 ‘공유재산 사용료가 3회 연속 체납된 경우 즉시 계약 해지 가능한가?’라고 물으면 AI가 업무 편람을 종합해 답변해 주는 식이다. ‘디지털 행정 길잡이’ 역할을 하는 AI가 내부 시스템과 연계된 정보를 기반으로 실시간 응답해 직원이 부서로 문의하거나 자료를 요청하지 않아도 된다. 또 사용자가 보유한 계획서나 기획안을 업로드하고 보도자료를 작성해 달라고 요청하면 AI가 양식에 맞춰 초안을 자동 작성해 주고 부서 단위로 ‘나만의 챗봇’을 만들어 반복되는 실무 대응이나 협업 기반 문서 공유에도 활용할 수 있다.

그동안 시는 시민·직원용 챗봇 시스템을 구축해 왔지만, 고정 응답 방식이라 유연한 대화 생성이나 맥락 이해가 필요한 복합 질의에는 한계가 있었다. 시는 이번 사업을 통해 민감한 공공 데이터를 안전하게 처리할 수 있는 독립적 인프라를 바탕으로 행정 수요에 최적화된 실용적인 생성형 AI 서비스를 구축, 공공행정 전반의 AI 전환을 추진한다는 방침이다. 시는 올해 GPU 서버를 도입하고 내년까지 GPU 서버 3대를 추가 확보해 폐쇄망 내에서 고도화된 생성형 AI 서비스가 시행될 수 있게 할 계획이다.

챗봇 2.0 시스템이 본격 가동되면 문서 작성, 규정 조회, 질의응답 등 반복적이고 정형화된 업무를 AI가 대체하면서 행정 효율성이 향상될 것으로 기대된다. 시는 다만 AI 시스템을 대시민 서비스를 포함해 전면적으로 확산하는 것은 신중할 필요가 있다고 보고 단계적으로 추진하기로 했다. 시민용 챗봇 ‘서울톡’에도 생성형 AI를 시범 적용해 시나리오 기반으로 정해진 답변만 가능했던 이전과 달리 홈페이지 보도자료·새소식 등 자료를 기반으로 질문 맥락을 이해해 응답하는 기능을 추가할 예정이다.

강옥현 시 디지털도시국장은 “챗봇 2.0 도입을 시작으로 공무원은 더 효율적으로 일하고, 시민은 더 빠르고 정확하게 응답받는 새로운 행정 서비스 시대가 열릴 것으로 기대된다”고 말했다.

조성민 기자 [e-mail]