새해 4개월여 앞두고 나온 교황의 신년 메시지… 화두는 'AI 윤리 확립'

"신기술에 의한 폭력·차별 경계해야…
'인류에 봉사하는 AI' 개념 정립 시급"

프란치스코 교황이 나날이 발전하는 인공지능(AI)을 겨냥해 “신기술에 의한 폭력과 차별을 경계해야 한다”는 말로 인류의 경각심을 촉구했다. 올해 들어 기존 데이터와의 비교 학습을 통해 새로운 창작물을 탄생시키는 이른바 ‘생성형 AI’의 등장은 예술을 비롯해 거의 모든 분야에서 AI가 사람을 대체할 것이란 공포감을 낳고 있다.

프란치스코 교황. AP연합뉴스

8일(현지시간) 로이터 통신 등에 따르면 교황은 이날 공개한 ‘세계 평화의 날’ 메시지에서 AI 기술의 부작용을 화두로 삼았다. 세계 평화의 날은 매년 새해 첫 날, 즉 1월1일인데 교황은 2024년 1월1일이 아직 4개월 여 남은 상황에서 메시지를 내놓은 것이다. 이와 관련해 교황청 사정에 정통한 이들은 “바티칸은 통상적으로 교황의 세계 평화의 날 메시지를 해가 바뀌기 전에 미리 공개하는 관행이 있다”고 소개했다.

구체적으로 교황은 “AI의 잠재적 위험을 성찰해야 한다”며 “신기술이 가장 연약하고 소외된 사람들을 희생시키면서 폭력과 차별의 논리를 뿌리내리게 하지 않도록 경계할 필요가 있다”고 밝혔다. AI 시대에 AI 기술 개발자와 이를 잘 활용할 수 있는 사람들은 커다란 이익을 누리는 반면 그렇지 못한 이들은 일자리를 잃고 곤궁한 처지로 내몰릴 것이란 우려가 담겨 있다. AI에 접근하기 힘든 약자들이 사회적 차별과 폭력의 희생양이 되는 것을 막기 위해 정부가 나서야 한다는 뜻으로 풀이된다.

교황은 AI 윤리에 관해서도 언급했다. 그는 “AI가 인류에 봉사할 수 있도록 책임 있는 방식으로 그 개념을 잡고 활용하게 하는 것은 긴급한 필요성이 있다”며 “이는 윤리적 성찰에서 교육과 법제의 영역까지 확장돼야 할 것”이라고 주장했다. 세계 각국이 머리를 맞대고 보편적으로 적용될 AI 윤리 규범을 만들어야 한다는 의미다.

프란치스코 교황(앞줄 오른쪽)이 2019년 2월 브래드 스미스 당시 MS 사장(앞줄 왼쪽)과 만나 AI의 윤리적 사용 등을 주제로 대화하고 있다. EPA연합뉴스

오래 전부터 교황은 ‘AI 기술이 윤리적으로 사용돼야 한다’는 소신을 밝혀왔다. 2019년에는 브래드 스미스 당시 마이크로소프트(MS) 사장과 만나 AI의 윤리적 사용과 디지털 격차 해소 방안 등을 토의하기도 했다.

교황의 지적대로 요즘 전 세계에서 AI 규제 논의가 뜨겁다. 조 바이든 미국 대통령은 7월21일 알파벳(구글 모회사), 메타, 마이크로소프트(MS), 아마존, 오픈AI 등 7개 AI 기업 대표를 백악관으로 불러 회의를 열고 이들 기업 대표에게 AI와 관련해 △안전 △보안 △신뢰 3대 원칙을 준수할 것을 강력히 주문했다.

유엔 안전보장이사회(안보리)도 7월18일 사상 최초로 AI 관련 회의를 가졌다. 당시 안보리 의장국이던 영국은 “AI가 허위정보 생성을 부추기고 있다”며 AI의 무기화 가능성을 경고했다. 회의에 참여한 안토니우 구테흐스 사무총장도 “AI의 군사적·비군사적 이용 모두 세계 평화와 안보에 심각한 결과를 초래할 수 있다”며 AI 관리를 위한 유엔 기구 창설을 지지했다.

김태훈 기자 [e-mail]