‘구글 어스’ AI 이미지 생성 기능
조작된 지도 유포… 이튿날 철회
메타 이어 섣부른 상품화 논란

인공지능(AI) 서비스 기업들이 허위조작·개인정보 침해 등을 막는 안전장치를 제대로 마련하지 않은 채 AI 기능 경쟁을 벌이면서 AI 오남용 우려가 커지고 있다. 메타가 사회관계망서비스(SNS) AI 이미지 생성 기능을 철회한 데 이어 구글도 항공·위성 사진을 AI로 편집하는 기능을 출시 하루 만에 되돌렸다.

2일 업계에 따르면 구글은 지난달 30일(현지시간) 항공사진과 위성 사진 등 지리정보를 기반으로 지구 표면의 모습을 보여주는 ‘구글 어스’에 AI 이미지 생성 도구 ‘나노 바나나2’를 통합한 기능을 공개했다. 이를 활용하면 위성·항공·3D 지도 데이터를 바탕으로 몇 초 만에 이미지를 재생성할 수 있다. 역사를 이미지로 되살리고, 착공 전 건설계획 등을 시각화해 지도 활용도를 높이기 위한 기능이라고 구글 어스는 설명했다.

인공지능(AI) 서비스 기업들이 허위조작·개인정보 침해 등을 막는 안전장치를 제대로 마련하지 않은 채 AI 기능 경쟁을 벌이면서 AI 오남용 우려가 커지고 있다. 게티이미지뱅크

하지만 이 기능이 공개된 후 조작된 지도 이미지가 SNS에 올라오는 등 허위 정보 생성에 악용될 가능성이 크다는 공개출처정보(OSINT) 전문가들 우려가 잇따랐다. 외신과 공개출처정보 분석가들이 공유한 조작 이미지를 보면 멕시코 국경에 난민들이 빼곡히 모인 사진이 X에 올라왔고, 가자지구의 가짜 폭탄 분화구, 이란 원자력발전소나 주요 도시 재난 관련 조작 위성 사진들이 유포됐다.

특히 연구기관과 언론사 등이 기준 정보로 활용하는 지도 데이터를 바꿀 수 있다는 점에서 위험성 논란이 거셌다. 브래디 애프릭 미국기업연구소(AEI) 연구원은 “이런 가짜 이미지들은 실제 위성 사진을 기반으로 만들어지기 때문에 지형이나 크기가 맞지 않는 것과 같은 AI 생성 이미지의 전형적인 흔적이 사라진다”고 지적했다. 논란이 커지자 구글은 기능 출시 이튿날인 31일 “더 강력한 안전장치를 구현할 때까지 이 기능을 롤백(되돌림)하겠다”고 밝혔다.

빅테크(거대 기술기업)가 신규 AI 기능을 철회한 건 이번이 처음이 아니다. 메타는 지난달 인스타그램 공개 사진을 AI로 변형할 수 있는 ‘뮤즈 이미지’ 기능을 출시했다가 개인정보 침해를 우려한 이용자들 반발이 이어지자 사흘 만에 해당 서비스를 중단했다.

AI 기능 경쟁을 벌이는 기업들이 AI 서비스를 먼저 내놓고 논란이 발생한 뒤 보완하는 일이 반복되고 있다는 지적이 나온다. AI 기업들이 안전장치 개발을 후순위로 둔 탓에 관련 논란이 이어진다는 것이다. 피터 슬래터리 매사추세츠공대(MIT) 퓨처테크 연구원은 지난 6월 AI 위험 우선순위 관련 연구 논문을 내고 “AI 개발 경쟁이 치열하기 때문에 연구소와 정부는 개발 속도를 늦추거나 안전에 충분히 투자할 유인이 제한적”이라고 설명했다.

이정한 기자 [e-mail]