“AI 대세지만 윤리·기술문제 우려”… 사업 고민하는 기업들

보안·오작동에 경영손실 발생
AI 유용성·사업성 아직은 의문
도입 기업들 실패 사례도 많아
금융·고객대면 서비스엔 ‘먼 길’

EU, 최초 AI 규제법 승인 이어
日서도 윤리 위험 경고 선언문

챗GPT 등 생성형 인공지능(AI) 기술 개발 경쟁이 격화하는 가운데 막상 상당수 기업들이 생성형 AI의 부작용으로 사업에 활용하는 데 주저하고 있다는 평가가 나왔다. 생성형 AI를 전면 도입하기에는 여전히 보안 등 윤리적 문제나 오작동 등 기술적 문제가 우려되는 상황이고, 이와 관련된 경영 손실이 발생하고 있기 때문이다.

미국 월스트리트저널(WSJ)은 7일(현지시간) 지난달 미국 인구조사국 통계를 기초로 전체 미국 기업의 약 5.4%만 상품이나 서비스 생산에 어떤 형태로든 AI를 사용하고 있다고 보도했다.

리서치 회사 가트너에 따르면 AI를 사업에 도입하겠다고 하는 회사들의 대부분이 궁극적으로는 AI를 도입하지 않고 있다.

AI 정책연구소 공동창립자인 다니엘 콜슨은 WSJ에 “조직들은 AI의 유용성을 여전히 시험하고 있다”며 “이는 (AI) 언어모델이 실제로 사업적 이용에 가치가 있을 것인가에 대한 불확실성과 연결된다”고 설명했다.

AI를 적극적으로 활용할 것으로 기대됐지만 실제 AI 사용을 보류하고 있는 사례는 적지 않다. AI 경영 위험에 대한 자문을 제공하는 ‘루미노스 로’ 로펌은 운영에 생성형 AI를 사용하기로 했지만 아직 특별한 진전을 보지 못하고 있다. 담배회사 레이놀즈 아메리칸의 최고 정보 책임자 애런 그위너는 “고위험 금융 문제나 고객을 대면하는 역할에는 AI를 아직 사용하지 않는다”며 “생성형 AI에는 몇 가지 고유한 위험이 있고, 우리가 AI를 활용한 프로젝트에 본격적으로 달려들기 전에 몇 가지 기본을 갖추어야 한다”고 설명했다.

실제 AI를 사업에 도입했다가 실패한 사례도 많다. 캐나다 밴쿠버에 거점을 둔 홍보회사 마인드멜드는 언론 홍보자료를 배포하는 과정에 AI를 도입했지만 직원들이 직접 하는 것만큼 시간이 걸렸으며, AI가 거짓 정보를 사실처럼 전달하는 현상을 지칭하는 ‘환각’ 현상도 나타났다. 조나톤 나르비 마인드멜드 최고경영자(CEO)는 “총체적 재앙”이라며 AI가 경영 문제에 자신감 있는 답변을 내놨지만 나중에 사실이 아니라고 말했다고 설명했다.

에어캐나다는 최근 서비스 챗봇이 고객에게 가까운 가족이나 친지가 사별했을 경우의 항공요금 정책에 대한 잘못된 정보를 제공해 지난 2월 당국으로부터 환불하라는 명령을 받았다.

에어캐나다는 당시 사용됐던 AI 기술이 현재보다 오래된 것이고 정교하지 않았다고 설명했지만, 이는 AI를 고객 대면 서비스에 이용하는 것에 경각심을 불러일으켰다. 에어캐나다는 현재 챗봇 서비스를 중단한 상태다.

특히 큰 규모의 기업들이 AI 도입에 조심스러운 것은 보안 위험과도 관련돼 있다. 최근 보안전문가들을 대상으로 한 네트워크·보안회사 시스코 시스템즈의 설문조사에서 응답자의 92%는 생성형 AI가 다른 기술과 근본적으로 다르며 데이터와 (보안) 위험을 관리하기 위한 새로운 기술을 필요로 한다고 밝혔다. 전문가 중 25% 이상이 AI 사용을 금지해야 한다고까지 말했다.

일본어를 사용하는 생성형 AI를 올해 출시할 예정인 일본 대형 통신업체 NTT와 일본 요미우리 신문도 8일 윤리적 위험성을 경고하는 AI 선언문을 발표했다. 선언문은 AI가 도덕성이나 정확성과는 관계 없이 사용자들의 관심을 끌도록 설계됐다며 이미 인간 존엄성을 손상시키기 시작했다고 지적한다.

WSJ는 “지난 3월 EU 의회가 AI의 사용을 일부 제한하는 법을 통과시킨 것과 함께 미국 회사들이 개발 선두에 서온 AI 프로그램에 대한 미국 동맹국들의 우려가 커지고 있음을 보여준다”고 평가했다.

다만 WSJ는 인터넷 시대의 두 가지 획기적 기술인 검색엔진과 사회관계망서비스(SNS)가 채택에 수년이 걸린 만큼 시간이 지나면 생성형 AI 역시 광범위하게 도입될 수 있을 것이라고 설명했다.

홍주형 기자 jhh@segye.com