개발사 ‘오픈AI’ 샘 올트먼 CEO

“틀린 데이터 학습해 오답 제시
허위정보 유포 등 악용 경계를”

샘 올트먼(사진) 오픈AI 최고경영자(CEO)가 17일(현지시간) 미국 ABC방송과 인터뷰에서 인공지능(AI)이 “인류가 지금까지 개발한 기술 중 가장 위대한 기술이 될 수 있다고 믿는다”면서도 “다만, 이 지점에서는 매우 조심스러워야 한다”고 밝혔다.

챗GPT에 적용됐던 GPT-3.5보다 한층 진보된 AI 툴인 GPT-4 출시에 맞춰 이뤄진 이번 인터뷰에서 그는 새 기술이 여전히 “완벽하지 않다”고 인정하며 “사람들에게 가장 주의를 주고 싶은 건 할루시네이션”이라고 언급했다. 할루시네이션은 인공지능이 오류가 있는 데이터를 학습해 틀린 답변을 맞는 말처럼 제시하는 현상으로, 올트먼 CEO는 이로 인해 “이 모델이 완전히 지어낸 이야기를 사실인 것처럼 내세울 수 있다”고 말했다.

이런 한계로 인해 AI 기술이 비윤리적인 세력에 의해 악용될 수 있다는 우려도 표했다. 그는 “AI 기술은 대규모 허위정보 유포 등 사이버 공격에 사용될 수 있다”면서 “안전장치로 제한을 두지 않고 AI 기술을 사용하려는 사람들이 있을 수 있다. 사회가 이를 어떻게 다뤄야 할지 파악할 수 있는 시간은 제한적일 것”이라고 밝혔다. 특히, 블라디미르 푸틴 러시아 대통령이 2017년 “AI 리더가 세계를 지배할 것”이라고 했던 발언을 지적하며 “소름 끼친다”고 언급하기도 했다.

서필웅 기자 [e-mail]