‘AI 이용범위 어디까지’… 논의 시작 단계 [심층기획-‘챗GPT’ 등장 1년]

각국 규범 마련 현주소

가짜뉴스·딥페이크 등 ‘부작용’ 잇따라
美 ‘안전하고 신뢰할 수 있게’ 행정명령
韓 공정 등 원칙 ‘디지털 권리장전’ 발표

지난 1년은 인공지능(AI)으로 나타날 수 있는 부작용도 확인한 시간이었다. 폭발로 연기가 피어오르는 펜타곤 사진이나 악담을 퍼붓는 기시다 후미오 일본 총리 영상 등 가짜뉴스 또는 딥페이크로 인한 혼란이 잇따랐다. 이탈리아 연구진은 확인되지 않은 과학적 주장을 뒷받침하는 임상시험 데이터를 챗GPT로 생성하는 데 성공했다고 발표하기도 했다. AI 기업 앤트로픽, 이미지 생성 AI 서비스 미드저니 등은 저작권 침해 소송에 휘말렸다.

미국 국방부 청사 인근에서 폭발이 일어나 검은 연기가 치솟는 장면을 담은 사진. 지난 5월 22일(현지시간) 트위터 등에서 급속도로 유포된 이 사진은 투자자들의 불안 심리를 자극해 미 증시에까지 영향을 미쳤으나 생성형 인공지능(AI)으로 만든 가짜 사진인 것으로 드러났다. 트위터 캡처

지난 17일에는 챗GPT 개발의 주역인 샘 올트먼이 오픈AI 최고경영자(CEO) 자리에서 해고됐다 닷새 만에 복귀해 전 세계 이목이 집중됐다. AI 발전을 경계하고 공익을 우선해야 한다는 진영과 AI를 비즈니스 기회라고 믿는 진영 간 대결 때문이라고 알려지면서 AI 이용에 대한 질문을 던졌다.

AI를 어디까지 이용할 것인가, 어느 수준으로 규제할 것인가 등에 대한 논의는 이제 시작하는 단계다. 전 세계에서 큰 틀에서의 방향은 같다. 지난 1일 각국 정상과 빅테크 대표들은 영국 버킹엄셔주 브레츨리파크에서 ‘고도의 능력을 갖춘 프런티어 AI의 위험에 대한 이해를 넓히고, 각국이 대응 정책을 세우고 서로 협력해야 한다’는 내용의 선언을 채택했다.

그러나 세부 규제에 대해서는 각국이 선점 경쟁을 벌이고 있다. 해당 규제가 전 세계 표준이 되면 향후 AI 패권을 쥘 수 있어서다.

미국은 최근 ‘안전하고 신뢰할 수 있는 AI’에 대한 행정명령을 내렸다. 미국 기업이 국가 안보, 경제, 공중보건 등에 심각한 위험을 초래하는 AI 모델을 시험할 때 연방정부에 통지해야 한다. AI로 만든 콘텐츠를 식별하기 위한 워터마크 표기도 추진한다. 유럽연합(EU)도 AI 규제를 추진 중이다. EU는 지난 6월 세계 최초의 법적 구속력이 있는 ‘AI 규제법’(EU AI Act) 초안을 통과시켰다. AI 기술은 자유롭게 개발하되, 애플리케이션을 통한 서비스 규제에 초점을 맞추는 방향으로 추가 논의가 진행 중이다. 영국은 지난 9월 AI 기술 혁신을 저해하는 기업 독과점 행위 금지 등 AI 규제 7원칙을 발표했다.

한국은 지난 9월 디지털 권리장전을 발표했다. 자유·공정·안전·혁신·연대를 원칙으로 한다. 디지털 환경에서 자유로운 의사 표현은 존중되어야 하지만 가짜뉴스 확산은 안 되고, 내 정보에 대한 ‘잊힐 권리’ 등을 보장하도록 하는 내용이 담겼다. 생성 AI 창작물에 대한 워터마크 표시 제도도 도입한다. 다만 이들은 자율적 권고로, 강제성은 없다. AI 산업 육성과 고위험 AI 규제, 윤리원칙 등을 담은 인공지능기본법은 국회 계류 중이다.

이진경 기자