안철수, AI 시대 대비한 규제법 발의
금지·고위험 인공지능은 특별관리
정부 3년마다 AI 기본계획 심의·의결
“필요 최소한의 AI 규제 가이드라인 시급”

국민의힘 안철수 의원이 인공지능(AI)의 개발과 규제 원칙을 담은 ‘인공지능 책임 및 규제법안‘을 9일 발의했다. 이 법안은 금지·고위험 인공지능 등의 범주를 정해 향후 사회적 규제를 할 인공지능을 규정한 것이 특징이다.

법안에는 금지된 인공지능은 원칙적으로 개발을 금지하고 이용자의 생체정보를 감지해 상호작용을 하거나 사진·음성·영상 등 실제와 구분하기 어려운 정보를 제공하는 경우 인공지능을 활용했다는 사실을 공시하도록 했다. 또 고위험 인공지능으로부터 이용자 보호를 위한 정부의 역할, 사업자의 책무, 이용자의 권리도 법안에 담았다. 아울러 3년마다 인공지능 기본계획을 인공지능위원회의 심의·의결을 거쳐 수립·시행, 금지된 인공지능 및 고위험 인공지능에 대한 확인제도 등도 포함했다.

안철수 국민의힘 의원. 뉴스1

법안에서 인공지능은 ‘학습, 지각, 판단, 자연언어의 이해 등 인간이 가진 지적 능력을 전자적 방법으로 구현하기 위한 소프트웨어’라고 정의했고, ‘알고리즘‘에 대해선 “문제의 해결, 업무의 수행 또는 장비·장치·기기 등의 운용을 위해 기술(記述)된 연산, 규칙과 절차, 명령 또는 논리의 집합으로 이루어진 체계”라고 명명했다.

또한 사람의 신체·정신적 피해를 유발하거나 그럴 가능성이 있는 방식으로 특정인의 생각과 행동을 왜곡하기 위해 잠재의식을 활용하는 인공지능이나 본래 데이터가 생성·수집된 상황과 관련이 없는 특정인이나 그 집단에 대해 해롭거나 불리한 처우를 초래하는 사회적 점수를 산정해 특정인이나 그 집단의 신뢰성을 평가 또는 분류할 목적으로 사용하는 인공지능, 법 집행을 위해 실시간 원격 생체인식을 활용하는 인공지능을 ‘금지 인공지능’으로 분류했다.

이 밖에도 고위험 인공지능으로 사람의 생명, 신체의 안전, 기본권의 보호에 중대한 영향을 미칠 우려가 있는 분야도 정했다. 그 분야는 에너지, 먹는물, 보건의료 체계, 의료기기, 원자력시설, 범죄수사나 체포업무와 관련된 생체정보, 채용·신용등급평가·대출심사 등 개인의 권리·의무 관계에 영향을 미치는 인공지능, 또 교통수단 관련, 공공기관이 운용하는 인공지능 등도 고위험 인공지능으로 분류해 엄격한 관리를 받도록 했다.

인공지능규제법안은 과학기술정보통신부 장관에게 3년마다 인공지능의 안전하고 합리적인 개발 및 이용을 위해 인공지능 기본계획을 인공지능위원회의 심의·의결을 거쳐 수립·시행하도록 했다. 기본계획에는 인공지능에 관한 정책의 기본 방향과 전략, 신뢰 기반 조성 등에 관한 사항이 포함된다.

안 의원은 “필요 최소한의 인공지능 규제 가이드라인을 법으로 규정해 두지 않으면, 재앙적 상황이 도래할 수 있음을 명심해야 한다”며 “타 유사 법안에 비해 본 법안은 인공지능의 책임을 강조하고 신뢰성 확보에 초점을 맞췄다”고 밝혔다. 이어 “인공지능이 엄청난 부가가치를 창출할 것은 자명하지만 동시에 위험성에 대한 우려도 커지고 있다”며 법안 발의 배경을 설명했다. 

조병욱 기자 [e-mail]