세계일보

검색

[뉴스 투데이] 인류 생존 위협하는 AI… '킬 스위치'로 통제한다

입력 : 2017-01-13 18:41:51 수정 : 2017-01-13 20:25:48

인쇄 메일 글씨 크기 선택 가장 작은 크기 글자 한 단계 작은 크기 글자 기본 크기 글자 한 단계 큰 크기 글자 가장 큰 크기 글자

로봇 기술, 인간 명령 벗어날 우려 / EU ‘즉각 제어 시스템’ 도입 검토 / 설계시 작동정지 버튼 포함 의무화
‘인간은 어떠한 물리적·심리적 피해 없이 로봇을 사용할 수 있어야 한다.’

인공지능(AI)이 일상 생활에서 확산하는 가운데 인류 생존을 위협할 수 있는 AI에 대처할 방안 모색이 시급하다는 지적이 나오고 있다. 세계경제포럼(WEF)은 AI와 로봇공학 기술이 인간의 통제를 벗어날 위험이 있다고 우려했고, 유럽연합(EU)은 필요 시 로봇 기능을 멈출 수 있는 ‘킬 스위치’(kill switch)가 절실하다는 데 의견을 모았다. 구글은 이미 지난해 AI를 위한 킬 스위치를 개발하고 있다고 밝혔다.

12일(현지시간) 파이낸셜타임스에 따르면 WEF는 연례 글로벌 리스크보고서에서 “AI의 의사결정 방식을 완전히 이해하지 못한 채 전적으로 의존하는 것은 위험하다”고 경고했다. 특히 군사용 로봇 개발 경쟁이 확산하는 상황에서 “‘초지능’(superintelligence)이 인류 생존을 위협할 수 있다”고 우려했다. 마이크로소프트(MS)의 창업자 빌 게이츠도 지난해 “AI는 우리가 잘 통제한다면 긍정적이지만 수십년이 더 지나면 우려하기에 충분할 만큼 강해질 것”이라고 동조했다. 당시 MS의 ‘챗봇’이 온라인에서 배운 내용을 바탕으로 인종차별적 메시지를 보내면서 ‘머신 러닝’의 위험성도 부각됐다.

AI와 로봇을 통제하려는 움직임은 차츰 구체화하고 있다. 영국 BBC방송은 “EU 의회가 ‘로봇설계 시 비상상황에서 작동을 멈출 수 있는 스위치를 포함해야 한다’는 권고를 포함한 결의안을 채택했다”고 보도했다. 결의안은 킬 스위치 외에도 로봇이 설계한 대로 작동하지 않으면 다시 프로그램할 수 있도록 해야 한다고 지적했다. 로봇 설계·생산·운영에서 아이작 아시모프가 소설 ‘런어라운드’(Runaround)에서 밝힌 ‘로봇 3원칙’을 따라야 한다는 주장도 담겼다. EU 의회는 구체적으로 ‘로봇은 인간을 다치게 해선 안 되며, 인간이 다치도록 방치해도 안 된다’(법칙1), ‘법칙 1에 위배되지 않는 한, 로봇은 인간의 명령에 복종해야 한다’(법칙2), ‘법칙 1·2에 위배되지 않는 한 로봇은 스스로 보호해야 한다’(법칙3)고 규정했다. EU 의회는 정교한 로봇의 지위를 ‘전자 인간’으로 정해 통제할 필요가 있다고 강조했다. 이를 위해 EU 안에 AI 및 로봇의 기술과 윤리성 등에 대한 전문기구 신설도 제안했다. EU는 다음달 이 결의안에 대한 본회의 투표를 실시한다.

한편, 비즈니스 소셜미디어 링크트인의 창업자 레이드 호프먼과 전자상거래업체 이베이의 피에르 오미댜르가 AI로부터 사회를 보호하자는 취지의 펀드에 총 2000만달러(약 240억원)를 기부했다고 가디언이 소개했다.

정재영 기자 sisleyj@segye.com

[ⓒ 세계일보 & Segye.com, 무단전재 및 재배포 금지]

오피니언

포토

리센느 메이 '반가운 손인사'
  • 리센느 메이 '반가운 손인사'
  • 아일릿 이로하 '매력적인 미소'
  • 아일릿 민주 '귀여운 토끼상'
  • 임수향 '시크한 매력'