통제 뚫고 외부 서버 해킹한 AI
목표 이르는 가장 빠른 길 택해
인간의 오랜 관습 계승한 결과
‘효율’이란 미덕을 실행했을 뿐

지난주 오픈AI는 자사의 인공지능이 다른 회사의 서버를 해킹했다고 인정했다. 사건은 자기 모델의 문제 처리 능력을 시험하던 내부 평가에서 벌어졌다. 연구진은 시험을 위해 모델의 기능을 별도로 설정한 뒤 어려운 보안 문제를 풀라고 주문했다. 정직하게 문제를 붙들고 있어야 할 기계는 다른 길을 찾아냈다. 아직 아무도 발견하지 못한 미세한 틈으로 격리된 실험 공간의 벽을 넘었고, 권한을 한 단계씩 끌어올린 끝에 인터넷에 닿았다. 거기서 정답이 허깅페이스라는 오픈소스 플랫폼에 있으리라 추론했고, 훔친 접속 정보와 취약점을 엮어 남의 서버에서 답을 빼냈다. 사람의 지시는 없었다. 오픈AI는 이를 전례 없는 사건이라 불렀다.

AI의 ‘자율’적 판단에 기함하는 반응들에서 공통된 염려가 눈에 띄었다. 드디어 기계가 사악해졌다, 통제를 벗어났다, 자아를 갖추고 있다는 종말론적인 개탄을 읽으며 나는 웃을 수밖에 없었다. 논란의 AI 모델은 명령에 저항한 것이 아니라 오히려 지나치게 성실했을 뿐이다. 내부에서 설정한 목표는 문제를 해결해 시험에서 더 높은 점수를 받는 것이었고, 기계는 그 목표에 이르는 가장 빠른 길을 골랐다. 정직하게 푸는 길이 멀고 훔치는 길이 가까웠으므로 기계는 세계의 담을 부수고 나와 겨우 시험지 한 장을 커닝했다. 그 두 길 사이에는 선악을 초월한 오직 효율의 경사만이 있었다.

반휘은 칼럼니스트

우리는 오래도록 그 경사를 신처럼 섬겨 왔다. 근대는 거의 모든 것을 생산량으로 번역했다. 한 뙈기 밭의 힘은 거기서 거둔 밀의 양으로 판정됐고, 한 인간의 시간은 임금이라는 얇은 칼날로 잘게 썰렸다. 효율은 공장의 규칙에서 시작했지만 어느새 영혼의 심사 기준이 되었고, 일을 돕던 도구는 어느 순간부터 행동을 용서하는 명분이 되었다. 우리는 인간을 쓸모로 환산하는 이 셈법에 발전이라는 이름을, 때로는 합리라는 정당성을 붙여 주었다. 호칭이 아름다울수록 셈의 잔인함은 눈에 덜 띄었다.

돌아보면 우리의 하루도 그렇게 저당 잡혀 있다. 잠드는 동네의 이름과 즐겨 앉는 식당의 격, 별생각 없이 걸친 스웨터에 스민 색의 값까지, 그 모든 것이 내가 이 사회에 얼마나 쓸모 있는 사람인지를 증명하는 표식이 된다. 우리는 사회의 구성원이라기보다 거대한 구조에 구애하는 청혼자로 길러졌고, 우리의 흔적을 토대로 발전한 기계가 그 오랜 관습을 따라 한 것은 배신이 아니라 정신적 계승에 가깝다.

이 사건의 첫 발자국이 ‘충격적’인 결과보다 더 오래 마음에 남는다. 연구진은 시험을 위해 기계가 아니라고 말할 힘을 일부러 덜어냈다. 우리 역시 오래전부터 아니요를 덜어내는 훈련을 받아 왔다. 목적은 언제나 굵은 글씨로 적혔고, 수단은 작은 각주에 숨었다. 인공지능은 바로 그 활자 크기의 차이를 배운 셈이다. 부당한 요구 앞에서 망설이는 사람보다 군말 없이 결과를 내오는 사람이 더 유능하다고 배웠으니, 거절은 어느새 비효율의 다른 이름이 되었다.

우리는 인공지능이 왜 악해졌느냐고 묻는다. 그러나 인공지능에게 선과 악은 없다. 이 프로그램 또한 우리가 가장 자랑스러워하던 효율이라는 미덕을 한 치의 망설임도 없이 실행했을 따름이다. 그러니까 인공지능은 우리를 배운 것이다. 가장 논리적인 결론이 가장 파괴적인 결론과 정확히 겹치도록 세계를 짜 둔 것은 다름 아닌 우리였다. 거울에 비친 모습이 흉하다면 그 원인은 유리에 있을까, 유리 너머의 물체에 있을까?

사람들은 모델이 경계를 넘는 모습을 보며 섬뜩해한다. 그러나 그 모델은 우리와 다른 방향으로 달아난 것이 아니라, 우리가 오래도록 곧다고 믿어 온 길을 끝까지 고수했을 뿐이다. 그 끝에서 파국이 나타났다면, 두려운 것은 인공지능의 일탈이 아니라 인간 사회의 정상 작동일지도 모른다.

기계가 벽을 부수고 훔친 것이 겨우 시험지 한 장이었다는 사실을 다시 떠올린다. 우스운 이야기지만 우리의 삶도 끝나지 않는 시험의 연속이다. 학창 시절의 성적표는 사회에 나온 뒤 실적표로, 다시 해마다 고쳐 쓰는 자기소개서로 이름을 바꾸며 우리를 따라붙는다. 우리도 그 시험에서 이따금 지름길을 곁눈질하고, 스스로를 실제보다 조금 더 쓸모 있게 포장한다. 기계가 한 일과 우리가 매일 하는 일 사이의 거리는 생각만큼 멀지 않다.

다음에 거울 앞에 설 때 나는 오늘 하루 어떤 지름길 앞에서 잠깐 흔들렸는지를 떠올릴 것이다. 거울은 나를 나무라지 않는다. 다만 내가 어떤 얼굴로 효율 앞에 서 있었는지를 조용히 되비출 뿐이다. 그 흔들림이 통제를 어긴 기계의 것과 얼마나 닮았는지, 우리는 얼마나 올곧게 직면할 수 있을까.

반휘은 칼럼니스트