국내 AI 신뢰성 선두주자 박지환 씽크포비엘 대표

AI發 사고에 책임 소재 시비 늘어
“어떤 위험을 인지하고 AI에 권한을 줬는지
왜 이 AI를 쓰기로 했는지 답할 수 있어야”
“AI 생성물 그대로 전달하면 배달부 그쳐…
지적 게으름 경계하는 AI 플루언시 필요”
“과거 ‘IT 10만 양병설’ 과오 반복 말고
제대로 시간 들여 신뢰성 전문가 키워야”

박지환 씽크포비엘(ThinkforBL) 대표는 국내에서 인공지능(AI) 신뢰성(Trustworthy)을 사업으로 일궈온 거의 유일한 인물이다. 검증 기업을 세워 운영하는 데 그치지 않고, 국내에 없던 AI 신뢰성 해커톤과 민간 자격 제도까지 직접 만들어 전문가를 길러내고 있다.

사진=AP연합뉴스

지난달 29일 서울 강남구 씽크포비엘 본사에서 만난 그는 한 시간이 넘는 인터뷰 내내 막힘이 없었다. 말끝마다 그 분야를 오래 파고든 전문가만이 가질 수 있는 확신이 묻어났다. 책임·신뢰·감독 등 좀처럼 손에 잡히지 않는 개념도 쉬운 비유로 단숨에 풀어냈다.

이야기는 신뢰성에 머물지 않았다. AI가 일자리와 업무 방식을 바꾸는 현장부터 시민 개개인이 가져야 할 자세, 아이들의 교육까지 업계 전반으로 뻗어 나갔다. 박 대표의 시선은 한국 AI 산업 전체의 성장과 사회의 ‘AI 성숙도’를 향해 있었다. ‘더 나은 세상을 고민한다’는 회사 이름은 빈말이 아니었다.

다음은 박 대표와의 일문일답.

―AI가 사고를 내는 일이 늘고 있지만 책임 소재를 가리는 건 점점 어려워지고 있다. 사고가 나면 누가 책임져야 하나.

“사고가 난 뒤 누가 배상하느냐만 따지는 건 너무 늦은 책임입니다. 저는 책임을 ‘사전에 허용한 책임’으로 다시 정의해야 한다고 봐요. 이 AI를 왜 쓰기로 했는지, 어떤 위험을 알고도 허용했는지, 어디까지 자동으로 판단하게 했는지, 어떤 상황에서 반드시 멈추도록 설계했는지, 문제가 생기면 누가 설명할 수 있는지. 이 질문들에 답할 수 있어야 비로소 책임이 성립합니다.”

―요즘 ‘AI가 그렇게 판단했다’는 말을 자주 듣는다.

“지금 가장 위험한 말이 그겁니다. 설명처럼 들리지만 사실은 책임 회피예요. AI는 법적·사회적 책임의 주체가 아닙니다. 결국 책임은 그 AI를 기획하고 배포하고 운영하기로 결정한 사람과 조직에게 돌아갑니다. AI가 스스로 행동한 것처럼 보여도, 그 행동의 공간을 열어준 건 사람이거든요.”

―과거에도 AI 오류는 있었다. 지금이 특별히 위험한 이유는.

“예전엔 AI가 답을 제안하고 사람이 판단했어요. 그런데 이제 AI가 직접 결제하고, 차를 움직이고, 금융 거래를 실행합니다. 오류가 곧 행동이 되는 거죠. 사고가 나는 순간에 사람이 개입할 시간도, 정보도, 권한도 없다면 ‘인간 감독’은 통제 장치가 아니라 사후에 책임을 떠넘기는 장치가 됩니다. 그래서 책임은 선언이 아니라 구조여야 합니다.”

―한국 기업이 지금 갖춰야 할 건 뭔가.

“저는 그걸 ‘AI 책임 인프라’라고 부릅니다. 인증서를 받거나 윤리 원칙을 붙이는 게 아니에요. AI를 조직 안에서 누가 승인하고, 누가 감시하고, 누가 멈추고, 누가 설명할지를 정해 둔 운영 보증 체계죠. 앞으로 신뢰받는 기업은 AI를 잘 만드는 기업이 아니라, 왜 그 AI를 써도 되는지 설명할 수 있는 기업일 겁니다.”

박지환 씽크포비엘 대표가 지난달 29일 서울 강남구 씽크포비엘 본사에서 한국의 인공지능(AI) 신뢰성 수준과 한국 AI 정책이 나아가야 할 방향에 대해 설명하고 있다. 유희태 기자

―말씀하신 ‘신뢰성’이 정확히 뭔가.

“제가 새로 만든 정의가 아니에요. 국제 표준 정의로 말씀드릴게요. AI가 법을 지키고, 윤리를 지키고, 안전하게 동작하는지를 우리가 보증하는 겁니다. 그런데 영어로 가면 좀 달라져요. 표준은 단 한 번도 ‘트러스트(trust)’라는 단어를 쓴 적이 없어요. ‘트러스트워시(trustworthy)’라고만 했습니다.

―둘이 어떻게 다른가.

“트러스트, 신뢰는 개인의 감정적 선택이에요. 우리 어머니를 믿는 건 무슨 특별한 조건을 설계해서가 아라 그냥 감정적으로 믿는 거잖아요. 세상에 믿을 사람이 어머니밖에 없으니까. 그런데 트러스트워시, 신뢰성은 그게 아니라 객관적 조건입니다. 이 사회가 그 AI를 써도 될지 말지를 객관적으로 따지는 거죠.”

―그 객관적 조건이란.

“세 가지를 봅니다. 어떻게 만들어졌나, 어떻게 관리되고 있나, 그리고 문제가 터지면 누가 어떤 절차로 책임질 수 있나. 이 세 가지를 갖춘 거버넌스가 있기 때문에 우리가 AI를 쓰는 겁니다. AI 자체를 믿어서 쓰는 게 아니에요. 그 AI가 올바르게 관리되는 틀이 있으니까 쓰는 거죠. 아까 말한 ‘책임 인프라’도 결국 이 신뢰성을 떠받치는 한 축입니다.”

―AI가 추천하고 사람이 최종 판단하면 안전한 것 아닌가.

“저는 그게 가장 위험하다고 봅니다. 사람을 한 명 끼워 넣었다는 사실만으로 안심하는 순간, 감독은 형식이 돼버려요. 여기서 꼭 구분해야 할 게 있는데, 인간 ‘개입’과 인간 ‘감독’은 다릅니다. 감독은 개입을 말하는 게 아니에요.”

―어떻게 다른가.

“집사로 설명해 볼게요. 집에 집사가 왔어요. 만원까지는 알아서 사도 된다, 이게 자율권이에요. 만원 넘으면 나한테 물어봐, 임계점이죠. 그런데 한 달에 50만원 넘어가면 무조건 멈춰, 중단점입니다. 그리고 월말엔 가계부 내놔, 내가 다 들여다볼 거야. 이게 사후 감사예요. 이 네 가지가 설계돼 있어야 비로소 감독입니다.”

AI 신뢰성 전문가 박지환 씽크포비엘 대표가 지난달 29일 인터뷰에서 강조한 'AI 책임 인프라'를 4개 계층(승인·감시·중단·설명)의 구조로 형상화한 이미지. 결제·운전·거래 같은 AI 직접 행동이 각 계층을 거쳐야 하는 운영 체계를 보여준다. AI가 생성

―단순히 사람이 고르게만 하면 안 되나.

“‘짜장면 먹을래 짬뽕 먹을래’ 하면, 내가 골라 놓고 내가 골랐다고 착각하잖아요. 탕수육은 알려주지도 않았는데. AI가 선택지를 미리 좁혀 놓으면 사람은 그 안에서 하나를 고르고도 스스로 판단했다고 믿어요. 이게 인간의 자동화 편향입니다. 미국 국립표준기술연구소(NIST) 기준에도 ‘AI의 편향보다 더 무서운 게 사람과 조직의 편향’이라는 말이 있어요. 왜 이 선택이 타당한지, 어떤 위험과 빠진 대안이 있는지를 같이 보여줘야 판단이라고 부를 수 있습니다.”

―요즘 생성형 AI가 보고서도 쓰고 기획안까지 짜준다. 직장에서 AI를 많이 쓰면 그만큼 생산성이 오르나.

“AI를 쓰는 건 좋습니다. 그런데 그 결과를 내가 직접 설명하고 책임질 수 없다면, 그건 생산성이 아니라 책임 회피예요. 빨리, 많이 썼느냐가 아니라 그 결과를 책임질 수 있느냐가 핵심입니다.”

―사내에서도 변화를 체감하나.

“예전엔 직원이 보고서를 대충 쓰면 한두 줄만 읽어도 티가 났어요. 그런데 이제는 AI가 그럴듯하게 포장해 주니 끝까지 다 읽어야 문제를 잡습니다. 보고서는 길고 장황해졌는데, 정작 어떻게 썼느냐고 물으면 설명을 못 하는 경우가 늘었어요.”

―그럼 사람의 역할은 뭐가 되나.

“AI가 쓴 결과를 그대로 전달하고, 질문이 오면 다시 AI에 넣어 답을 찾는 식이면, 사람은 결국 우편배달부 역할을 한 거 아니겠어요. 내용은 AI가 만들고, 사람은 그걸 왔다 갔다 나르기만 하는 거죠.”

AI 신뢰성 전문가 박지환 씽크포비엘 대표는 AI 출력을 그대로 전달하는 것만으로는 인간의 사고 역할을 포기하는 것이라며, AI 리터러시를 넘어 실제 이해와 검증 능력인 'AI 플루언시'의 필요성을 강조한다. AI가 생성

―그래서 회사에서 뭘 바꿨나.

“지난달부터 사내에 ‘휴먼 AI’ 캠페인을 열고 업무 보고 방식을 바꿨어요. 업무에 AI를 써도 되지만 어느 부분에 AI를 썼는지, 그 부분에 작성자가 직접 참여했는지를 표시하게 했습니다. AI 사용 여부를 감시하려는 게 아니라, AI가 내놓은 결과를 사람이 주체적으로 이해하고 자기 판단으로 받아들였는지 확인하려는 거예요.”

―보통 사람이 일상에서 가져야 할 태도는.

“딱 하나만 꼽으면, AI를 사고 보조 도구로 써야지 사고 대체 도구로 쓰면 안 된다는 겁니다. 자료를 정리하게 하고 빠진 논리를 점검하게 하는 건 사고 보조예요. 반대로 이해하지도 못한 답을 그대로 내 이름으로 내보내는 건 사고 대체죠. AI를 잘 쓰는 사람과 AI에 끌려다니는 사람의 차이가 여기서 갈립니다.”

―‘AI를 믿지 말라’고도 하셨던데.

“AI를 쓰지 말라는 게 아니라 믿는 방식을 바꾸라는 겁니다. 의사가 하는 말도 우리는 다 안 믿잖아요. 중요한 일이면 다시 확인하고요. 그런데 왜 AI가 말하면 갑자기 그대로 믿기 시작하죠? 그게 AI가 똑똑해서일까요, 아니면 그냥 검증하기 귀찮아서일까요. 저는 그걸 지적 게으름이라고 봐요. 몸이 아니라 생각이 게으른 겁니다.”

―그럼 어떻게 검증해야 하나.

“AI 두 개에 같은 걸 물었는데 답이 다르면 어떻게 할 거예요? 그러면 둘 중 하나는 의심하잖아요. 그런데 하나만 썼다고 그 의무가 면제되는 게 아닙니다. 하나를 쓰든 셋을 쓰든, 결국 어느 답을 택할지는 내 선택이고, 그 선택을 책임지고 설명할 수 있어야 해요.”

―가족이나 직원에게 실제로 권하는 게 있나.

“AI가 준 답을 보고 ‘내가 이걸 설명할 수 있나’를 먼저 따져 보라고 합니다. 설명 못 하면 아직 내 판단이 아니에요. 특히 의료·금융·교육·법률처럼 삶에 큰 영향을 주는 문제일수록 그렇습니다. 몰핀도 의사가 쓰면 약이지만 아무나 쓰면 마약이거든요. 그래서 유엔아동기금(유니세프)도 아이는 AI의 ‘사용자’가 아니라 ‘보호자가 필요한 대상’이라고 봅니다. 아이에게 유튜브를 무제한으로 풀어 준다고 올바른 인격이 자라지 않는 것과 같아요.

―IBM 기업가치연구소(IBV) 조사에선 경영진의 87%가 ‘AI가 직원을 대체하기보다 역량을 강화할 것’이라고 봤다. AI 시대 인재의 격차는 어디서 갈리나.

“문서를 빨리 써서 그대로 전달하는 사람보다, AI가 내놓은 결과의 타당성을 검토하고 책임지고 선택하는 사람이 중요해집니다. 그래서 단순히 AI를 써봤다는 ‘AI 리터러시’를 넘어, 그 결과에 책임지고 실제 업무에 성숙하게 녹여내는 ‘AI 플루언시’로 가야 해요.”

AI 신뢰성 전문가 박지환 씽크포비엘 대표가 한국의 AI 신뢰성 수준이 국제 기준보다 5년 뒤처져 있으며, 하드웨어는 1~2년이면 따라잡을 수 있지만 인력 양성은 3~5년이 필요하다고 진단한 인터뷰 내용을 형상화한 이미지. AI가 생성

―한국의 AI 신뢰성 수준은 어디쯤 와 있나.

“국제 기준보다 5년쯤 늦었다고 봅니다. 지금부터 인력을 길러도 5년은 걸리니까요. 다른 나라는 우리가 건강 체크리스트 만드는 동안 의사를 키웠어요. 하드웨어는 돈을 주면 1∼2년에 살 수 있지만, 사람은 그렇게 안 됩니다. 교육 체계, 교재, 실습, 현장 경험이 쌓여야 하고 그것만 최소 3∼5년이에요.”

―늦었으면 더 서둘러야 하나.

“과감하게 하되, 6개월짜리 이상한 걸 만들면 안 됩니다. 조급함에 단기 교육과 형식적 자격만 늘리면 격차는 오히려 벌어져요. 옛날에 ‘정보기술(IT) 인재 10만 양병설’이라는 게 있었죠. 학원에서 6개월 배우면 엔지니어가 된다고 믿었던. 기술자를 노가다로 본 그 인식이 신뢰성에서 되풀이될까 봐 저는 그게 더 무섭습니다.”

―5년 뒤 한국 AI는 어디에 있어야 하나.

“저는 한국이 ‘AI를 세상에서 가장 잘 쓰는 나라’가 됐으면 좋겠어요. 많이가 아니라 제대로요. 앞서 말한 플루언시로 사회 전체가 올라서는 겁니다. 세계에서 가장 큰 AI를 가진 나라가 아니라, AI를 가장 품격 있게 쓰는 나라. 저는 그게 우리가 택할 수 있는 가장 현실적이면서도 품격 있는 길이라고 생각합니다.”

‘이동 중’은 핑계고, 기자가 직접 체험한 모든 것을 씁니다.

이동수·김나인 기자