챗GPT 개발사인 오픈AI가 자사 인공지능(AI)기술로 80년간 이어져 온 기하학 분야 추측을 반증하는 데 성공했다. 오픈AI는 이번 성과가 수학과 AI 커뮤니티에 중요한 이정표라고 강조했다.

오픈AI. 로이터연합뉴스

헝가리 출신의 유명 수학자 폴 에르되시(1913∼1996)는 1946년에 ‘평면 단위 거리 문제’로 흔히 불리는 미해결 문제를 수학계에 제시했다. 이는 평면 위에 n개의 점을 찍을 때, 단위거리만큼 떨어져 있는 점들의 쌍을 최대 몇 개(ν(n)) 만들 수 있느냐를 묻는 것으로, ‘이산 기하학’(discrete geometry)분야에서 중요한 미해결 문제로 꼽혀왔다.

예를 들어 n=9인 경우, 점들을 일렬로만 늘어놓으면 1㎝ 간격인 점들의 쌍이 8쌍만 나오지만, 9개의 점을 정사각형 단위의 3×3 격자로 놓으면 최대 12쌍을 만들 수 있다. 

에르되시는 양의 정수 n이 충분히 커질 경우 ν(n)이 n의 1차함수보다 아주 약간만 더 빠르게 증가할 것이며, 각 점들을 정사각형 단위의 격자 형태로 배치하는 것이 최적의 해답일 것이라고 추측했다. 후배 수학자들은 이 추측을 증명하든지 반증하든지 둘 중 하나를 해내려고 노력해왔으나 80년간 성공하지 못하고 있었다.

이는 에르되시가 생전에 제시한 것으로 알려진 1217건의 문제의 해결 상황을 데이터베이스로 추적하는 ‘에르되시 문제’ 홈페이지에서도 10대 중요 난제 중 하나로 꼽혔다.

그러나 이달 7일께 오픈AI 소속 수학자들인 메탑 사우니와 마크 셀키가 대규모 언어 모델(LLM)에 이 추측이 맞는지 질문을 던지면서, 에르되시가 냈던 추측이 틀렸다는 결론을 내렸다. 회사의 설명에 따르면 AI는 2차원 평면 격자가 아니라 고차원의 복잡한대칭 격자를 구성한 뒤, 이를 2차원 평면으로 투사하는 방식으로 반증에 성공한 것으로 전해졌다.

오픈AI는 소속 수학자와 외부 전문가에게 검증을 맡겨 AI가 내놓은 풀이가 올바르다는 사실을 확인했다. 이후 회사는 인간 수학자들에게 AI가 내놓은 풀이를 정리하고 설명하는 작업을 맡겨, 참고문헌 목록을 포함해 총 18쪽의 논문으로 깔끔하게 정리한 후 홈페이지에 공개했다. 이 논문에는 AI에 입력한 20여줄 분량의 프롬프트와 AI가 출력한 원래 형태의 풀이도 실려 있다. 

이번 성과는 수학 문제 해결 전용 모델이 아닌 범용 추론 모델로 이뤄졌다고 오픈AI는 설명했다. 오픈AI는 엑스(X)를 통해 “수학의 특정 분야에 중심적 위치를 차지하는 주요 미해결 문제가 AI에 의해 자율적으로 해결된 첫 사례”라고 강조했다.

학계 전문가들은 이번 성과가 수학 최고 권위 학술지에 게재될 만한 수준이라며 찬사를 보내고 있다. 필즈 메달 수상자인 티머시 가워스 케임브리지대 교수는 “AI가 그냥 미해결 수학 문제를 푼 것이 아니라, 매우 잘 알려진 미해결 수학 문제를 해결한 매우 명확한 첫 사례”라고 평가했다.

에르되시 문제 사이트를 운영하는 맨체스터대 소속 토머스 블룸 영국왕립학회 대학 연구펠로우는 “AI가 생성한 최초 증명은 완전히 유효했지만, 오픈AI의 인간 연구자들과 본 논문에 참여한 수많은 다른 수학자들에 의해 크게 개선된 것”이라고 설명했다.

이병훈 기자 [e-mail]