Seoul Gazette - 오픈AI의 수학 문제 해결, 학계에 던진 존재론적 질문

수학이 인간의 창의성과 논리적 직관만이 도달할 수 있는 신성한 영역이라는 오랜 신념이 균열을 겪고 있다. 오픈AI가 최근 수십 년간 전문가들이 매달려 왔던 377개의 수학 문제 해결책을 공개하면서, 과학에서 인간의 역할에 대한 인식이 근본적으로 재정의되고 있다.

오픈AI는 이미 2026년 5월, 헝가리 출신 수학자 파울 에르되시가 제안한 80년 된 조합론 가설을 반증하는 데 성공했다. 이어 같은 해 9월에는 천만 달러의 상금이 걸린 일곱 개의 밀레니엄 과제 중 하나의 해결책을 제시했다고 주장하며 학계를 더욱 혼란에 빠뜨렸다.

이러한 성과는 막대한 자원이 투입된 기술적 이정표로 평가되지만, 수학 공동체에게는 존재론적 위기로 다가왔다. 프라이부르크 대학의 순수 수학 박사후 연구원인 막시밀리안 슈테게마이어는 이 상황이 특히 기간제 계약으로 일하는 젊은 연구자들에게 치명적이라고 지적했다.

기존 학술계에서는 높은 논문 출판량이 경력 승진의 핵심 관문이었다. 그러나 AI가 초단시간에 결과를 생성할 수 있게 되면서 이 시스템이 무너지고 있다는 것이다. 슈테게마이어는 자신의 박사 학위 과정을 앞둔 지인들이, 직접 문제를 풀지 않고 채팅GPT에 입력한 다른 사람의 해결책을 그대로 받아쓰는 사례가 발생했다고 전했다.

수학계는 이제 쏟아져 나오는 AI 생성 결과물들을 처리하는 데 골머리를 앓고 있다. 슈테게마이어는 프린스턴에서 열리는 온라인 세미나에 참여하며 이러한 '프리프린트'를 검토하고 있지만, 현재 오픈AI의 결과물이 엄격한 수학 기준을 충족하지는 못한다고 평가했다.

그럼에도 불구하고 그 영향력은 막대하다. 인간이 단순히 질문을 입력하는 유일한 역할로 남게 된다면, 학계가 스스로의 지적 능력을 상실할 것이라는 우려가 제기된다.

기술에 대한 반응은 극명하게 갈린다. 일부 수학자들은 문헌 조사나 오류 수정을 위해 AI를 활용하며 효율성을 높이고 있지만, 다른 이들은 이를 거부한다. 저명한 수학자 피터 쇼르제는 최근 인터뷰에서 수학을 하나의 풍경에 비유했다. 밀레니엄 과제가 멀리 있는 산봉우리라면, AI는 헬리콥터를 타고 바로 정상으로 올라가려 하지만, 정작 산 뒤쪽에 더 편리한 길이 있을지 모른다는 것을 간과한다는 것이다.

쇼르제는 헬리콥터로 정상에 올라가 풍경만 위에서 내려다보는 방식을 거부한다. 반면, 테렌스 타오 수학자는 대규모 언어 모델이 증명 찾기에 기여할 수 있다고 주장하며 '수학 2.0' 시대의 도래를 환영한다.

이에 따라 피터 쇼르제를 포함한 천 명 이상의 수학자가 '인간 수학 협회(AHM)'를 설립했다. 회원들은 AI 기업과 협력하지 않고, AI로 텍스트를 생성하지 않겠다고 서약했다.

그러나 이 운동은 엘리트 대학과 오픈AI 간의 협력 구조가 초래하는 불평등 문제도 드러냈다. 일부 대학은 유료 모델에 무상으로 접근하는 대가로 연구 데이터를 제공하는데, 이는 자원 격차를 심화시킨다는 비판이다.

또한 수학 콘텐츠의 민주화가 동시에 가치 하락으로 이어지고 있다. 수학적 배경이 없는 연극 학생들도 정교한 프롬프트를 통해 수론 분야의 결과를 생성할 수 있게 되면서, 학술 플랫폼 아카이브(arXiv)는 제출을 일시적으로 제한해야 했다.

수학자들이 개인적으로 수학의 의미를 재고찰하기 시작했지만, AI가 인간의 지적 작업에서 우위를 점하는 사회에서 인간이 어떤 통제력을 유지할 수 있을지는 여전히 미궁에 빠져 있다.

F.Kang--SG