2017학년도 대학수학능력시험이 100일도 채 남지 않았다. 이 맘 때쯤이면 많은 수험생들이 이런 생각을 할 것이다. ‘조선시대에 태어났으면 수학 공부 안 해도 됐을 텐데….’ 하지만 놀랍게도 조선시대에도 지금 못지않은 어려운 수학 공부를 했다.

■ 조선시대의 ‘수학의 정석’은?

조선시대 과거시험은 크게 문과, 무과, 잡과로 나눠져 있었다. 문과는 주요 행정직을, 무과는 군인을, 잡과는 기술관을 선발하는 시험이다. 문과와 무과는 양반이, 잡과는 주로 중인이 지원했다. 문과와 무과에서는 산학(지금의 수학) 시험을 보진 않았지만 잡과를 응시하는 사람들은 무조건 산학 시험을 봐야 했다.

‘수학의 정석’처럼 입시를 위해 주로 보는 교재도 있었다. 과거 시험에서 출제되는 대다수의 문제는 중국에서 건너온 산학서를 기본으로 했다. 그 중 가장 많이 봤던 교재는 상명산법, 양휘산법, 산학계몽, 이렇게 세 가지다. 세 가지 책은 다루고 있는 내용과 난이도 면에서 차이가 있다. 가장 대중적으로 배우던 책은 상명산법이다. 상명산법은 중국 명나라 수학자 안지제가 1373년 제작한 산학서로 곱셈이나 나눗셈 등 가장 기본적인 수학 개념이 서술돼 있다. 세금을 관리해야 했던 조선시대 호조 산원들이 배워야 했던 필수 과목이었다.

양휘산법과 산학계몽은 이보다는 조금 더 어려운 계산법이 포함돼 있다. 특히 산학계몽은 고차 방정식이 나와 있을 정도로 고급 수학이었다. 이 책에서 사용한 방정식 풀이법은 ‘천원술’로, 얇은 나뭇가지를 이용하는 방법이다. 방정식의 각 항을 세로로 배열하고 숫자를 나뭇가지로 표현한 뒤 현재 고등학교 과정 인수분해 단원에서 나오는 조립제법의 원리로 해를 구한다. 연필로 기록하는 형태가 아니라 나뭇가지를 옮겨서 계산하는 방식이기 때문에 숫자를 여러 번 쓰지 않아도 된다는 장점도 있다.

■ 세종대왕, 새로운 조선의 달력을 만들라 지시하다

조선시대 수학이 가장 많이 발전한 건 세종대왕 시절이었다. 김영욱 고려대 수학과 교수는 “산학이 크게 발전했던 세종 때엔 10차 방정식까지 풀었다는 기록이 있다”고 말했다. 실제 조선왕조실록엔 세종이 ‘산학은 국가의 긴요한 사무이므로, 산학을 예습하게 하려면 그 방책이 어디에 있는지 의논하여 아뢰라’고 말했다는 기록도 있다(세종 25년 11월 17일). 실록에 기록될 정도로 세종이 산학을 강조한 이유는 ‘새로운 역법’을 만들기 위해서였다. 역법은 해와 달, 별의 주기적인 움직임을 관찰해 달력을 만드는 방법이다. 대부분의 백성이 농업이나 어업으로 생계를 유지해야 했던 시절이었기 때문에 역법은 백성들의 삶과 직결되는 중요한 학문이었다.

세종 초기까지는 중국에서 만든 역법을 이용해 절기를 계산했다. 세종 초기에 사용한 역법은 원나라 세조 때의 역법인 수시력법이다. 하지만 원나라와 조선은 해와 달이 뜨는 시간, 지는 시간, 별의 위치 변화 등 모든 천문학적 수치들이 달랐기 때문에 수시력법을 그대로 적용하기엔 오차가 너무 컸다. 이에 세종은 처음으로 조선의 달력을 만들라고 지시했다.

문제는 조선에 맞는 역법을 만들기 위해서는 복잡한 수학 계산이 필요하다는 점이었다. 역을 정할 때 가장 중요한 값은 태양년의 길이(세실)로, 중국은 두 번의 동지시각을 측정해 1년의 길이를 구했다. 조선 역시 동지점을 기준으로 1년의 길이를 정했는데, 이를 위해서는 정확하게 동지시각을 구하는 것이 무엇보다 중요하다. 여기엔 생각보다 복잡한 방정식이 필요하다. 동지는 일 년 중 가장 밤이 길고, 가장 그림자가 긴 날이다. 그림자가 가장 길다는 점, 동지를 기준으로 그림자의 길이가 대칭을 이루는 점을 이용해 정확한 동지시각을 정한다. 예컨대 동짓날에 가까워졌다고 생각하는 어느 날 특정 막대의 그림자 길이를 잰다. 그리고 그림자의 길이가 길어졌다가 다시 짧아져 갈 때, 하루 차이를 두고 그림자 길이를 잰다. 이 세 개의 그림자 길이와 날짜의 차이를 비례식으로 계산해 동지시각을 정한다.

■ 산학은 중인만 배우는 학문이었다?

당시 조선엔 이런 어려운 계산을 할 수 있는 사람이 없었다. 세종은 중국에서 산학서를 구입한 뒤 집현전 학자들에게 공부하도록 했다. 하지만 중국에서 들여온 산학서들은 문제와 답만 기록돼 있고, 해설이 없어 이해하기가 어려웠다. 더구나 당시 조선은 명나라의 지배를 받고 있었고, 달력을 스스로 만든다는 것은 이를 거부한다는 뜻으로 해석될 여지가 있었기 때문에 역법을 배워올 수도 없는 상황이었다. 당시 산학자들은 중국 책을 독학해 어려운 계산을 해결했다.

이때부터 여러 산학자들의 노력으로 조선의 산학서들이 하나 둘 편찬되기 시작했다. 대표적인 책이 1660년 즈음에 집필된 ‘묵사집산법’이다. 묵사집산법은 조선 중기의 산학자 경선징이 만든 책으로, 산학계몽을 기반으로 하고 있다. 묵사집산법은 문제와 답만 적혀있는 산학계몽과는 다르게 자세한 풀이가 포함돼 있고, 한 문제 당 기본적으로 두 개의 풀이법이 소개돼 있다. 산학을 공부하려는 사람들이 좀 더 편하게 공부할 수 있도록 재편된 책이다. 반면 박율이 편찬한 산학원본은 양휘산법이나 산학계몽 중 어려운 개념만 골라서 만든 책이다.

다만 의아한 점은 산학원본을 집필한 박율이 조선 후기의 문신이라는 점이다. 산학은 잡과에서만 시험을 본다고 하지 않았는가. 김영욱 교수는 “과거에서 산학이 시험 과목으로 지정된 건 잡과뿐이었지만, 당시 양반들도 교양서처럼 산학서들을 읽곤 했다”고 말했다. 조선왕조실록에도 ‘육학을 설치하고 양가의 자제들로 하여금 익히게 했으니, 1은 병학, 2는 율학, 3은 자학, 4는 역학, 5는 의학, 6은 산학이었다’라는 기록이 있다(태조 2년, 10월 27일). 양가의 자제들, 즉 양반들에게도 산학은 기본적으로 익혀야 하는 학문이었던 것이다.

더구나 문인은 호조를 이끄는 호조판서가 될 수도 있기 때문에, 산학을 두루 익혀야 했다. 호조판서는 오늘날의 기획재정부 장관이다. 김 교수는 “조선시대에는 호조를 이끌기 위해선 아래 관원들보다 산학을 잘해야 한다는 사상이 박혀있었기 때문에 열심히 공부할 수밖에 없었다”고 말했다. ‘구수략’이라는 산학서를 집필한 최석정은 영의정을 8번이나 한 대표 문인이다. 이처럼 중인이나 양반이나 관직에 나아가고자 하는 이들에게 산학은 필수 과목이었던 것이다.

글 : 최지원 과학칼럼니스트

*본 콘텐츠의 저작권은 한국과학기술정보연구원(KISTI)에 있습니다.