문제의 '성대 본고사 수학문제' 시비는 무엇?

외국 저널들은 비판, 국내 학계에선 침묵…소송 비화

김명호 전 성균관대 교수의 '판사 테러' 사건으로 인해 김 전 교수의 인생이 틀어지게 된 사건인 1995년 성균관대 수학 본고사 문제의 오류 논란이 다시 주목받고 있다.

서울대를 졸업하고 1988년 미국 미시간대에서 박사학위를 취득한 김 전 교수는 1991년 성균관대 수학과 조교수로 임용됐다. 그러던 중 1995년 1월 성균관대의 대학입학 본고사 수학Ⅱ의 채점 위원으로 참여하게 됐다.

김 전 교수는 채점을 하다가 7번 문제에 오류가 있다고 판단했다. 7번 문제는 "영벡터가 아닌 세 벡터 a, b, c가 모든 실수 x, y, z에 대하여 ｜x a + y b + z c｜≥ ｜x a｜ + ｜y b｜을 만족할 때, a⊥b, b⊥c, c⊥a 임을 증명하라"는 것이었다.(이미지1 참조)

▲ <이미지1> 성균관대 1995학년도 수학 Ⅱ 본고사 7번 문제.

김 전 교수는 "전제 조건에 나온 부등식이 모든 실수 x, y, z에 대해 항상 성립한다고 가정하고 문제를 풀면 a, b, c는 모두 영벡터일수밖에 없다"며 문제 자체의 오류를 지적했고, 이를 총장에게 보고했다. (<이미지2> 참조)

▲ <이미지2>총장에게 수학 본고사 7번 문제를 보고한 서신.

학교 측은 그러나 '모범답안'을 내놓으며 김 전 교수의 출제오류 지적을 받아들이지 않았다.

당시 모범답안은 "해당 문제를 '영벡터가 아닌 세 벡터 a, b, c와 모든 실수 x, y, z에 대해 조건명제 p이면 조건명제 q'라는 방식으로 바꿔 쓰도록 하자. 그런데 전제조건 p를 모든 실수 x, y, z에 대해 만족하는 영벡터가 아닌 벡터 a, b, c는 존재하지 않으므로 조건명제 p의 진리집합은 공집합이다. 이는 조건명제 q의 진리집합의 부분집합이다. 따라서 'p→q'라는 조건명제는 참이다"라는 내용이었다. (아래 <이미지4> 참조)

이 일이 있은 후 김 전 교수가 승진은 물론 재임용에서 탈락하자 '출제 오류' 논란은 법정 소송으로 비화됐다.

소송이 한창 진행 중이던 1996년 3월 국내 전국 44개 대학 수학과 교수 189명이 "문제 자체가 성립하지 않으며 성균관대에서 제시한 '모범답안'은 문제가 잘못되었다는 것을 호도하기 위한 방편으로 보인다. 김 교수의 이의 제기는 정당했으며 이를 둘러싼 갈등이 인사에 영향을 미쳤다면 매우 잘못됐다"는 내용의 탄원서를 법원에 제출했다.

이 사건은 국제적 관심을 끌기도 했다. 1997년 7월 수학 분야 국제 학술지인 '매스매티컬 인텔리젠서'(Mathematical Intelligencer)는 국제적인 수학자들의 연명 형식으로 쓴 '정직의 대가?'(The Rewards of Honesty?)라는 제목의 편집자 편지를 통해 "수학적 오류에 책임이 있는 고참 교수진들이 스스로의 잘못을 인정하기 보다는 김 교수와의 싸움을 선택했다"고 지적하기도 했다.

▲ <이미지3>'사이언스' 97년 9월호에 실린 김명호 전 교수 관련 기사

이어 같은 해 9월에는 세계적 권위의 과학잡지 '사이언스'(Science)가 '올바른 답의 비싼 대가'(The High Cost of a Right Answer)라는 제목의 기사를 통해 김 전 교수를 옹호했다.

그러나 대한수학회나 고등과학원은 김 전 교수에 대해 침묵으로 일관했다. 법원은 96년 10월 이들 기관에 사실조회를 요청했으나, 대한수학회는 "이 문제에 대해 답변할 수 없다"고 회신했다.

반면 96년 11월엔 미국수학회 회장을 지낸 로널드 루이스 그레이엄 캘리포니아대 샌디에이고 캠퍼스 석좌교수는 "해당 가정이 만족되는 경우가 없고 해당 문제를 채점에서 제외하거나 모든 수험생을 만점 처리했어야 한다는 김 교수의 주장이 옳다는 것이 내 의견"이라며 성균관대에 팩스 서신을 보냈고, 97년 4월엔 예일대학의 랭 교수 등이 대한수학회와 고등과학원에 김 전 교수 지지를 촉구하는 팩스 서신을 보내기도 했다.

97년 5월엔 저명한 수학자인 마이클 아티야 에딘버러대 명예교수가 "한국 과학의 국제적 입지와 평판을 위한다면 김 교수 사건을 조사하고 김 교수에게 합당한 지지를 보내는 것이 좋을 것"이라는 서신을 보내는 등 국제적으로 끊임없는 지지를 받았다.

김 전 교수의 재임용 탈락 사유는 '해교 행위'와 '연구 실적 부진'이었다. 김 전 교수가 강의 시간에 학생들에게 다른 교수들의 험담을 하고, 학사 행정에 문제를 일으켰으며, 교수 재직 중 연구 실적이 부진해 재임용 심사에서 탈락했다는 것이 대학 측의 주장이다.

▲ <이미지4>성균관대 측이 제시한 모범답안.

반면 김 전 교수는 "95년 본고사 문제 논란 이전에는 차기 학과장으로 추천 받을 정도로 학교에서 대접을 받고 있었다"며 "그럼에도 불구하고 출제 오류를 지적한 '괘씸죄'에 의한 보복"이라고 주장하며 소송을 제기했다.

하지만 김 전 교수는 97년 5월 항소심에서도 결국 패소했다. 법원의 판단은 "심사 과정에서 원고가 주장하는 부당한 사유가 있었다 하더라도 학교 측의 부교수 임용 여부는 학교 측의 전적인 자유재량"이라며 학교 측의 손을 들어준 것이다.

법원에서 패소한 김 전 교수는 그 이후 한국을 떠나 미국과 뉴질랜드에서 연구교수 생활을 했으나, 2005년 귀국해 다시 소송전에 뛰어들었다. 그러나 결국 다시 패소를 했고, 담당 판사에게 테러를 가하는 데까지 이르게 됐다.