경우의 수 문제에서 답이 실제보다 크게 나오는 가장 흔한 이유는 서로 다른 선택처럼 보이는 과정을 여러 번 세기 때문이다. 학생은 각각의 배열을 빠짐없이 적었다고 생각하지만, 순서를 바꾸어 적은 두 경우가 사실 같은 결과인지 확인하지 않은 채 합산하는 경우가 많다. 제일고고1수학과외에서 이 문제를 다룰 때도 공식을 먼저 외우기보다 ‘내가 세고 있는 결과의 기준이 무엇인가’를 점검하는 데서 시작해야 한다.
같은 경우를 세고 있다는 신호
예를 들어 네 명 중 두 명을 뽑는 상황에서 민수와 지우를 뽑은 경우와 지우와 민수를 뽑은 경우를 따로 세었다면 중복이다. 두 사람을 선발하는 결과에서는 뽑힌 순서가 중요하지 않기 때문이다. 반대로 첫 번째 자리와 두 번째 자리에 누가 앉는지가 결과에 포함된다면 민수-지우와 지우-민수는 서로 다른 경우가 된다.
따라서 문제를 읽자마자 순열인지 조합인지 결정하기보다, 결과를 기록했을 때 순서를 바꾸면 새로운 결과가 되는지 확인해야 한다. ‘대표를 뽑는다’는 표현은 대체로 선택된 사람의 순서가 중요하지 않지만, ‘회장과 부회장을 정한다’는 표현은 역할이 다르므로 순서 또는 자리의 구분이 필요하다. 같은 두 사람을 뽑더라도 역할이 달라지면 다른 경우로 세어야 한다.
세기 전에 결과의 기준을 문장으로 정하기
중복을 줄이는 가장 효과적인 방법은 계산 전에 결과를 한 문장으로 정의하는 것이다. ‘학생 두 명의 순서 있는 배치’인지, ‘선택된 학생 두 명의 묶음’인지 적어 보면 기준이 분명해진다. 문제에 자리를 배치한다는 말이 있다면 자리별 배치를 세고, 단순히 위원 두 명을 고른다면 구성원 묶음을 세는 방식으로 접근한다.
이때 문제의 대상과 역할을 구분해야 한다. 다섯 명 중 두 명을 뽑아 한 명은 발표자, 한 명은 기록자로 정하는 경우에는 같은 두 명이라도 담당 역할이 바뀌면 다른 결과다. 반면 두 명을 함께 조별 활동에 참여시키는 경우라면 역할이 없으므로 순서를 바꿔도 같은 결과다. 학생이 자주 틀리는 지점은 숫자나 공식이 아니라 이 차이를 확인하지 않고 계산을 시작하는 데 있다.
직접 나열해 중복 여부 확인하기
경우의 수가 많지 않을 때는 직접 나열하는 것이 계산보다 안전할 수 있다. A, B, C 세 명 중 두 명을 고르는 문제라면 AB, AC, BC처럼 일정한 순서로 기록한다. BA를 별도로 적지 않는 이유는 이미 AB와 같은 선택이기 때문이다. 반대로 자리에 앉히는 문제라면 AB, BA를 모두 적어야 한다.
나열할 때는 첫 번째 대상을 고정하고 그다음 대상을 붙이는 방법이 좋다. 예를 들어 A로 시작하는 경우를 먼저 적고, 그다음 B로 시작하는 경우를 적으면 같은 묶음을 두 번 쓰는 실수가 줄어든다. 단순히 생각나는 순서대로 적으면 AB를 적은 뒤 나중에 BA를 다시 적을 가능성이 커진다. 목록의 작성 순서 자체가 중복을 막는 장치가 되는 셈이다.
순열과 조합을 구분하는 질문
공식 선택이 헷갈릴 때는 다음 질문 하나를 먼저 던져야 한다.
선택된 대상의 순서나 역할이 바뀌면 문제의 결과도 달라지는가?
달라진다면 순서를 구분하는 상황이므로 순열의 관점에서 세어야 한다. 달라지지 않는다면 같은 대상을 여러 순서로 적지 않도록 조합의 관점에서 접근한다. 여기서 중요한 것은 기호를 외우는 것이 아니라 문제의 결과가 무엇으로 결정되는지 판단하는 것이다. ‘배열’, ‘줄 세우기’, ‘자리 배정’은 순서가 결과에 포함되는 경우가 많고, ‘선발’, ‘선택’, ‘대표 구성’은 순서가 필요하지 않은 경우가 많다. 다만 단어만 보고 단정하지 말고 실제 역할과 조건을 확인해야 한다.
곱셈법칙을 사용할 때 생기는 중복
여러 단계를 곱해서 세는 문제에서도 중복이 나타난다. 첫 단계에서 사람을 고르고 두 번째 단계에서 다시 사람을 고르는 방식이라면, 두 단계가 서로 다른 역할인지 살펴야 한다. 회장 한 명과 부회장 한 명을 정하는 과정에서는 회장을 먼저 고른 뒤 부회장을 고르는 것이 자연스럽다. 하지만 단순히 두 명의 대표를 고르는 문제에서 첫 번째로 고른 사람과 두 번째로 고른 사람이라는 임시 순서를 부여하면 같은 조를 두 번 세게 된다.
이런 경우에는 두 사람을 순서 있게 센 뒤 같은 조가 몇 번 반복되는지 확인할 수 있다. 두 명을 고르는 상황에서는 한 조가 두 가지 순서로 나타나므로 그 반복을 제거해야 한다. 세 명을 뽑는다면 같은 구성원이 여러 순서로 기록될 수 있으므로, 계산 결과를 그대로 답으로 쓰기 전에 임시로 만든 순서가 실제 조건에 필요한지 다시 확인해야 한다.
조건을 나누어 셀 때의 주의점
경우를 나누는 과정에서도 같은 결과가 두 분류에 들어가면 중복이 생긴다. 예를 들어 ‘적어도 한 명이 특정 조건을 만족하는 경우’를 셀 때, 조건을 만족하는 사람이 한 명인 경우와 두 명인 경우로 나누면 겹치지 않는다. 그러나 ‘A를 포함하는 경우’와 ‘B를 포함하는 경우’처럼 나누면 A와 B를 모두 포함한 결과가 양쪽에 동시에 들어갈 수 있다.
경우를 나눌 때는 각 결과가 반드시 한 분류에만 들어가도록 기준을 정해야 한다. ‘정확히 한 명’, ‘정확히 두 명’처럼 수를 기준으로 나누거나, 가장 먼저 선택된 대상의 종류처럼 겹치지 않는 기준을 사용하면 안전하다. 분류한 뒤에는 각 경우를 합쳤을 때 빠진 결과와 겹친 결과가 없는지 확인한다.
풀이 후 검산하는 습관
답을 구한 뒤에는 공식이나 계산만 다시 보지 말고, 작은 수로 직접 확인해 보는 것이 좋다. 인원이 세 명이나 네 명처럼 적은 상황이라면 결과를 실제로 나열해 계산값과 비교할 수 있다. 직접 나열한 수보다 공식의 결과가 크다면 같은 대상을 여러 순서로 세었을 가능성이 있고, 작다면 일부 경우를 빠뜨렸을 가능성이 있다.
오답을 정리할 때도 ‘조합 공식을 잘못 사용함’이라고만 적으면 같은 실수가 반복된다. 대신 ‘역할이 없는 두 사람을 AB와 BA로 따로 세었다’, ‘분류 기준이 겹쳐 AB가 두 항목에 들어갔다’처럼 중복이 시작된 지점을 문장으로 남겨야 한다. 다음 문제를 풀 때는 계산 전에 결과의 기준과 분류 기준을 먼저 적어 보는 것이 좋다.
제일고고1수학과외에서는 경우의 수를 빠르게 계산하는 것보다 하나의 결과를 정확히 한 번만 세는 과정을 중요하게 다룰 필요가 있다. 문제를 읽고 순서가 필요한지 판단한 뒤, 작은 경우에는 직접 나열하고, 경우를 나눌 때는 서로 겹치지 않는 기준을 세우면 중복 실수가 눈에 띄게 줄어든다. 최종 답을 쓰기 전 ‘이 결과가 다른 순서로 다시 적히지는 않았는가?’라고 묻는 습관이 계산보다 먼저 자리 잡아야 한다.