경우의 수 문제에서 답이 자꾸 달라지는 학생은 계산을 못해서가 아니라, 무엇을 하나의 경우로 볼 것인지 기준이 분명하지 않은 경우가 많습니다. 문제를 읽고 가능한 상황을 세기 시작하지만 어떤 경우를 이미 포함했는지 기억하지 못하거나, 같은 상황을 다른 순서로 다시 세기도 합니다. 반대로 조건을 너무 좁게 해석해 실제로 가능한 경우를 빠뜨리는 일도 생깁니다.
고1 수학의 경우의 수는 단순히 숫자를 더하거나 곱하는 단원이 아닙니다. 주어진 상황을 일정한 기준으로 나누고, 각각의 경우가 겹치지 않으며 전체 상황을 빠짐없이 포함하는지 확인해야 합니다. 따라서 문제를 보자마자 순열이나 조합 공식을 찾기보다 먼저 “무엇을 기준으로 경우를 나눌 것인가”를 결정하는 과정이 필요합니다.
먼저 무엇을 세는지 문장으로 바꾸기
경우의 수 문제를 풀 때 가장 먼저 할 일은 구하려는 대상을 정확히 적는 것입니다. 사람을 뽑는 것인지, 자리를 배치하는 것인지, 숫자를 만드는 것인지, 경로를 선택하는 것인지에 따라 같은 대상이라도 세는 방법이 달라집니다.
예를 들어 학생 세 명 중 두 명을 선택하는 문제라면 선택된 사람들의 모임을 세는 것입니다. 이때 순서는 중요하지 않습니다. 하지만 세 명을 첫째 자리와 둘째 자리에 배치한다면 누가 어느 자리에 있는지가 달라지므로 순서를 구분해야 합니다. 문제에서 “선발”, “선택”, “구성”이라고 표현하는지, “배열”, “배치”, “자리”라고 표현하는지 확인하면 첫 기준을 세우는 데 도움이 됩니다.
풀이를 시작하기 전에 “서로 다른 결과는 무엇인가?”를 한 문장으로 적어 보세요. 이 문장이 불분명한 상태에서 공식을 적용하면 계산은 진행되어도 무엇을 세고 있는지 확인하기 어렵습니다.
순서를 고려할지 먼저 판단하기
경우의 수에서 가장 흔한 오류는 순서를 고려해야 하는 상황과 고려하지 않아야 하는 상황을 혼동하는 것입니다. A와 B를 뽑는 결과와 B와 A를 뽑는 결과가 같은지 다른지를 직접 비교해 보면 판단이 쉬워집니다.
대표를 두 명 뽑는 상황에서는 두 사람의 역할이 같다면 순서를 구분하지 않습니다. 반면 회장과 부회장을 정한다면 A가 회장이고 B가 부회장인 경우와 B가 회장이고 A가 부회장인 경우는 서로 다릅니다. 문제의 명칭보다 실제 역할이 같은지 다른지를 확인해야 합니다.
연습할 때는 공식을 외우기 전에 작은 수로 직접 나열해 보세요. 세 명 중 두 명을 순서 있게 고르는 경우라면 AB와 BA를 따로 적고, 순서 없이 고르는 경우라면 AB와 BA를 하나로 묶습니다. 이 과정을 통해 순열과 조합의 차이를 계산 결과가 아니라 결과의 의미로 이해할 수 있습니다.
경우를 나눌 때 기준을 하나로 정하기
조건이 여러 개 있는 문제에서는 아무 기준으로 나누기보다 가장 먼저 확인할 수 있는 조건을 정하는 것이 좋습니다. 특정 사람이 포함되는지, 첫 번째 자리에 어떤 숫자가 오는지, 남녀가 어떻게 배치되는지처럼 각 경우를 명확하게 구분할 수 있는 기준을 선택합니다.
예를 들어 어떤 사람의 포함 여부로 나눈다면 “포함되는 경우”와 “포함되지 않는 경우” 두 가지로만 나눕니다. 포함되는 경우 안에서 다시 다른 조건을 적용할 수 있지만, 처음부터 여러 기준을 섞으면 같은 결과가 두 묶음에 들어가거나 어느 묶음에도 들어가지 않을 수 있습니다.
좋은 경우 나누기는 세 가지 조건을 만족합니다. 모든 가능한 결과가 적어도 한 곳에 들어가야 하고, 하나의 결과가 두 곳에 동시에 들어가면 안 되며, 각 묶음의 계산 방법이 분명해야 합니다. 풀이를 마친 뒤에는 “이 기준으로 나눈 모든 경우를 합치면 원래 문제의 전체 상황이 되는가?”를 확인해야 합니다.
빠뜨림을 막는 표와 목록 활용
가능한 경우가 많지 않다면 머릿속으로 처리하지 말고 표나 목록을 사용하세요. 두 조건을 동시에 확인해야 한다면 행과 열에 각각 하나의 조건을 배치하면 누락 여부를 확인하기 쉽습니다. 예를 들어 첫 번째 자리에 올 수 있는 숫자와 두 번째 자리에 올 수 있는 숫자를 표로 정리하면 같은 숫자를 반복했는지, 조건에 맞지 않는 조합을 포함했는지 바로 확인할 수 있습니다.
자리 배치 문제에서는 먼저 첫 자리를 정하고 그다음 자리를 정하는 식으로 순서를 고정합니다. 숫자를 만드는 문제라면 0이 앞에 올 수 있는지, 같은 숫자를 반복할 수 있는지부터 표시합니다. 조건을 작은 메모로 적어 두면 계산 중에 문제의 제한을 잊어버리는 일이 줄어듭니다.
목록을 작성할 때는 일정한 순서를 지켜야 합니다. 첫 번째 대상을 A로 고정한 뒤 나머지를 바꾸고, 다음에는 첫 번째 대상을 B로 바꾸는 방식입니다. 무작위로 나열하면 이미 센 경우를 다시 적거나 특정 묶음을 건너뛰기 쉽습니다.
더하기와 곱하기를 선택하는 기준
경우를 나누어 각각 계산한 뒤 합치는 상황은 더하기를 사용합니다. 반면 한 결과를 만들기 위해 첫 번째 선택과 두 번째 선택을 차례로 해야 한다면 곱하기를 사용합니다. 중요한 것은 계산 기호가 아니라 상황의 구조입니다.
“A인 경우 또는 B인 경우”처럼 서로 다른 경우를 합치는 구조라면 더합니다. “첫 번째 단계에서 하나를 고르고, 이어서 두 번째 단계에서 하나를 고른다”처럼 선택이 연속되는 구조라면 곱합니다. 다만 더하기를 사용하려면 두 경우가 겹치지 않아야 합니다. 겹치는 부분이 있다면 중복된 결과를 다시 빼거나, 처음부터 겹치지 않도록 기준을 바꾸어야 합니다.
신방동고1수학과외에서 경우의 수를 지도할 때도 답만 확인하기보다 학생이 어떤 기준으로 더하고 곱했는지를 먼저 살펴보는 것이 중요합니다. 같은 답을 얻었더라도 기준이 불분명하면 조건이 조금만 바뀌었을 때 다시 오류가 생길 수 있습니다.
공식을 사용한 뒤 결과를 검산하기
순열이나 조합 공식을 사용했다면 계산이 끝난 것으로 생각하지 말고 결과의 의미를 확인해야 합니다. 선택 대상보다 경우의 수가 지나치게 큰지, 조건을 하나 추가했는데 오히려 경우의 수가 늘어나지는 않았는지 살펴보세요. 조건이 추가되면 가능한 결과는 같거나 줄어들어야 하므로, 값이 커졌다면 계산이나 해석을 다시 확인해야 합니다.
작은 숫자로 바꾸어 직접 나열하는 검산도 효과적입니다. 원래 숫자가 너무 커서 목록을 만들기 어렵다면 대상의 수를 줄여 같은 구조의 문제를 만들어 보세요. 공식을 적용한 결과와 직접 센 결과가 일치하는지 확인하면 순서를 잘못 판단했는지, 중복을 포함했는지 알 수 있습니다.
오답을 누락과 중복으로 구분하기
틀린 문제를 단순히 “경우의 수를 못 풀었다”고 기록하지 마세요. 먼저 빠뜨린 경우가 있는지, 같은 경우를 두 번 센 것이 있는지 구분해야 합니다. 누락이라면 경우를 나누는 기준이 불완전했을 가능성이 크고, 중복이라면 순서를 구분하는 방식이나 묶음의 경계가 불명확했을 가능성이 큽니다.
오답 노트에는 정답만 적기보다 자신이 세었던 목록이나 나눈 기준을 남기는 것이 좋습니다. 이후 해설을 보더라도 풀이를 그대로 옮기지 말고, 해설이 어떤 기준으로 전체 경우를 나누었는지 표시한 뒤 책을 덮고 자신의 말로 다시 정리해 보세요. 며칠 뒤 조건을 하나 바꾼 문제를 풀어 보면 기준을 실제로 이해했는지도 확인할 수 있습니다.
경우의 수에서 빠짐없이 세는 능력은 어려운 공식을 많이 아는 데서 생기지 않습니다. 무엇을 하나의 결과로 볼지 정하고, 겹치지 않는 기준으로 나누며, 전체가 빠짐없이 포함되었는지 확인하는 습관에서 시작됩니다. 신방동고1수학과외에서도 학생이 계산 전에 기준을 말하고 표나 목록으로 확인하도록 연습하면 조건이 달라진 문제에서도 안정적으로 풀이를 시작할 수 있습니다.