순열과 조합 문제에서 가장 먼저 해야 할 일은 공식을 고르는 것이 아닙니다. 문제에 등장한 대상의 순서를 구분해야 하는지, 단순히 몇 개를 선택하는지만 확인해야 합니다. 순열과 조합 중 무엇을 사용할지 판단하지 못하는 학생은 공식을 몰라서라기보다 문제의 상황을 수학적 구조로 바꾸는 과정에서 막히는 경우가 많습니다.
순서를 바꾸었을 때 다른 경우가 되는가
가장 기본적인 판단 기준은 순서입니다. 사람 세 명 중 두 명을 뽑아 대표와 부대표를 정한다면 같은 두 사람을 뽑더라도 누가 대표이고 누가 부대표인지에 따라 결과가 달라집니다. A가 대표이고 B가 부대표인 경우와 B가 대표이고 A가 부대표인 경우는 서로 다른 결과입니다. 이처럼 자리를 정하거나 등수를 정하거나 역할을 배정하는 상황에서는 순서를 고려해야 하므로 순열의 구조로 접근합니다.
반대로 사람 세 명 중 두 명을 뽑아 아무 역할 없이 한 조를 만드는 경우에는 A와 B를 고른 것과 B와 A를 고른 것이 같은 조입니다. 선택된 대상만 중요하고 나열된 순서가 결과에 영향을 주지 않으므로 조합을 사용합니다. 문제에 ‘배열’, ‘자리 배치’, ‘순위’, ‘대표와 부대표’, ‘회장과 총무’ 같은 표현이 있으면 순서를 고려할 가능성이 높고, ‘선발’, ‘선택’, ‘조 편성’, ‘위원 구성’처럼 구성원만 중요하면 조합인지 먼저 살펴볼 수 있습니다.
단어보다 결과의 의미를 확인해야 하는 이유
표현만 보고 판단하면 실수가 생깁니다. ‘학생을 뽑는다’는 말이 있어도 뽑은 뒤 회장, 부회장, 서기를 정한다면 역할에 따라 순서가 생깁니다. 반대로 ‘세 명을 배열한다’고 표현되어도 실제로는 세 명을 한 팀으로 정하는 과정이라면 배열된 순서가 결과에 포함되지 않을 수 있습니다.
따라서 문제를 읽은 뒤에는 다음과 같이 결과를 직접 적어 보는 것이 좋습니다. 두 사람을 고르는 상황이라면 AB와 BA를 각각 다른 경우로 세어야 하는지 확인합니다. 두 결과가 다르면 순열, 같으면 조합의 방향으로 판단합니다. 이 짧은 확인만으로 공식부터 대입하다가 중복해서 세거나 빠뜨리는 오류를 크게 줄일 수 있습니다.
순열을 선택해야 하는 상황
순열은 정해진 대상 중 일부 또는 전부를 순서 있게 배치하는 상황에서 사용합니다. 네 명 중 세 명을 뽑아 일렬로 세우는 문제에서는 첫 번째 자리, 두 번째 자리, 세 번째 자리가 구분됩니다. 첫 자리에 누가 서는지가 결과에 영향을 주므로 뽑힌 세 명이 같아도 배열 순서가 다르면 다른 경우입니다.
좌석에 앉히는 문제도 자리의 위치가 구분되므로 순서를 고려합니다. 비밀번호를 만들거나 숫자를 나열하는 경우에도 각 위치가 다르면 순열의 관점이 필요합니다. 다만 숫자나 문자를 사용하는 문제에서는 중복 허용 여부, 첫 자리 제한, 특정 숫자 포함 여부 같은 조건을 별도로 확인해야 합니다. 순열이라는 판단이 끝났다고 바로 계산하지 말고, 각 자리에서 선택 가능한 대상이 달라지는지 확인해야 합니다.
조합을 선택해야 하는 상황
조합은 순서와 관계없이 대상을 선택하는 경우에 해당합니다. 다섯 명 중 두 명을 뽑아 봉사활동 팀을 만드는 문제라면 두 사람의 이름이 팀에 포함되는지가 중요할 뿐, 이름을 적은 순서는 중요하지 않습니다. 같은 구성원을 다른 순서로 적었다고 새로운 팀이 생기는 것은 아니므로 한 경우를 여러 번 세지 않도록 주의해야 합니다.
위원을 선출하거나 경기 출전 선수를 정하거나 여러 물건 중 일부를 고르는 문제에서도 선택된 대상만 결과로 인정되는지 확인합니다. 단, 조합으로 먼저 뽑은 뒤 회장이나 발표자를 정하는 경우에는 선택 단계와 역할 배정 단계를 나누어 생각해야 합니다. 이때 전체 상황이 단순한 조합 하나로 끝나는 것이 아니라, 구성원을 선택하는 과정과 순서를 정하는 과정을 연결해서 세어야 할 수 있습니다.
조건이 붙으면 먼저 경우를 나누기
고1 수학의 경우의 수 문제는 순열과 조합 중 하나를 고르는 것에서 끝나지 않습니다. 특정 학생이 반드시 포함되어야 하거나, 두 사람이 함께 뽑힐 수 없거나, 특정 자리에 앉을 수 없는 조건이 추가되면 전체 경우를 그대로 계산하기보다 조건을 먼저 처리해야 합니다.
예를 들어 네 명 중 두 명을 선발하는데 특정 학생이 반드시 포함되어야 한다면 그 학생을 고정한 뒤 나머지 한 명을 선택하는 방식으로 바꿀 수 있습니다. 반대로 두 사람이 함께 선발되면 안 되는 경우에는 전체 선택에서 두 사람이 동시에 포함된 경우를 빼는 방법을 생각할 수 있습니다. 자리를 정하는 문제에서 특정 사람이 양 끝에만 앉을 수 있다면 가능한 자리를 먼저 정하고 남은 자리의 배치를 계산하는 식으로 진행합니다.
조건이 여러 개라면 한 번에 공식에 넣으려고 하지 말고, 결과를 겹치지 않게 나누었는지 확인해야 합니다. ‘A가 포함된 경우와 포함되지 않은 경우’처럼 나누었을 때 두 경우가 겹치지 않고 전체 상황을 빠짐없이 포함하는지 살펴보는 것이 중요합니다.
학생이 자주 하는 판단 오류
첫 번째 오류는 문제에 ‘고른다’는 말이 나오면 무조건 조합을 사용하는 것입니다. 고른 뒤 순위를 정하거나 자리에 배치한다면 순서가 생길 수 있습니다. 두 번째 오류는 순열을 사용해야 하는 문제에서 같은 대상을 여러 순서로 세는 것입니다. 결과를 말로 설명했을 때 AB와 BA가 같은 결과인지 확인하지 않으면 이런 실수가 반복됩니다.
세 번째 오류는 조건을 계산 마지막에 억지로 반영하는 것입니다. 특정 대상이 반드시 들어가야 한다면 처음부터 고정하는 것이 더 간단하고, 함께 들어갈 수 없는 대상이 있다면 경우를 나누거나 여사건을 활용해야 합니다. 풀이가 지나치게 길어졌다면 공식이 틀렸다기보다 문제의 조건을 처리하는 순서가 비효율적인지 점검해 볼 필요가 있습니다.
문제를 풀 때 남겨야 할 판단 과정
연수동고1수학과외에서 경우의 수를 지도할 때는 정답보다 첫 줄의 근거를 중요하게 확인합니다. 학생은 계산 전에 ‘순서를 고려하므로 순열’, ‘선택된 구성원만 중요하므로 조합’처럼 판단 이유를 한 문장으로 적어 봅니다. 그다음 전체 대상, 선택하는 수, 역할이나 자리의 구분, 중복 가능 여부를 표시합니다.
오답을 고칠 때도 답만 다시 계산하지 않습니다. 먼저 AB와 BA를 서로 다른 경우로 처리했는지, 조건에 맞지 않는 경우를 포함했는지, 반대로 필요한 경우를 빠뜨렸는지 확인합니다. 계산은 맞았지만 순열과 조합을 선택한 이유를 설명하지 못했다면 비슷한 문제의 표현을 바꾸어 다시 풀어 보는 것이 좋습니다.
문제 연습은 순열 문제와 조합 문제를 단원별로 따로 풀기보다 두 유형을 섞어 판단하는 방식이 효과적입니다. 같은 ‘두 명을 뽑는’ 상황이라도 대표를 정하는지, 팀을 만드는지에 따라 풀이가 달라집니다. 연수동고1수학과외에서는 이러한 차이를 식보다 먼저 말로 설명하게 하여, 공식 암기가 아니라 결과의 의미를 파악하는 습관을 만들 수 있습니다.
순열과 조합을 구분하는 핵심은 공식의 모양이 아니라 순서가 결과를 바꾸는지에 있습니다. 문제에서 무엇을 구하는지, 선택 후 역할이나 자리가 생기는지, 같은 대상을 다른 순서로 적었을 때 새로운 경우인지 차례로 확인하면 처음 식을 세우는 과정이 안정됩니다. 최종적으로는 계산 결과뿐 아니라 어떤 경우를 하나로 보았고 어떤 조건을 어떻게 반영했는지 풀이에 드러나도록 작성해야 합니다.