다시 한 번 집고 넘어가보자. Group G의 Subgroup H의 Left Coset을 아래와 같이 정의했다.

위 식을 가지고 Right Coset을 정의하면 아래와 같다.

Right Coset들도 역시 Congruence Relation을 이루는 Equivalence Class이다. Left Coset의 Equivalence Relation과 비교해보자.

Right Coset과 Left Coset은 일치하지 않을 수 있다. Cosets 관련 포스트에서 계속 예로 들어온 S₃ 과 Subgroup {1, xy} 에서의 Right Coset은 아래와 같다.

반면에 Left Coset은 아래와 같았다.

이렇게 Left와 Right Coset으로 나뉘어진 Partition은 다를 수 있으나.., 그런데 N이 Normal Subgroup일 경우엔 Left와 Right Coset이 서로 같게 된다.

여기서 Normal Subgroup이 뭐였는지에 대해 잠깐 복습해보자.

Definition. 다음 속성을 갖는 Group G의 Subgroup N을 Normal Subgroup이라고 부른다: 모든 a ∈ N와 모든 b ∈ G에 대하여 Conjugate bab^-1은 N의 엘리먼트이다. (여기서 Subgroup N이 꼭 Kernel일 필요는 없다)

다시 본론으로 돌아와서 Normal Subgroup으로 만들어진 Left와 Right Coset에 대해 살펴보자.

Proof. H가 Normal이라고 하자. 그러면 Normal의 정의에 의해 h ∈ H와 a ∈ G에 대하여

이게 된다. 제일 오른쪽 두 항이 서로 역이라서 소거되므로 둘은 같다.

H가 Normal Subgroup이기 때문에 (Normal의 정의에 의해) Conjugate 엘리먼트인 k = aha^-1 은 H의 엘리먼트이기도 하게된다. 따라서 엘리먼트 ah는 ah = ka 가 성립하고, 이 엘리먼트는 aH에도 속하고, Ha에도 속한다. 즉, aH ⊂ Ha 이며, aH ⊃ Ha 이므로 두 Coset들은 서로 같게 된다.

이번엔 반대로 H가 Normal이 아닌 경우를 생각해보자. 그러면 aha^-1 ∉ H인 엘리먼트 h ∈ H 와 a ∈ G 가 존재할 것이다. 그리고 ah는 Left Coset인 aH의 엘리먼트이지만 Right Coset인 Ha의 엘리먼트는 아니게 된다. 근데 만일에 ah가 Right Coset에도 포함된다고 생각해보자. ah = h'a for some h' ∈ H 이고, 그러면 aha^-1 = h' (aa^-1) ∈ H 이게 된다. 이러면 애초에 Normal이 아닌 조건, 즉 aha^-1 ∉ H 였으므로 모순이 된다. 따라서 Normal Subgroup이 아니면 Left Coset과 Right Coset이 같을 수가 없는 것이다.

한가지 더, aH와 Ha가 공통의 엘리먼트를 하나 갖고 있다고 하자. 그 엘리먼트는 분명히 a이다. 따라서 aH는 a말고 다른 Right Coset과 같은 것이 있을 수 없다. 이를 통해 Left Coset으로 나뉘어진 Partition과 Right Coset으로 나뉘어진 Partition이 같을 수가 없다는 것을 확인할 수 있다.

지난 내용에서 Group G의 Subgroup H의 Left Coset을 아래와 같이 정의했다.

여기서 어떤 Subgroup의 Left Coset의 개수를 Index of H in G라고 부르고 아래와 같이 표기한다.

예를 들어 Group G를 Symmetric Subgroup S₃이며 G = {1, x, x², y, xy, x²y} 라고 하고, x와 y가 아래와 같고,

Subgroup H = {1, xy} 일 때, [G : H] = 3 이다. 물론 G가 무한개의 엘리먼트를 가진다면 Index도 무한대가 된다.

Subgroup H에서 Coset aH으로의 관계는 Bijective 매핑: h ⇝ ah 이다. 따라서 아래 내용이 성립한다.

H의 Coset들의 합집합(Union)은 G가 되며, 각각의 Coset들은 서로 겹치지 않기 때문에 Counting Formula라고 불리는 아래와 같은 공식을 이끌어낼 수 있다.

즉, 위의 예에서 G의 Order는 H의 Order가 2이고, H의 Left Coset은 총 3개가 나오므로, 2 × 3 = 6 이 된다.

그리고 위의 공식에서 우변의 두 항 모두가 좌변을 나눌 수 있다는 사실은 굉장히 중요하다. 이 사실을 정리하면 아래와 같은 Lagrange's Theorem이 된다.

나눈 값은 [G : H]이다. 앞서 Cyclic Subgruop에서 어떤 엘리먼트 a ∈ G의 Order는 a에 의해 생성되는 Cyclic Subgroup의 Order라고 했다. 따라서 Lagrange's Theorem은 아래 내용을 내포한다.

그리고 이 사실을 바탕으로 아래의 내용을 도출한다.

a ≠ 1 이기 때문에 a의 Order는 1 보다 크다. 그리고 위의 정리에 의하여 a의 Order가 |G| = p 를 나눈다. p가 1 또는 자기 자신으로밖에 못 나누기 때문에 a의 Order는 p가 되고, a로 인해 생성되는 Cyclic Subgroup은 Order가 p이므로 이는 G와 같게 되는 것이다.

또한 Order가 소수 p인 Group G와 그 엘리먼트 a로 생성되는 Order가 역시 p인 Cyclic Subgroup은 서로 Isomorphic 한 관계가 된다.

Counting Formula는 Homomorphism 에서도 적용될 수 있다. φ:G ⟶ G' 을 Homomorphism 매핑이라고 하자. ker φ의 Left Coset은 φ의 Fibres 라고 했다(Congruence Relation & Coset). 이들 Fibres는 매핑된 Image와 Bijective한 관계를 갖는다. 따라서 아래 공식도 성립한다.

Group G의 Subgroup인 ker φ 의 Left Coset 개수는 φ 를 통해 사상된 Image의 엘리먼트 개수와 같다. 이를 Counting Formula에 대입하면 아래 내용을 얻을 수 있다.

위의 식은 아래와 같은 방식으로 유도된다.

| G | = | H | · [G : H] ... (1)
| G | = | ker φ | · [G : ker φ] ... (2)
| G | = | ker φ | · | im φ | ... (3)
그리고 두 식 (2)와 (3)을 합치면,
| G | = | ker φ | · | im φ |

즉, | ker φ |나 | im φ |나 모두 | G |를 나눈다. 그리고 im φ는 G'의 Subgroup이기 때문에 | im φ |는 G'도 나눌 수 있다.

앞서 Coset을 다음과 같이 정의했다.

aN = { g ∈ G | g = an for some n ∈ N}

즉, Group G에서 Homomorphism φ 와 Kernel N을 가질 때, 엘리먼트 a의 Coset은 aN들이다.

그런데 궂이 Homomorphism의 Kernel을 안쓰고도 Coset을 정의할 수도 있다. Group G의 Subgroup H의 Left Coset은 아래와 같다.

Left에 a가 위치함을 기억해두자. 즉, Kernel 집합 대신에 원래 Group의 Subgroup을 쓴 것이다. Kernel도 Group G의 Subgroup이라는 것을 떠올려보자.

그리고 위의 정의에 따르면 Subgroup H도 coset이다. 왜냐하면 H = 1H 이기 때문이다.

이렇게 만들어진 Coset들은 Congruence Relation을 이루는 Equivalence Class이다.

위와같이 Coset이 Subgroup H로 정의되었을 때, 왜 Congruence한 것들끼리 Equivalence Relation을 갖게 되는지 살펴보자.

우선 Equivalence Relation이 되는 조건에는 어떤 것들이 있었는지 기억을 더듬어보자.

1. Transitive: If a ~ b and b ~ c, then a ~ c
2. Symmetric: If a ~ b, then b ~ a
3. Reflexive: a ~ a for all a ∈ S

Subgroup의 특성을 떠올리면서 하나씩 살펴보자.

Transitivity: a ≡ b 이고, b ≡ c 라고 해보자. 이는 곧 b = ah, c = bh' for some h, h' ∈ H 이다. 두 식을 합치면, c = ahh' 가 된다. 근데 H는 Subgroup이기 때문에 두 h, h'를 Composition하면 hh' ∈ H 역시 H 이다. 따라서 a ≡ c 가 된다.

Symmetry: a ≡ b 라면 b = ah 가 된다. 양 변에 h^-1 씩 Composition 해 주면, a = bh^-1 이 된다. h^-1 ∈ H 이므로 b ≡ a 가 된다.

Reflexivity: a = a1 이고 1 ∈ H 이므로 a ≡ a 이다.

Equivalence Class들을 통해 Partition을 형성할 수 있다는 사실을 생각하면 아래 내용을 이끌어낼 수 있다.

Left Coset aH는 Group G의 특정 부분집합을 나타낸다. Equivalence Relation에서 서로 다른 표현(예를 들면, a ~ b에서 aN과 bN은 같은 Coset을 나타냄)이 결국은 같은 부분집합을 나타낼 수도 있다는 것을 생각해보면, aH는 a를 포함하는 유니크한 Coset이지만 역시 다른 표기법으로 나타낼 수 있다는 사실을 유추해낼 수 있다.

예를 들어 Group G를 Symmetric Subgroup S₃이며 G = {1, x, x², y, xy, x²y} 라고 해보자. x와 y는 아래와 같은 Permutation Matrix이다.

x는 한 칸씩 시프트(123이 231로)하는 Permutation이고, y는 3을 고정시키고 1과2를 바꾸는 Permutation이다. 여기서 엘리먼트 xy를 가지고 Cyclic Subgroup을 만들 수 있는데, (xy)(xy) = 1 이므로 H = {1, xy} 가 되어 Order 2를 갖는다. 그러면 Group G에서 Subgroup H의 Left Coset들은 아래와 같이 세 개가 나올 수 있다.

세 번째 식이 좀 헷갈리는데 계산해보면 yxy = x² 이 된다. 이 예에서도 보면 Left Coset들로 전체 Group이 Partition됨을 확인할 수 있다.