[Machine Learning] 클러스터링 (Clustering)

클러스터링 (Clustering)

• 서브그룹(subgroup)이나 클러스터(cluster)로 불리는 비슷한 특성을 가진 그룹을 찾는 일반적인 방법
• 서로 비슷한(가까운) 데이터들이 같은 그룹(클러스터)에 포함되도록 학습
  • 데이터가 비슷하다 또는 다르다 라는 기준과 개념을 명확히 해야함
  • 이 기준은 애플리케이션과 데이터에 따라 달라짐
•  Market segmetation 예제
  • 데이터 : 많은 사람에 대한 가계소득, 직업, 최근거리 도시 등의 정보
  • 목표 :  특정한 광고형태 또는 특정상품의 구매에 더 민감한 고객 그룹을 식별해내는 것
• 클러스터링 방법
  • K-means clustering : 클러스터의 중심(centroid)을 기준으로 계산하여, 데이터에서 미리 정해진 수만큼의 클러스터를 찾는 방법
  • Hierarchical clustering : 가장 가까운 두 클러스터를 묶어가며(merge) 계층을 형성하여 미리 정하지 않은 수 만큼의 클러스터를 찾는 방법

 

K-means clustering

• K-means clustering에서 좋은 클러스터링이란, within-cluster variation이 가능한한 작은 것을 의미
  • =>  같은 클러스터 내의 각각의 데이터가 얼마나 다른지(떨어져 있는지) 측정값이 작을 수록 좋다.
• K n제곱 개의 경우의 수를 모두 시도할 수 없어, local optimum을 구하는 간단한 알고리즘 사용
  • => 단, 첫 단계에서 데이터를 임의로(random) 할당하므로 매번 결과가 달라질 수 있음

 

K-means clustering 과정

1. 클러스터링 수행 전 데이터
2. 데이터를 3개의 클러스터에 임의로 할당
3. 클래스 중심(class centroid) 계산(큰 원 모양)클러스터가 임의로 할당되어 중심이 겹침
4. 각 데이터를 가장 가까운 클래스 중심에 할당
5. 3번의 과정 반복
6. 이 과정을 10번 반복한 후의 결과

K-means clustering

 

 

Hierarchical clustering 

• K-means clustering은 미리 클러스터의 수 K를 정하고 클러스터링 수행
  • => 클러스터의 수를 미리 알 수 없으므로 알고리즘의 단점이 됨
• Hierarchical clustering은 미리 클러스터의 수를 정하지 않음
• Hierarchical clustering 중 일반적으로 bottom-up 또는 agglomerative(병합, 합치는) 타입의 클러스터링 방법이 많이 쓰임
  • 잎(leaf)으로부터 몸통(trunk)까지 클러스터를 합쳐 나가며 역트리(dendrogram)를 생성
  • 생성된 dendrogram을 잘라서 원하는 클러스터 수를 정함

 

Hierarchical clustering 과정

1. 각 데이터 하나씩을 하나의 클러스터로 지정
2. 가장 가까운(closest) 두 클러스터를 식별 후 병합
3. 2번 과정을 반복
4. 모든 데이터가 하나의 클러스터 포함되면 종료

Hierarchical clustering