[Machine Learning] 비지도 학습, Principal Components Analysis

지도 학습

• Y(output)가 존재 : dependent variable, response, target, label
• X(input)가 존재 : independent variable, predictor, feature
• Regression(회귀) 문제에서는 Y는 연속 값 : 제품 판매량, 야구선수의 연봉 등
• Classification(분류) 문제에서는 Y는 단속적인 값 : spam/email, 붓꽃 종류 등
• N개의 training data로 학습
• 기본사항
  • 본적이 없는(학습에 사용하지 않았던) test data의 output을 정확히 예측(prediction)
  • 어떤 input이 output에 어떻게 영향을 미쳤는지 이해하고 분석(inference)
  • 모델을 평가해보고 반복과정을 거쳐 성능을 향상시킴

---

비지도 학습

• Y(output)가 존재하지 않음
• X(input)만 존재
• 머신러닝의 목표가 지도학습에 비해 불명확함 : 차원 축소, 군집화(clustering)
• 학습의 결과에 대해 평가하기 어려움
• 지도학습의 전처리(pre-processing) 과정으로서 유용함

 

비지도 학습의 목표 

:  데이터(observation, measurement)에서 흥미로운 패턴을 찾는 것

• 데이터가 가진 정보를 잘 표현하도록 시각화(visualization)
• 데이터에서 subgroup을 식별
• 데이터의 차원을 축소

 

대표적인 비지도 학습 방법

• 주성분 분석(PCA: Principal Components Analysis)
  • 데이터 시각화 또는 지도학습을 위한 데이터 전처리(차원 축소) 방법
• 군집화(clustering) 
  • 데이터에서 알려지지 않은 subgroup을 밝혀내는 다양한 방법

 

비지도 학습의 활용

• 지도학습의 예측처럼 목표가 단순하고 명확하지 않고 주관적임 => but) 다양한 분야에서 그 중요성이 매우 커지고 있음
• Label이 없는 데이터를 수집하는 것이 더 쉽고 labeling에 많은 비용이 소요됨 => 비지도학습의 중요성 확대
• 비지도학습 자체가 데이터를 이해하는데 도움이되어 탐색적 데이터분석(EDA:Exploratory Data Analysis)에 활용

 

Principal Components Analysis(PCA)

• 데이터의 저차원(low-dimensional) 표현(representation)을 만들어내는 방법
  • 원래 feature의 linear combination(선형결합)을 찾아냄
  • 찾아낸 combination은 최대의 분산(variance, 변동량)을 가진 것부터 순서대로 나열되며 서로 상관관계가 없음(uncorrelated)
• PCA의 두가지 목적
  • 데이터 시각화를 위한 도구
  • 지도학습을 위한 새로운 feature의 생성