[BigData] 회귀 (Regression)

회귀(regression) ?

주어진 입력의 특징으로부터 실수(연속형 변수)를 예측하는 행위

• 데이터 변수들 간에 함수관계를 파악하여 통계적 추론을 하는 기술
• 입력과 출력을 기반으로 함수를 추정하여, 예측 값과 실제값의 오차를 최소화하는 것이 회귀의 목표

 

회귀의 유형

• 단순 선형 회귀(Simple linear regression) : 가장 기본적인 단변량 모델로서, 독립변수가 하나인 회귀 모델
• 다중 선형 회귀(Multiple linear regression) : 다변량 모델로서, 독립변수가 둘 이상인 회귀 모델

 

MILib 의 회귀 모델

1. 선형 회귀(Linear Regression)
2. 일반화 선형 회귀(Generalized linear Regression)
   • 선형회귀분석에서 결과변수는 연속적이면서 정규분포를 따르지만, 현실 문제에서 그렇지 않은 문제도 존재
   • ex) 결과 변수 다분형 : 보수/진보/중도,   결과 변수가 횟수: 월간 범죄횟수, 일간 상담횟수
3. 의사결정트리(Decision Tree)
4. 랜덤 포레스트(Random Forest)
5. 그래디언트 부스티드 트리(Gradient Boosted Tree)