Logistic Regression은 왜 linear classification 인가?

머신러닝을 공부하다 보면 logistic regression이 왜 linear classfier라는 생각이 든다.

왜냐면 logistic regression은 아래 그림과 같이 sigmoid함수의 형태이기 때문이다.

source : https://www.javatpoint.com/logistic-regression-in-machine-learning

그러나 머신러닝에서 Logistic Regression은 linear classfier로 말한다.

 

그 이유는 classification 모델에서는 hyperplane(즉, decision boundary를 결정하는 평면)의 formula가 선형형태냐 아니냐에 따라 linear method인지 아닌지로 구분되기 때문이다.

 

logistic regression의 hyperlane fomula 유도식

아래 참고 사이트에서 가져온 식이다.

간단한 개념으로 설명하자면 이진분류 문제에서

분류 결정은 오즈비가 1보다 크냐에 따라 0,1인지 결정된다.

여기에 log를 씌워 계산하다보면 aX+b > 0 라는 식이 도출되게 되고, 결국 해당 fomula가 선형식이기 때문에 logistic regression이 선형이라는 소리..!!  

 

 

참조

https://homes.cs.washington.edu/~marcotcr/blog/linear-classifiers/

Is Logistic Regression a linear classifier?