[머신러닝 앤드류응] (Week3) 1. Classification and Representation (3) 결정 경계

앤드류 응 교수님의 코세라 머신러닝 강의를 요약하는 글입니다. Week3 의 상세 목차는 아래와 같습니다.

Week3 목차

1. Classification and Representation (분류와 설명?)
2. Logistic Regression Model (로지스틱 회귀 모델)
3. Multiclass Classification (다항 분류)
4. Solving the Problem of Overfitting (과적합 문제 해결)

 

이번 글은 Week3의 1강인 Classification and Representation (분류와 설명?) 요약입니다.

---

1. Classification and Representation

(1) Classification
(2) Hypothesis Representation
(3) Decision Boundary

 

(3) 결정경계

 

분류 기준을 $\theta^{T}x$ 로 잡고, 이 값보다 크다 작다로 판별하겠다는 것이다. 2차원평면을 예로 들면 어떤 경계함수를 정하고, 이 함수 경계 안과 밖으로 나눈다는 것이다.

 

지난시간에 시그모이드 함수를 적용한 가설함수는 아래와 같았다. 

 

$h_{\theta}(x)=\frac{1}{1+e^{-\theta^{T}x}}$

 

 $\theta^{T}x$ 가 0이면 가설함수값은 0.5가 되므로, 0.5를 기준으로 결정하는 것이 된다. 0보다 크다 작다가, 0.5보다 크다작다로 변한다. 

 

왜 굳이 sigmoid 함수를 적용하는 것인지는 아직 모르겠다. 그냥 가설함수를 $\theta^{T}x$로 잡고 0을 기준으로 해도 될듯한데, 뭔가 편한게 있으니 sigmoid를 씌웠겠지. 나중에 알게될 듯 하다 .

 

직선을 이용하면 아래와 같이 경계가 정해진다. 

 

 

원을 이용하여 경계를 정할 수도 있다. 

 

 

더 복잡한 비선형 경계도 가능하다.