Naive Bayes

Naive Bayes

기계학습에서 지도학습(supervised learning) 알고리즘

• 분류(classification)의 목적으로 사용
• 베이즈 정리를 적용한 확률적 분류기법

 

베이즈 정리(Bayes theorem)

두 확률변수의 사전확률과 사후확률 사이의 관계를 설명하는 수학적 정리

• 사전확률

가정 : 어떤 사건에 대한 원인과 결과 발생

-> 원인이 있을 때 결과가 발생할 확률

• 사후 확률

가정 : 결과발생

-> 결과가 발생했다는 조건에서 원인이 발생했을 확률

 

사후 확률 계산시 발생하는 문제 해결 기법

라플라스 스무딩

조건부확률이 0이 되어 정상적으로 분류되지 않는 경우를 방지하기 위해, 확률 값 보정시 사용되는 기법

로그 변환

underflow 현상을 해결하기 위해 조건부확률 계산식에 로그를 적용해 조건부 확률 값을 연산하는 기법