안녕하세요. 이번 포스팅에서는 의사결정나무에 대해 알아보겠습니다. 1. 트리의 원리한국인이라면 어릴 적 한 번쯤은 스무고개 게임을 해보셨을 것이라 생각합니다.정답에 대해 질문을 던지고, 그에 대한 예 / 아니요의 답변을 바탕으로 점점 범위를 좁혀가며 정답을 맞혀가는 게임입니다.오늘 알아볼 의사결정나무(Decision Tree) 역시 이러한 스무고개 게임과 매우 유사한 방식으로 동작합니다.의사결정나무는 매 분기마다 설명변수 $$x_1, x_2, \cdots, x_p$$가 구성하는 전체 표본 공간(Sample Space)을 더 작은 부분 공간(Sub space)들로 나누어 나갑니다.매 분할(Split) 과정에서 여러 개의 부분 공간으로 나뉠 수 있지만, 각 영역은 서로 겹치지 않는(disjoint) 공간이라..