랜덤포레스트, XG부스팅, decision 모델 r프로그래밍이용 및 간략한 해설

목차

1. decision tree
2. randomforest
3. XG boosting

본문내용

1. decision tree

cut value의 기준은 2094+1로 2095번째보다 크면 spam 메일로 생각한다.

훈련데이터의 위음 예측률은 스팸메일이 아니라고 예상했는데 실제로는 스팸메일인 확률로 0.08로 나타났다. 위양 예측률은 스팸메일이라고 예상했는데 스팸메일이 아닌 경우로 0.26로 나타났다. 총정확도는 0.83으로 나타났다. 훈련데이터를 이용하여 test데이터에 적용해본 결과 위음 예측률은 스팸메일이 아니라고 예상했는데 실제로는 스팸메일인 확률로 0.08로 나타났다. 위양 예측률은 스팸메일이라고 예상했는데 스팸메일이 아닌 경우로 0.27정도로 나타났다. 총정확도는 0.82로 나타났다. 테스트데이터에서 훈련데이터보다 정확도가 약간 떨어졌으며 오류율도 약간 늘어난 것을 볼 수 있다.

2. randomforest

결측값은 존재하지 않는다.

훈련데이터의 위음 예측률은 스팸메일이 아니라고 예상했는데 실제로는 스팸메일인 확률로 0.04로 나타났다. 위양 예측률은 스팸메일이라고 예상했는데 스팸메일이 아닌 경우로 0.06정도로 나타났다. 총정확도는 0.94정도로 높은편으로 속한다. 랜덤포레스트를 사용한 훈련데이터는 오류율은 작고 정확도는 높은편으로 나타났다.

훈련데이터를 이용하여 test데이터에 적용해본 결과 위음 예측률은 스팸메일이 아니라고 예상했는데 실제로는 스팸메일인 확률로 0.04로 나타났다. 위양 예측률은 스팸메일이라고 예상했는데 스팸메일이 아닌 경우로 0.04정도로 나타났다.

참고 자료

없음