가중치1 머신러닝(ML) - 분류(부스팅) [2] 이번시간에는 캐글 상위권 커널에서 매우 자주 등장하는 부스팅에 대하여 알아보도록 하겠습니다. * 파이썬 머신러닝 완벽가이드 참조 부스팅 알고리즘은 여러 개의 약한 학습기(weak learner)를 순차적으로 학습-예측하면서 잘못 예측한 데이터에 가중치 부여를 통해 오류를 개선해 나가면서 학습하는 방식입니다. 부스팅의 대표적인 구현은 AdaBoost와 Gradient Boosting Machine이 있습니다. AdaBoost 조금 더 설명을 덧붙이자면 개별 약한 학습기는 다음 그림과 같이 각각 가중치를 부여해 결합합니다. 예를 들어 첫 번째 학습기에 가중치 0.3, 두 번째 학습기에 가중치 0.5, 세 번째 학습기에 가중치 0.8을 부여한 후 모두 결합해 예측을 수행합니다. GBM(Gradient Boos.. 2021. 1. 28. 이전 1 다음
