태그: Ensemble Methods

앙상블 기법 (Ensemble Methods) # 앙상블 기법(Ensemble Methods)은 여러 개의 기본 학습 알고리즘(base learner)을 결합하여 단일 알고리즘보다 더 좋은 예측 성능을 달성하는 기계학습 방법론이다. “집단 지성"의 원리를 활용하여 개별 모델의 약점을 보완하고 전체적인 안정성과 정확도를 향상시킨다. 앙상블의 기본 원리 # 1. 편향-분산 트레이드오프 # 편향(Bias): 모델의 예측값과 실제값 간의 차이 분산(Variance): 다른 훈련 데이터에 대한 모델 예측의 변동성 노이즈(Noise): 데이터 자체의 불확실성 전체 오차: $$\text{Error} = \text{Bias}^2 + \text{Variance} + \text{Noise}$$ 2.