앙상블 기법 1

앙상블 기법

 

앙상블은 조화라는 뜻을 가진 단어로, 음악에서는 두 사람 이상의 연주자에 의한 합주 또는 합창을 말한다.

 

기계학습에서 신경망이나 SVM과 같은 알고리즘은 정교화되고 대규모화되어 예측 성능이 매우 뛰어나지만, 학습의 대상이 되는 파라미터의 수가 많아 학습에 시간이 많이 걸리고, 최적해를 찾기도 힘들다.

또한 과도적합의 문제가 동반된다. 지나치게 복잡한 모델을 사용하는 경우 불충분한 수의 학습데이터에 과도적합됨으로 인해 일반화오차가 증가하는 현상이 있다.

 

앙상블 기법은 간단한 알고리즘으로 학습을 수행하되, 복수 개의 학습 결과를 결함함으로써 결과적으로 보다 좋은 성능을 내고자 하는 방법이다.

 

어떤 학습기를 사용할 것인가?

비교적 간단하면서 서로 차별성이 존재하는 분류기를 선택함으로써 결합을 통한 효과를 높일 수 있어야 한다.

 

어떻게 결합할 것인가?

학습이 완료된 학습기들로부터 얻어지는 인식 결과를 각 학습기의 특성을 고려하여 효과적으로 결합하여야 한다.