[Python] OverSampling/UnderSampling

레이블의 분포가 불균형한 데이터셋을 학습시킬 때 예측 성능에 문제가 발생할 수 있는데, 이는 이상치 레이블이 정상 레이블의 데이터 건수에 비해 너무 적기 때문에 발생하는 현상이다. 즉, 이상 레이블의 데이터는 매우 적기 때문에 다양한 유형을 학습하지 못하는 반면 정상 레이블의 데이터 건수는 매우 많아 일방적으로 정상 레이블에 치우친 학습을 수행해 제대로된 이상 데이터 검출이 어려워진다. 이러한 문제점을 해결하기 위한 방법으로 오버샘플링/언더샘플링의 방법이 있다. 

출처 : https://www.kaggle.com/code/rafjaa/resampling-strategies-for-imbalanced-datasets/notebook

 

 

OverSampling

이상치 레이블과 같이 적은 데이터 셋을 증식하여 학습에 필요한 데이터를 확보하는 방법이다. 동일한 데이터를 단순히 증식시키면 과적합이 되기 때문에, 원본 데이터의 피처 값들을 조금씩 변경하여 증식한다. 대표적인 오버샘플링 방법에는 SMOTE가 있다. 

 

• SMOTE : 적은 데이터셋에 있는 개별 데이터의 KNN(최근접 이웃)을 찾아서 이 데이터와 K개 이웃들의 차이를 일정 값으로 만들어 기존 데이터와 약간 차이가 나는 새로운 데이터들을 생성하는 방식

#패키지 설치
conda install -c conda-forge imbalanced-learn
from imlearn.over_sampling import SMOTE

smote = SMOTE()
X_train_over, y_train_over = smote.fit_sample(X_train,y_train)

 

📍주의 : 검증 데이터나 테스트 데이터셋에는 적용하면 안됨

 

 

UnderSampling

많은 데이터 셋을 적은 데이터셋 수준으로 감소시키는 방식이다. 정상 레이블 데이터를 이상 레이블 데이터 수준으로 감소시키면 과도하게 정상 레이블로 학습하는 문제는 해결할 수 있지만, 너무 많은 정상 레이블 데이터를 감소시키기 때문에 정상 레이블의 경우 오히려 제대로된 학습을 수행할 수 있다. 이러한 단점 때문에 언더 샘플링 기법을 잘 사용되지 않는다.