SMOTENC :: oversampling with categorical variable

Data imbalanced 데이터 불균형 문제에서 Oversampling을 많이들 사용한다.

카테고리컬 변수를 ovesampling할 수 있는 방법은 없을까?!

있다...!!!!

SMOTENC (numeric and categorical)!!!

>> SMOTE-NC for dataset containing numerical and categorical features. 

단, categorical feature만 가진 데이터에는 사용할 수 없다

-> 다른 numeric variable의 값을 이용해 categorical variable을 증식시키는 알고리즘이기 때문!!!!

 

SMOTENC

- SMOTE"는 Synthetic Minority Over-sampling Technique의 약자이며,

 - "NC"는 Nominal and Continuous features  의 약자

- SMOTE 방식으로 sample을 만들고 그룹핑한 후에 해당 그룹에 가까운 class의 category value를 붙이는 방식

https://medium.com/analytics-vidhya/smote-nc-in-ml-categorization-models-fo-imbalanced-datasets-8adbdcf08c25

 

코드

from collections import Counter
from numpy.random import RandomState
from sklearn.datasets import make_classification
from imblearn.over_sampling import SMOTENC

X, y = make_classification(n_classes=2, class_sep=2,
weights=[0.1, 0.9], n_informative=3, n_redundant=1, flip_y=0,
n_features=20, n_clusters_per_class=1, n_samples=1000, random_state=10)

print(f'Original dataset shape {X.shape}')
print(f'Original dataset samples per class {Counter(y)}')

# simulate the 2 last columns to be categorical features
X[:, -2:] = RandomState(10).randint(0, 4, size=(1000, 2))
sm = SMOTENC(random_state=42, categorical_features=[18, 19])
X_res, y_res = sm.fit_resample(X, y)

print(f'Resampled dataset samples per class {Counter(y_res)}')

 

 

 

참고

https://imbalanced-learn.org/stable/references/generated/imblearn.over_sampling.SMOTENC.html

SMOTENC — Version 0.11.0

https://medium.com/analytics-vidhya/smote-nc-in-ml-categorization-models-fo-imbalanced-datasets-8adbdcf08c25

SMOTE-NC in ML Categorization Models fo Imbalanced Datasets