UserWarning: Features [2] are constant.
Coloana cu indicele din mesaj are aceeași valoare pe toate rândurile, deci testul statistic al lui SelectKBest (f_classif, f_regression) nu poate calcula un scor pentru ea. Scoate coloanele constante înainte, de exemplu cu VarianceThreshold().
Explicat de Tudor Andrei Dumitrescu, Senior Software Developer, fondatorul Academiei ProgramatorilorActualizat la
Ce înseamnă
f_classif și f_regression calculează pentru fiecare coloană cât de mult variază ținta în funcție de ea (statistica F). Pentru o coloană constantă, variația e zero, iar calculul împarte la zero: scorul iese nan. scikit-learn te avertizează și listează indicii coloanelor constante, numărați de la 0 (aici a treia coloană). Uneori apare și RuntimeWarning: invalid value encountered in divide.
O coloană constantă nu aduce nicio informație modelului, deci e corect s-o scoți. Apare des după filtrare (de exemplu, toate rândurile rămase sunt din același oraș), la coloane care au mereu aceeași valoare în export, sau în setul de antrenare al unei părți de validare încrucișată.
VarianceThreshold() (cu prag 0) elimină automat coloanele cu o singură valoare și poate fi pus în pipeline înainte de SelectKBest.
De ce apare: cauzele frecvente
1O coloană are aceeași valoare peste tot
SelectKBest(f_classif, k=2).fit(df[["venit", "varsta", "tara"]], y) # tara: mereu 1make_pipeline(VarianceThreshold(), SelectKBest(f_classif, k=2)).fit(df[["venit", "varsta", "tara"]], y)VarianceThreshold scoate coloana constantă înainte ca testul F să încerce să o evalueze.
2Coloană constantă după filtrare
df = df[df["oras"] == "Cluj"]
X = pd.get_dummies(df[["oras", "suprafata"]])df = df[df["oras"] == "Cluj"]
X = df[["suprafata"]]După filtrare, orașul e același pentru toate rândurile, deci nu mai are ce să explice.
3Ai vrut să știi ce coloane sunt constante
# ignori avertismentulconstante = df.columns[df.nunique() <= 1]
print(list(constante))
X = df.drop(columns=constante)nunique() arată câte valori distincte are fiecare coloană; cele cu 1 sunt constante.
Repară eroarea, direct în pagină
Codul de mai jos dă UserWarning: Features [2] are constant., transformat în eroare, pentru că a treia coloană are aceeași valoare pe toate rândurile. Pune un VarianceThreshold() înainte de SelectKBest în pipeline, ca programul să afișeze câte coloane rămân și scorul celei alese.
import warnings
from sklearn.feature_selection import SelectKBest, VarianceThreshold, f_classif
from sklearn.pipeline import make_pipeline
warnings.simplefilter("error", UserWarning)
# venit, varsta, tara (mereu 1)
X = [[2, 30, 1], [3, 45, 1], [9, 28, 1], [10, 50, 1], [11, 33, 1], [2, 41, 1]]
y = [0, 0, 1, 1, 1, 0]
sel = make_pipeline(SelectKBest(f_classif, k=1))
X_nou = sel.fit_transform(X, y)
print("Coloane ramase:", X_nou.shape[1])
print("Prima coloana aleasa:", X_nou[:, 0].tolist())Coloane ramase: 1 Prima coloana aleasa: [2, 3, 9, 10, 11, 2]
Indiciu
Scrie make_pipeline(VarianceThreshold(), SelectKBest(f_classif, k=1)).
Reparația
import warnings
from sklearn.feature_selection import SelectKBest, VarianceThreshold, f_classif
from sklearn.pipeline import make_pipeline
warnings.simplefilter("error", UserWarning)
# venit, varsta, tara (mereu 1)
X = [[2, 30, 1], [3, 45, 1], [9, 28, 1], [10, 50, 1], [11, 33, 1], [2, 41, 1]]
y = [0, 0, 1, 1, 1, 0]
sel = make_pipeline(VarianceThreshold(), SelectKBest(f_classif, k=1))
X_nou = sel.fit_transform(X, y)
print("Coloane ramase:", X_nou.shape[1])
print("Prima coloana aleasa:", X_nou[:, 0].tolist())De ce merge
VarianceThreshold() elimină coloana tara, care are mereu valoarea 1, deci f_classif primește doar venitul și vârsta și le poate calcula scorul F fără împărțire la zero. Venitul separă clar cele două clase, așa că SelectKBest îl alege pe el. Coloana constantă nu ar fi ajutat oricum modelul.
Alte forme ale mesajului
UserWarning: Features [0 3] are constant.RuntimeWarning: invalid value encountered in divide
Cum o eviți pe viitor
Verifică datele cu df.nunique() înainte de selecția trăsăturilor și scoate coloanele cu o singură valoare. Pune VarianceThreshold() la începutul pipeline-ului, ca protecția să funcționeze și la date noi și în fiecare parte a validării încrucișate. Nu ignora avertismentul: scorul nan poate face ca SelectKBest să aleagă altfel decât te aștepți.
Întrebări frecvente
Strică modelul o coloană constantă?
De obicei nu, modelul o ignoră. Problema e la selecția trăsăturilor, unde scorul ei e nan, și la scalare, unde deviația standard e 0.
Ce prag să pun la VarianceThreshold?
Pragul implicit 0 elimină doar coloanele perfect constante. Un prag mai mare elimină și coloanele aproape constante, dar depinde de scara datelor.
Erori înrudite
UserWarning: k=5 is greater than n_features=3. All the features will be returned. Ai cerut lui SelectKBest să păstreze k coloane, dar datele au mai puține, așa că le întoarce pe toate. Alege un k mai mic decât numărul de coloane, sau k="all" dacă vrei intenționat toate coloanele (de exemplu într-o grilă). ValueError: Input X contains NaN. Datele de intrare X au cel puțin o valoare lipsă (NaN), iar modelul nu știe să lucreze cu ea. Completează golurile înainte de fit (de exemplu cu fillna sau SimpleImputer) sau elimină rândurile incomplete cu dropna. ValueError: Found array with 0 feature(s) (shape=(4, 0)) while a minimum of 1 is required by LinearRegression. X are rânduri, dar nicio coloană: selecția trăsăturilor a lăsat tabelul gol. De obicei select_dtypes("number") a eliminat coloanele citite ca text, sau drop a scos prea mult. Afișează X.shape și X.columns înainte de fit și convertește coloanele la numere. Învață Machine Learning de la zero, cu exerciții la fiecare lecție
Curs Machine Learning și AI pentru începători: lecții scurte, fiecare cu un exercițiu verificat automat, direct în browser. Primele 15 lecții sunt gratuite.
