ValueError: multi_class must be in ('ovo', 'ovr')
Calculezi roc_auc_score pe o problemă cu mai mult de două clase fără să spui cum să fie combinate clasele. Adaugă multi_class="ovr" (fiecare clasă contra restului) sau "ovo" (perechi de clase) și dă-i toate coloanele din predict_proba.
Explicat de Tudor Andrei Dumitrescu, Senior Software Developer, fondatorul Academiei ProgramatorilorActualizat la
Ce înseamnă
ROC AUC este definit pentru două clase. Când y_true are trei sau mai multe clase, scikit-learn trebuie să știe cum să reducă problema la cazuri binare: "ovr" (one-vs-rest) calculează AUC pentru fiecare clasă față de toate celelalte și face media, iar "ovo" (one-vs-one) calculează AUC pentru fiecare pereche de clase. Valoarea implicită, multi_class="raise", înseamnă exact eroarea aceasta: „alege tu”.
Pentru multiclasă, y_score trebuie să fie matricea întreagă model.predict_proba(X), cu câte o coloană pentru fiecare clasă și rânduri care însumează 1. Nu folosi predict_proba(X)[:, 1], care e potrivit doar la două clase, și nici predict(X), care dă clase, nu probabilități. Dacă vrei să controlezi media între clase, adaugă average="macro" (implicit) sau "weighted".
De ce apare: cauzele frecvente
1Lipsește multi_class la trei clase
proba = model.predict_proba(X_test)
roc_auc_score(y_test, proba)proba = model.predict_proba(X_test)
roc_auc_score(y_test, proba, multi_class="ovr")"ovr" calculează AUC pentru fiecare clasă față de celelalte și face media.
2scoring="roc_auc" la validare pe multiclasă
cross_val_score(model, X, y, scoring="roc_auc") # 3 clasecross_val_score(model, X, y, scoring="roc_auc_ovr")Pentru multiclasă există scorerele roc_auc_ovr, roc_auc_ovo și variantele _weighted.
Repară eroarea, direct în pagină
Codul de mai jos dă ValueError: multi_class must be in ('ovo', 'ovr'), pentru că ținta are trei clase. Repară apelul lui roc_auc_score, folosind strategia „fiecare clasă contra restului”, ca programul să afișeze numărul de clase și AUC-ul rotunjit.
from sklearn.linear_model import LogisticRegression
from sklearn.metrics import roc_auc_score
# lungimea petalei (cm) -> specia 0, 1 sau 2
X = [[1.4], [1.3], [1.5], [4.5], [4.7], [4.0], [5.8], [6.0], [5.5], [1.6], [4.4], [5.9]]
y = [0, 0, 0, 1, 1, 1, 2, 2, 2, 0, 1, 2]
model = LogisticRegression().fit(X, y)
proba = model.predict_proba(X)
print("Clase:", proba.shape[1])
print("AUC:", round(roc_auc_score(y, proba), 3))Clase: 3 AUC: 1.0
Indiciu
Adaugă multi_class="ovr" la roc_auc_score.
Reparația
from sklearn.linear_model import LogisticRegression
from sklearn.metrics import roc_auc_score
# lungimea petalei (cm) -> specia 0, 1 sau 2
X = [[1.4], [1.3], [1.5], [4.5], [4.7], [4.0], [5.8], [6.0], [5.5], [1.6], [4.4], [5.9]]
y = [0, 0, 0, 1, 1, 1, 2, 2, 2, 0, 1, 2]
model = LogisticRegression().fit(X, y)
proba = model.predict_proba(X)
print("Clase:", proba.shape[1])
print("AUC:", round(roc_auc_score(y, proba, multi_class="ovr"), 3))De ce merge
Cu trei specii, ROC AUC trebuie calculat pe rând: specia 0 contra celorlalte, specia 1 contra celorlalte, specia 2 contra celorlalte, iar multi_class="ovr" face asta și apoi media. proba are câte o coloană pentru fiecare specie, exact ce cere metrica. Petalele celor trei specii sunt bine separate, deci fiecare specie se distinge perfect de celelalte, iar AUC-ul este 1.0.
Alte forme ale mesajului
ValueError: Number of classes in y_true not equal to the number of columns in 'y_score'ValueError: Target scores need to be probabilities for multiclass roc_auc, i.e. they should sum up to 1.0 over classes
Cum o eviți pe viitor
Când lucrezi cu mai mult de două clase, verifică fiecare metrică: multe au nevoie de un parametru în plus (average= la precision, recall și F1, multi_class= la ROC AUC). Folosește predict_proba cu toate coloanele pentru AUC și verifică că proba.shape[1] este egal cu numărul de clase din y_true.
Întrebări frecvente
Care e mai bun, ovr sau ovo?
ovr e cel mai folosit și ușor de explicat (cât de bine se distinge fiecare clasă de restul). ovo e mai puțin sensibil la clase dezechilibrate, pentru că compară doar perechi. Pentru început, ovr cu average="macro" e o alegere bună.
Ce înseamnă Number of classes in y_true not equal to the number of columns in 'y_score'?
Că testul conține alt număr de clase decât coloanele din predict_proba, de exemplu o clasă lipsește din test. Dă parametrul labels=model.classes_, ca metrica să știe de toate clasele.
Erori înrudite
ValueError: Target is multiclass but average='binary'. Please choose another average setting, one of [None, 'micro', 'macro', 'weighted']. Ai calculat precision, recall sau F1 pe o problemă cu mai mult de două clase, iar implicit aceste funcții presupun două clase. Alege explicit cum se face media: average='macro' (toate clasele la fel), 'weighted' (după numărul de exemple) sau None (scor pe fiecare clasă). UndefinedMetricWarning: Only one class is present in y_true. ROC AUC score is not defined in that case. Setul pe care calculezi ROC AUC conține o singură clasă (de exemplu doar clienți care n-au plecat), iar AUC compară pozitivi cu negativi, deci nu are sens. Împarte datele cu stratify=y sau folosește StratifiedKFold, ca fiecare parte să aibă ambele clase. ValueError: continuous format is not supported roc_auc_score (sau o altă metrică de clasificare) a primit ca y_true valori zecimale. De obicei ai inversat argumentele: ordinea corectă este roc_auc_score(y_true, scoruri), cu etichetele reale primele și probabilitățile pe locul doi. Învață Machine Learning de la zero, cu exerciții la fiecare lecție
Curs Machine Learning și AI pentru începători: lecții scurte, fiecare cu un exercițiu verificat automat, direct în browser. Primele 15 lecții sunt gratuite.
