ValueError: Unsupported set of arguments: The combination of penalty='l1' and loss='squared_hinge' are not supported when dual=True, Parameters: penalty='l1', loss='squared_hinge', dual=True
LinearSVC nu poate rezolva penalizarea L1 în forma „duală” a problemei. Setează dual=False (sau lasă dual="auto", valoarea implicită în versiunile noi), ori folosește penalty="l2".
Explicat de Tudor Andrei Dumitrescu, Senior Software Developer, fondatorul Academiei ProgramatorilorActualizat la
Ce înseamnă
LinearSVC folosește biblioteca liblinear, care poate rezolva problema de optimizare în două forme: primală (dual=False) și duală (dual=True). Nu toate combinațiile de penalizare și funcție de pierdere sunt implementate în ambele forme. Mesajul îți dă combinația exactă care nu e suportată: penalty='l1' cu loss='squared_hinge' merge doar cu dual=False.
În versiunile vechi, dual=True era implicit, deci simplul LinearSVC(penalty="l1") dădea eroarea. Acum implicit e dual="auto", care alege singur forma potrivită, dar eroarea apare în continuare dacă ai scris dual=True explicit (de multe ori copiat dintr-un tutorial).
Combinații posibile: l2 + squared_hinge (ambele forme), l1 + squared_hinge (doar primală), l2 + hinge (doar duală). l1 + hinge nu există deloc.
De ce apare: cauzele frecvente
1L1 cu dual=True scris explicit
LinearSVC(penalty="l1", dual=True)LinearSVC(penalty="l1", dual=False)Penalizarea L1 se rezolvă doar în forma primală.
2Cod vechi, scris pentru dual implicit
LinearSVC(penalty="l1", loss="squared_hinge", dual=True, C=0.5)LinearSVC(penalty="l1", loss="squared_hinge", dual="auto", C=0.5)dual="auto" alege forma suportată pentru combinația dată.
3Hinge cu dual=False
LinearSVC(loss="hinge", dual=False)LinearSVC(loss="hinge", dual=True)Pierderea hinge e implementată doar în forma duală.
Repară eroarea, direct în pagină
Codul de mai jos dă ValueError: Unsupported set of arguments, pentru că penalizarea L1 nu poate fi rezolvată cu dual=True. Folosește forma primală a problemei, ca programul să afișeze penalizarea folosită și acuratețea pe datele de antrenare.
from sklearn.svm import LinearSVC
# doar prima coloana conteaza; celelalte doua sunt zgomot
X = [[1, 5, 3], [2, 1, 4], [3, 4, 1], [4, 2, 5], [8, 3, 2], [9, 5, 4], [10, 1, 3], [11, 4, 5]]
y = [0, 0, 0, 0, 1, 1, 1, 1]
model = LinearSVC(penalty="l1", dual=True, C=0.5, max_iter=5000).fit(X, y)
print("Penalizare:", model.penalty)
print("Acuratete:", model.score(X, y))Penalizare: l1 Acuratete: 1.0
Indiciu
Schimbă dual=True în dual=False.
Reparația
from sklearn.svm import LinearSVC
# doar prima coloana conteaza; celelalte doua sunt zgomot
X = [[1, 5, 3], [2, 1, 4], [3, 4, 1], [4, 2, 5], [8, 3, 2], [9, 5, 4], [10, 1, 3], [11, 4, 5]]
y = [0, 0, 0, 0, 1, 1, 1, 1]
model = LinearSVC(penalty="l1", dual=False, C=0.5, max_iter=5000).fit(X, y)
print("Penalizare:", model.penalty)
print("Acuratete:", model.score(X, y))De ce merge
Cu dual=False, liblinear rezolvă problema în forma primală, singura în care penalizarea L1 e implementată. Modelul se antrenează și separă perfect cele două clase. Pe date cu multe coloane, penalizarea L1 duce la zero coeficienții trăsăturilor care nu ajută, de aceea e aleasă des pentru selecția trăsăturilor.
Alte forme ale mesajului
ValueError: Unsupported set of arguments: The combination of penalty='l2' and loss='hinge' are not supported when dual=False, Parameters: penalty='l2', loss='hinge', dual=FalseValueError: Unsupported set of arguments: The combination of penalty='l1' and loss='hinge' is not supported, Parameters: penalty='l1', loss='hinge', dual=True
Cum o eviți pe viitor
Lasă dual la valoarea implicită ("auto"), dacă nu ai un motiv clar. Când vrei penalizare L1 (pentru coeficienți rari, selecție de trăsături), scrie direct dual=False. Regula practică: forma primală e mai rapidă când ai mult mai multe exemple decât trăsături, cea duală când ai mai multe trăsături (de exemplu text).
Întrebări frecvente
Ce câștig cu penalty="l1"?
Penalizarea L1 împinge mulți coeficienți exact la zero, deci modelul folosește doar o parte din trăsături. E utilă când ai multe coloane, de exemplu la text.
Aceeași eroare apare și la LogisticRegression?
Nu cu acest text. La LogisticRegression combinațiile depind de solver și primești mesaje de tipul „Solver lbfgs supports only 'l2' or None penalties”.
Erori înrudite
ValueError: Solver lbfgs supports only 'l2' or None penalties, got l1 penalty. Ai cerut regularizare L1 (penalty="l1" sau l1_ratio=1) unei regresii logistice cu solverul implicit lbfgs, care știe doar L2. Alege un solver care suportă L1: solver="liblinear" (date mici, două clase) sau solver="saga" (date mari, cu scalare). FutureWarning: 'penalty' was deprecated in version 1.8 and will be removed in 1.10. To avoid this warning, leave 'penalty' set to its default value and use 'l1_ratio' or 'C' instead. În scikit-learn 1.8, parametrul penalty al lui LogisticRegression e învechit. Regularizarea se alege acum cu l1_ratio (0 = L2, 1 = L1) și cu C (C=np.inf = fără regularizare). Șterge penalty=... și folosește echivalentul din mesaj. ConvergenceWarning: lbfgs failed to converge after 100 iteration(s) (status=1): STOP: TOTAL NO. OF ITERATIONS REACHED LIMIT Algoritmul de optimizare al regresiei logistice (lbfgs) s-a oprit la limita de iterații înainte să găsească soluția. E un avertisment, modelul tot e antrenat, dar poate fi slab. Scalează datele cu StandardScaler și, dacă e nevoie, mărește max_iter (de exemplu 1000). Învață Machine Learning de la zero, cu exerciții la fiecare lecție
Curs Machine Learning și AI pentru începători: lecții scurte, fiecare cu un exercițiu verificat automat, direct în browser. Primele 15 lecții sunt gratuite.
