...
Eroare Machine Learning · Modele: convergență, k-NN, k-means

ValueError: Solver lbfgs supports only 'l2' or None penalties, got l1 penalty.

Pe scurt

Ai cerut regularizare L1 (penalty="l1" sau l1_ratio=1) unei regresii logistice cu solverul implicit lbfgs, care știe doar L2. Alege un solver care suportă L1: solver="liblinear" (date mici, două clase) sau solver="saga" (date mari, cu scalare).

Explicat de Tudor Andrei Dumitrescu, Senior Software Developer, fondatorul Academiei ProgramatorilorActualizat la

Ce înseamnă

LogisticRegression poate fi antrenată de mai mulți algoritmi (solvere). Implicitul, lbfgs, e rapid și stabil, dar funcționează doar cu regularizarea L2 sau fără regularizare. Regularizarea L1 (care împinge unii coeficienți exact la 0, utilă pentru selecția trăsăturilor) are nevoie de liblinear sau saga; combinația L1 + L2 (elasticnet) merge doar cu saga. Mesajul îți spune solverul și penalizarea cerută.

În scikit-learn 1.8, tipul de regularizare se alege cu l1_ratio (0 = L2, 1 = L1, între ele = elasticnet), iar penalty e marcat ca învechit; în versiunile mai vechi scriai penalty="l1". Mesajul e același în ambele cazuri. Mesaje surori: Solver newton-cg supports only 'l2' or None penalties și Only 'saga' solver supports elasticnet penalty.

De ce apare: cauzele frecvente

1L1 cu solverul implicit

Greșit
PYTHON
model = LogisticRegression(l1_ratio=1)
model.fit(X, y)
Corect
PYTHON
model = LogisticRegression(l1_ratio=1, solver="liblinear")
model.fit(X, y)

liblinear implementează regularizarea L1, deci poate antrena modelul cerut.

2Codul vechi cu penalty="l1"

Greșit
PYTHON
LogisticRegression(penalty="l1", C=0.5)
Corect
PYTHON
LogisticRegression(l1_ratio=1, C=0.5, solver="saga", max_iter=5000)

saga suportă L1 și elasticnet și merge bine pe date mari, dar are nevoie de date scalate și de mai multe iterații.

3Grilă care combină solvere și penalizări incompatibile

Greșit
PYTHON
grila = {"solver": ["lbfgs", "liblinear"], "l1_ratio": [0, 1]}
Corect
PYTHON
grila = [
    {"solver": ["lbfgs"], "l1_ratio": [0]},
    {"solver": ["liblinear"], "l1_ratio": [0, 1]},
]

O listă de grile încearcă doar combinațiile valide, deci nu mai apar antrenări eșuate în căutare.

Repară tu

Repară eroarea, direct în pagină

Codul de mai jos dă ValueError: Solver lbfgs supports only 'l2' or None penalties, got l1 penalty., pentru că cere regularizare L1 cu solverul implicit. Alege solverul liblinear, ca programul să afișeze câți coeficienți au rămas diferiți de 0.

Codul care dă eroarea
PYTHON
from sklearn.linear_model import LogisticRegression

# minute pe site, pagini vazute, ora din zi (zgomot)
X = [[2, 1, 9], [3, 2, 14], [1, 1, 20], [4, 2, 11], [15, 8, 10], [18, 9, 21], [16, 7, 13], [20, 10, 9]]
y = [0, 0, 0, 0, 1, 1, 1, 1]

model = LogisticRegression(l1_ratio=1, C=0.1)
model.fit(X, y)
nenuli = int((model.coef_ != 0).sum())
print("Coeficienti nenuli:", nenuli, "din", model.coef_.shape[1])
După reparație, programul afișează
Coeficienti nenuli: 2 din 3
Indiciu

Adaugă solver="liblinear" în LogisticRegression(...).

Alte forme ale mesajului

  • ValueError: Solver lbfgs supports only 'l2' or 'none' penalties, got l1 penalty.
  • ValueError: Solver newton-cg supports only 'l2' or None penalties, got l1 penalty.
  • ValueError: Only 'saga' solver supports elasticnet penalty, got solver=liblinear.

Cum o eviți pe viitor

Când schimbi regularizarea, schimbă și solverul: L2 cu lbfgs (implicit), L1 cu liblinear sau saga, elasticnet doar cu saga. Pune StandardScaler înaintea modelului, mai ales cu saga. În căutările de hiperparametri, folosește o listă de grile cu combinații compatibile. Notează lângă model de ce ai ales solverul, ca o schimbare ulterioară să nu-l strice.

Întrebări frecvente

La ce folosește regularizarea L1?

Penalizează suma valorilor absolute ale coeficienților și împinge coeficienții trăsăturilor inutile exact la 0. Obții un model mai simplu și vezi direct ce trăsături contează.

Care e diferența între liblinear și saga?

liblinear e bun pentru seturi mici și mijlocii, mai ales cu două clase. saga e gândit pentru seturi mari, suportă toate penalizările, dar converge greu pe date nescalate.

Erori înrudite

← Toate erorile Machine Learning

Tudor Andrei Dumitrescu
Cine a explicat eroarea

Tudor Andrei Dumitrescu

Senior Software Developer · fondatorul Academiei Programatorilor

LinkedIn
  1. 2019 Junior JavaCognizant Softvision
  2. 2021 Mid JavaCognizant Softvision
  3. 2022 Team LeaderEndava
  4. 2023 Senior Software DeveloperUniCredit
  5. Acum Senior Software DeveloperHCLTech
Certificat de absolvire Instructor / Preparator formare, Tudor Andrei Dumitrescu
Certificat de formator autorizatMinisterul Muncii și Ministerul Educației · 2022
Certificat de absolvire Instructor / Preparator formare, Tudor Andrei Dumitrescu

Certificat de formator autorizat · Ministerul Muncii și Ministerul Educației · 2022

Din 2020 construiește Academia Programatorilor, iar din 2026 și JoburiIT.ro. Fiecare eroare de aici a fost reprodusă în editorul nostru: codul greșit chiar dă mesajul din titlu, iar reparația chiar funcționează.

Învață Machine Learning de la zero, cu exerciții la fiecare lecție

Curs Machine Learning și AI pentru începători: lecții scurte, fiecare cu un exercițiu verificat automat, direct în browser. Primele 15 lecții sunt gratuite.