[Matlab] SVMTRAIN macht nur Mist

OP #3209633
Hi,

ich hatte einen eigenen SVM algorithmus geschrieben, mit dem ich meine 
Daten (krank ja/nein gegen diagnostische Parameter) leidlich 
klassifizieren kann. Komme auf 34% error bei 50% Chance-Level. Jetzt 
gibt es im neuen Matlab ja eine eingebaute SVM-Funktion für die Dummen. 
svmtrain und svmclassify. Komischerweise ist die Performance aber 
totaler Mist. Das Trainingsset wird zu 100% gefittet (wie bei meinem 
auch) aber im Testset hab ich wieder 50% Fehler. Zufall halt. Nehme ich 
statt dem Standardkernel (linear) den Gauss-Kernel, bekomme ich nur noch 
positive Resultate, also ebenfalls 50% Fehler, aber nicht mehr zufällig.
Hat jemand Erfahrung damit? Hab schon versucht noch vorhe zu 
normalisieren, bringt nix. Und aufgrund der hohen Dimensionalität (450) 
kann man auch nix plotten... Die Beispiele von Matlab funktionieren 
jedenfalls.
#3209985
Karl Otto schrieb:
> Hab schon versucht noch vorhe zu
> normalisieren, bringt nix. Und aufgrund der hohen Dimensionalität (450)
> kann man auch nix plotten... Die Beispiele von Matlab funktionieren
> jedenfalls.

Regularisierungsparameter "durchprobiert"?

Unter Umständen könnte auch eine PCA vor der SVM was bringen.
Im ML-Kurs (Coursera/Stanford) gab's noch die Empfehlungen:
n = Anzahl der Features, m = Anzahl der Trainingsbeispiele
n >= m -> Logistische Regression oder SVM ohne Kernel.
n = "klein", m = "mittel" -> SVM mit Gauß
n = "klein", m = "groß" -> Features hinzufügen/erzeugen, dann 
logistische Regression oder SVM ohne Kernel.

Antwort schreiben

Eine eigene Frage? Dieser Thread ist über 13 Jahre alt. Stell sie in einem eigenen Thread – dort lesen mehr Leute mit, und sie wird öfter und schneller beantwortet.

Neuen Thread starten

Eine Lösung, Ergänzung oder Rückmeldung zu diesem Thread? Dann antworte hier.

Formatierung
  • [c]C-Code[/c]
  • [code]Code in anderen Sprachen, ASCII-Zeichnungen[/code]
  • [math]Formel in LaTeX-Syntax[/math]
  • [[Titel]] – Link zu einem Artikel
  • Verweis auf einen anderen Beitrag: Rechtsklick auf dessen Beitrags-ID (#8078628), „Adresse kopieren“, in den Text einfügen

Mehr zur Formatierung

Längeren Sourcecode als Anhang, nicht in den Text. JPG nur für Fotos und Scans; Zeichnungen und Screenshots als PNG oder GIF. Siehe Bildformate.

Schon registriert? Anmelden

Wird nicht angezeigt. Wir schicken dir einen Link; sobald du damit bestätigst, erscheint dein Beitrag.

Mit dem Abschicken legst du einen kostenlosen Account an und erkennst die Nutzungsbedingungen und die Datenschutzerklärung an.