PD Stefan Bosse - Maschinelles Lernen und Datenanalyse - Modul H: Support Vector Machines und Zustandsbasierte Netze

Maschinelles Lernen und Datenanalyse

In der Mess- und Prüftechnik PD Stefan Bosse

Universität Bremen - FB Mathematik und Informatik

1 / 27

PD Stefan Bosse - Maschinelles Lernen und Datenanalyse - Modul H: Support Vector Machines und Zustandsbasierte Netze

Support Vector Machines

SVM gehören zu den Regressionsverfahren

SVM nutzen aber bei der Parameteranpassung (Training) eine andere Fehlerfunktion (Loss) als bei anderen gängigen Regressionsverfahren (z.B. LS Minimierung)

SVM können primär kategorische und weniger numerische Zielvariablen verwenden

SVM sind (zunächst) lineare Klassifikatoren!

2 / 27

PD Stefan Bosse - Maschinelles Lernen und Datenanalyse - Modul H: Support Vector Machines und Zustandsbasierte Netze

Binärer Klassifikator

Ein binärer Klassifikator soll durch eine lineare Funktion repräsentiert werden (y={-1,+1}):

$f(\vec{x}):\vec{x} \rightarrow y=\vec{w}^T\vec{x}+\gamma$

Dabei sind w und γ die Parameter des Modells die durch das Training an das Problem angepasst werden müssen.

w ist ein Normalenvektor der bei einem binären Klassifikationsproblem die beiden Instanzklassen trennt

3 / 27

PD Stefan Bosse - Maschinelles Lernen und Datenanalyse - Modul H: Support Vector Machines und Zustandsbasierte Netze