Zunächst sei bemerkt, dass dieser Kurs bereits ein Basiswissen bezüglich der Trainings- und Testphase neuronaler Netze voraussetzt. Weiterhin betrachten wir die Klassifikationsaufgabe, die darin besteht, Punkte in der Ebene in drei Klassen zu kategorisieren (rot, grün und blau):
Ein neuronales Netz mit einer verborgenen Schicht zur Lösung dieser Aufgabe zeigt die folgende Abbildung:
Um die Gewichte und Schwellwerte geeignet zu wählen, wissen wir bereits, dass Trainingsdaten benötigt werden. Dabei handelt es sich um eine (große) Menge an Eingangsdaten mit jeweils bekanntem Klassifikationsergebnis.
Das Ziel der Trainingsphase besteht darin, die Gewichte und die Schwellwerte eines neuronalen Netzes unter Verwendung der Trainingsdaten derart zu bestimmen, sodass die Klassifikationsaufgabe (bezogen auf die Trainingsdaten) möglichst gut gelöst wird.
Wir hatten auch bereits erwähnt, dass sich die Trainingsphase als mathematische Optimierungsaufgabe formulieren lässt, welche mit Methoden der nichtlinearen Optimierung gelöst werden kann. Damit es sich dabei nicht länger um eine Black Box handelt, skizzieren wir das Vorgehen im folgenden Abschnitt für interessierte Lernende mit weiterführenden Mathematikkenntnissen.
Keine Angst: Es ist nicht schlimm, falls du die Inhalte des folgenden Abschnitts nicht im Detail nachvollziehen kannst. Alle nachfolgenden Inhalte lassen sich auch verstehen, sofern dir bewusst ist, dass die Trainingsphase dazu dient, die Gewichte und Schwellwerte eines neuronalen Netzes zu bestimmen.