Nachdem wir erste Erfahrungen mit dem Trainieren und Testen neuronaler Netze gesammelt haben, gehen wir in diesem Abschnitt auf das sogenannte Layout neuronaler Netze ein.
Das einfachste neuronale Netz, um eine Klassifikationsaufgabe zu lösen, besteht aus den Eingangsneuronen, die jeweils direkt mit den Ausgangsneuronen verbunden sind. Im Klassifikationsproblem zuvor bedeutet dies:
Die Eingangsneuronen werden zusammengefasst auch als Eingangsschicht oder Eingangssignal bezeichnet. Entsprechend besteht die Ausgangsschicht bzw. das Ausgangssignal aus sämtlichen Ausgangsneuronen.
Neuronale Netze, die nur aus Eingangs- sowie Ausgangsschicht bestehen, können das zugehörige Klassifikationsproblem allerdings in der Regel nicht sehr gut lösen, d.h., es werden trotz ausreichender Trainingsphase prozentual vergleichsweise nur wenig Testdaten korrekt klassifiziert. Es kommen daher in der Regel ein oder mehrere sogenannte verborgene Schichten zum Einsatz. Ein neuronales Netz zur Lösung eines Klassifikationsproblems mit zwei Eingangsneuronen und drei Ausgangsneuronen sowie einer verborgenen Schicht bestehend aus vier Neuronen sieht etwa folgendermaßen aus:
Auch, wenn es grundsätzlich andere Möglichkeiten gibt, werden bei uns stets sämtliche Neuronen einer Schicht mit sämtlichen Neuronen der darauffolgenden Schicht verbunden sein (entsprechend mit Gewichten).
Dabei ist es stark vom Klassifikationsproblem abhängig, wie viele verborgene Schichten eingesetzt und wie viele Neuronen pro Schicht definiert werden. Die Festlegung sämtlicher Schichten wird als Layout des neuronalen Netzes bezeichnet. Zur Veranschaulichung des Layouts eines neuronalen Netzes wird häufig eine kompakte Layout-Darstellung verwendet:
Als Schreibweise verwenden wir eckige Klammern, also beispielsweise [2,4,3] bezogen auf das Beispiel zuvor, wobei Eingangs- und Ausgangsschicht stets zu berücksichtigen sind.
Je mehr verborgene Schichten und damit mehr Gewichte und Schwellwerte ein neuronales Netz besitzt, desto aufwendiger ist in der Regel die zugehörige Trainingsphase. Außerdem sollte nicht davon ausgegangen werden, dass eine größere Anzahl an Schichten bzw. Neuronen pro Schicht stets zu besseren Ergebnissen führt.
Die Festlegung des Layouts ist daher grundsätzlich eine große Herausforderung und es setzt einige Erfahrungen voraus, um dieses sinnvoll zu wählen.
