taralino

Dimensionsreduktion

Da wir nun wissen, wie ein Autoencoder initialisiert und trainiert werden kann, können wir uns eine Reihe von Anwendungsmöglichkeiten anschauen. Wir beginnen mit der Dimensionsreduktion und vergleichen im nachfolgenden Beispiel zunächst Eingangs- und Ausgangssignal anhand des HandwrittenDigits-Datensatzes.

Beispiel

Vergleich zwischen Eingangs- und Ausgangssignal nach dem Trainieren.

<!DOCTYPE html>
<html>
<head>
  <meta charset="utf-8">
  <meta name="viewport" content="width=device-width, initial-scale=1.0">
  <script src="taralino.js"></script>
  <script src="HandwrittenDigits.js"></script>
</head>
<body>
<script>

// zweidimensionales Datenfeld X erzeugen
var T = HandwrittenDigits.train();
var X = [];
for (var i = 0; i < T.length; i++) X.push(T[i].input);

// Initialisierung und Trainingsphase starten
Autoencoder.init([64,8,4], [4,8,64]);
Autoencoder.progress(X, {iterations:6000, batch_size:10, learning_rate:0.5});

// Nach der Trainingsphase
function on_training_done(T) {
  for (var i = 0; i < 4; i++) {
    var k = Math.floor(X.length*random(0,1));
    // Originalbild
    var M = Picture.vector(X[k]);
    Picture.draw(M, {zoom:5});
    // Reduziertes Bild
    var N = Picture.vector(Autoencoder.evaluate(X[k]));
    Picture.draw(N, {zoom:5});
  };
};

</script>
</body>
</html>

Vorschau Download Kopie speichern

Noch deutlicher wird die Dimensionsreduktion anhand des Mnist-Datensatzes:

Zur Referenz

Auch dieser Datensatz beinhaltet Daten (Bilder) handgeschriebener Ziffern, allerdings bestehend aus 28 x 28 Pixel. In der folgenden Anwendung wurde bereits ein Autoencoder unter Verwendung der Mnist-Trainingsdaten und dem folgenden Layout trainiert:

Um es nochmals zu verdeutlichen: Die Ausgangssignale sind Bilder handgeschriebener Ziffern bestehend aus insgesamt 784 Pixel, die aus nur acht Werten rekonstruiert werden.

Anwendung

Vergleich zwischen Eingangs- und Ausgangssignal nach dem Trainieren.