Als kleinen Exkurs wollen wir anhand der YaleFaces-Datenmatrix verstehen, dass die Hauptkomponentenanalyse auch als Basiswechsel angesehen werden kann:
Die Hauptkomponenten bzw. Eigengesichter bilden eine Basis 2016-dimensionalen Vektorraums.
Um etwas genauer zu sein: Jedes Gesicht mit einer Breite von 42 und einer Höhe von 48 Pixel besteht aus 2016 Zahlen, wobei dies als Graustufen der einzelnen Pixel von oben links nach unten rechts zu verstehen. Verwendet wird hier also die Standardbasis bestehend aus den Einheitsvektoren. Die ersten acht der 2016 Einheitsvektoren könnten entsprechend folgendermaßen dargestellt werden:
Die Hauptkomponenten liefern nun eine andere Basis des 2016-dimensionalen Standardvektorraums. Alle Gesichter der Datenmatrix können also als Linearkombination der Eigengesichter angesehen werden:
Auch diese Beobachtung ist somit ganz ähnlich zur Erkenntnis bei der Singulärwertzerlegung.