Slow Feature Analysis

Slow Feature Analysis ist ein unüberwachter Lernalgorithmus, der invariante oder sich zumindest nur langsam verändernde Merkmale aus einem vektoriellen Signal lernen soll. Er basiert auf der Hauptachsentransformation.<ref>Laurenz Wiskott, Terrence J. Sejnowski: Slow Feature Analysis: Unsupervised Learning of Invariances. In: Neural Computation. Band 14, Nr. 4, 2002, S. 715–770, doi:10.1162/089976602317318938. </ref>

Problembeschreibung

Wenn ein Eingabesignal <math>x(t)</math> gegeben ist, wird eine Ein-/Ausgabefunktion <math>g(x)</math> gesucht, für die <math>y(t) = g(x(t))</math> so wenig wie möglich variiert und <math>g</math> nicht konstant ist.

Formal schreibt man:

Gegeben sei ein <math>n</math>-dimensionales Eingabesignal <math>x(t) = [x_1(t), \dots, x_n(t)]</math> mit <math>t \in [t_0, t_1]</math>. Finde eine <math>m</math>-dimensionale Ein-/Ausgabefunktion <math>g(x) = [g_1(x), \dots, g_m(x)]</math>, die aus <math>x(t)</math> die <math>m</math>-dimensionale Ausgabe <math>y(t) = [y_1(t), y_2(t), \dots, y_m(t)]</math> mit <math>y_i(t) = g_i(x(t))</math> für jedes <math>i \in \{1, \dots, m\}</math> erzeugt. Dabei müssen für alle <math>i \in \{1, \dots, m\}</math> folgende Nebenbedingungen erfüllt sein:

<math>

\begin{align} \Delta_i = \Delta(y_i)  :&= \langle \dot{y}_i^2 \rangle &\text{ ist minimal}\\ \langle y_i \rangle &= 0 &\text{(Mittelwert)}\\ \langle y_i^2 \rangle &= 1 &\text{(Varianz)}\\ \forall i' < i: \langle y_{i'} y_i \rangle &= 0 &\text{(Dekorrelation)} \end{align} </math>

wobei <math>\dot{y}</math> die Ableitung nach <math>t</math> bezeichnet und <math>\langle \cdot \rangle</math> ein Durchschnitt über die Zeit ist:

<math>\langle f \rangle := \frac{1}{t_1 - t_0} \int\limits_{t_0}^{t_1} f(t) \mathrm{d}t</math>

Weblinks

• Laurenz Wiskott et al.: Slow feature analysis. In: Scholarpedia. 6, Nr. 4, 2011, 5282.

Einzelnachweise

<references />