Ein interaktiver Lernpfad
Layer Normalization.
Level 87 · Neuronale Netze. Normiere Merkmale eines einzelnen Tokens. Mit 20 Aufgaben, Erklärvideo und interaktiven Werkzeugen.
Dein Stand wird automatisch in diesem Browser gespeichert. Alle Levels sind frei wählbar – auch wenn du Browserdaten gelöscht hast.
Für interne Lernstatistiken werden eine anonyme Browser-ID, das ausgewählte Level und Fortschrittszählungen übertragen. Deine Antworten und persönlichen Notizen bleiben im Browser.
Level 87 / 100
Layer Normalization
Die Idee
Normiere Merkmale eines einzelnen Tokens.
Wichtig: LayerNorm berechnet die Statistik über Merkmale, nicht über den Batch.
Warum für AI? Lokale Rechenregeln ergeben gemeinsam ein trainierbares neuronales Netz.
Ein Beispiel mit Lösungsweg
LayerNorm für x=[3, 4, 5], γ=2, β=0.1, ε=10^−5. Gib alle drei Ausgaben an.
Für die Kurzschreibweise im Rechenweg: a=3, b=1, c=2, n=1. Nebeneinanderstehende Buchstaben bedeuten Multiplikation (z. B. ab = a · b). 1. μ=(3)+(1) und σ²=2b²/3. 2. Normiere die Abweichungen (−(1),0,(1)), dann skaliere und verschiebe. 3. y₁ = -2.34947; y₂ = 0.1; y₃ = 2.54947. Prüfe die Reihenfolge und die Vorzeichen mit der Aufgabenstellung. Ergebnis: -2.34947; 0.1; 2.54947.
Erklärvideo · mit deutscher Sprachspur
Sehen, hören und verstehen.
Animierte Grafiken zeigen den Rechenweg – mit deutscher Erklärung und Untertiteln. Pausiere jederzeit zum Nachrechnen.
Jetzt bist du dran.
20 Aufgaben · 1–4 Einstieg, ab 5 langsam anspruchsvollerAufgabe 1 / 20
LayerNorm für x=[3, 4, 5], γ=2, β=0.1, ε=10^−5. Gib alle drei Ausgaben an.
Alle 100 Themen entdecken
Alle 20 Aufgaben dieses Levels lesen
LayerNorm für x=[3, 4, 5], γ=2, β=0.1, ε=10^−5. Gib alle drei Ausgaben an.
LayerNorm für x=[4, 5, 6], γ=2, β=0.2, ε=10^−5. Gib alle drei Ausgaben an.
LayerNorm für x=[5, 6, 7], γ=2, β=0.3, ε=10^−5. Gib alle drei Ausgaben an.
LayerNorm für x=[6, 7, 8], γ=2, β=0.4, ε=10^−5. Gib alle drei Ausgaben an.
LayerNorm für x=[7, 9, 11], γ=3, β=0.5, ε=10^−5. Gib alle drei Ausgaben an.
LayerNorm für x=[8, 10, 12], γ=3, β=0.6, ε=10^−5. Gib alle drei Ausgaben an.
LayerNorm für x=[10, 12, 14], γ=3, β=0.7, ε=10^−5. Gib alle drei Ausgaben an.
LayerNorm für x=[11, 13, 15], γ=4, β=0.8, ε=10^−5. Gib alle drei Ausgaben an.
LayerNorm für x=[13, 16, 19], γ=4, β=0.9, ε=10^−5. Gib alle drei Ausgaben an.
LayerNorm für x=[14, 17, 20], γ=4, β=1, ε=10^−5. Gib alle drei Ausgaben an.
LayerNorm für x=[16, 19, 22], γ=5, β=1.1, ε=10^−5. Gib alle drei Ausgaben an.
LayerNorm für x=[17, 20, 23], γ=5, β=1.2, ε=10^−5. Gib alle drei Ausgaben an.
LayerNorm für x=[19, 23, 27], γ=5, β=1.3, ε=10^−5. Gib alle drei Ausgaben an.
LayerNorm für x=[20, 24, 28], γ=6, β=1.4, ε=10^−5. Gib alle drei Ausgaben an.
LayerNorm für x=[22, 26, 30], γ=6, β=1.5, ε=10^−5. Gib alle drei Ausgaben an.
LayerNorm für x=[23, 27, 31], γ=6, β=1.6, ε=10^−5. Gib alle drei Ausgaben an.
LayerNorm für x=[25, 30, 35], γ=7, β=1.7, ε=10^−5. Gib alle drei Ausgaben an.
LayerNorm für x=[26, 31, 36], γ=7, β=1.8, ε=10^−5. Gib alle drei Ausgaben an.
LayerNorm für x=[28, 33, 38], γ=7, β=1.9, ε=10^−5. Gib alle drei Ausgaben an.
LayerNorm für x=[29, 34, 39], γ=8, β=2, ε=10^−5. Gib alle drei Ausgaben an.
Dein Fortschritt gehört dir.
Exportiere ihn vor dem Löschen deiner Browserdaten oder nimm ihn als Datei auf ein anderes Gerät mit. Alternativ kannst du jederzeit ein Level direkt auswählen.
Mathematisch verstehen. Praktisch vertiefen.
Der Kurs verbindet Grundlagen mit anspruchsvollen Modellrechnungen. Für professionelle AI-Arbeit gehören danach eigene Implementierungen, Experimente, Datenanalyse und das Lesen von Forschungsarbeiten dazu. Eine abgeschlossene Aufgabenliste ist kein Berufsabschluss.
Zum Vertiefen: Mathematics for Machine Learning · Deep Learning · Attention Is All You Need. Die Aufgaben und Kurzvideos dieser Seite sind eigenständig erstellt.