Schritt 1: Prognosefrage und Bewertungszeitraum definieren
Was zu tun ist: Legen Sie fest, was prognostiziert wird, welchen Prognosehorizont Sie verwenden, welches tatsächliche Ergebnis zum Vergleich dient und an welchem Datum jede Vorhersage erstellt wurde. Trennen Sie Bewertungen innerhalb der Stichprobe, außerhalb der Stichprobe und mit verzögerten Daten.
Woran Erfolg erkennbar ist: Jede Prognose besitzt ein bekanntes Ziel, einen Zeitraum, ein Ursprungsdatum und ein vergleichbares tatsächliches Ergebnis.
Häufiger Fehler: Bewerten Sie eine Vorhersage nicht mit Informationen, die zum Zeitpunkt ihrer Erstellung nicht verfügbar waren.
Schritt 2: Wichtige Zahlen neu berechnen und zurückverfolgen
Was zu tun ist: Berechnen Sie wichtige Summen, Quoten, Veränderungen, Residuen und Szenarioergebnisse unabhängig neu. Verfolgen Sie jede Kennzahl bis zur Quelldatei, Zeile, zum Feld und zur Referenz zurück, die für die Prüfung verwendet wurden.
Woran Erfolg erkennbar ist: Eine prüfende Person kann jede wesentliche Zahl reproduzieren, ohne sich auf ein ungeklärtes Ergebnis verlassen zu müssen.
Häufiger Fehler: Prüfen Sie nicht nur das abschließende Diagramm, während Quelltextraktion und Zwischenberechnungen ungeprüft bleiben.
Schritt 3: Mehrere Genauigkeitskennzahlen berechnen
Was zu tun ist: Berechnen Sie MAE, RMSE, Bias oder mittleren Fehler, maximalen Fehler, Fehlervarianz und MAPE, sofern Nullwerte kein Problem darstellen. Fügen Sie MASE hinzu, wenn ein Vergleich mit einer naiven Referenzprognose sinnvoll ist.
Woran Erfolg erkennbar ist: Der Bericht unterscheidet zwischen durchschnittlichem Fehler, großen Abweichungen, systematischer Richtung und Instabilität.
Häufiger Fehler: Betrachten Sie R² oder eine einzelne Durchschnittskennzahl nicht als vollständige Beschreibung der Prognosequalität.
Schritt 4: Fehler nach Regime und Zeit segmentieren
Was zu tun ist: Vergleichen Sie ruhige Zeiträume, Schocks, Erholungsphasen und strukturelle Brüche. Prüfen Sie Residuenverteilungen, rollierende Kennzahlen, Verschiebungen im Merkmalsraum und die größten Ausreißer.
Woran Erfolg erkennbar ist: Sie können erkennen, wann das Modell funktioniert, wann seine Leistung nachlässt und unter welchen Bedingungen die größten Fehler entstehen.
Häufiger Fehler: Lassen Sie nicht zu, dass eine gute Leistung in einer stabilen Phase ein Versagen in einem anderen Betriebsregime verdeckt.
Schritt 5: Auf Lookahead-Bias und instabile Beziehungen prüfen
Was zu tun ist: Vergleichen Sie Niveaus mit differenzierten Daten, naive Lookahead-Informationen mit realistisch verzögerten Daten und prüfen Sie rollierende Korrelationen sowie die Stabilität der Koeffizienten.
Woran Erfolg erkennbar ist: Die gemeldete Leistung spiegelt die Informationen und Beziehungen wider, die zum Zeitpunkt der Vorhersage tatsächlich verfügbar gewesen wären.
Häufiger Fehler: Interpretieren Sie trendende Niveaus oder zeitgleiche Variablen nicht als Beleg für verlässliche Prognosekraft.
Schritt 6: Basis- und Belastungsszenarien durchführen
Was zu tun ist: Verändern Sie die Annahmen, die das Ergebnis voraussichtlich am stärksten beeinflussen, etwa Zinssätze, operative Leistung, Auslastung, Inflation oder politische Rahmenbedingungen. Dokumentieren Sie die Auswirkungen auf Cashflow, Deckungsgrad, Break-even-Punkte und kumulierte Ergebnisse.
Woran Erfolg erkennbar ist: Entscheidungsträger können Abwärtsrisiko, Basisfall, Erholungspfad und die für jede Abweichung verantwortlichen Annahmen erkennen.
Häufiger Fehler: Präsentieren Sie keine Basisprognose, ohne zu quantifizieren, wie sie sich unter plausiblen ungünstigen Bedingungen verändert.
Schritt 7: Korrekturen dokumentieren und ein Urteil abgeben
Was zu tun ist: Dokumentieren Sie bestätigte Fehler, Korrekturen, offene Ausnahmen, Belege und das abschließende Bestanden/Nicht-bestanden-Ergebnis. Bewahren Sie die Prüfspur auf, damit die Prüfung wiederholt werden kann.
Woran Erfolg erkennbar ist: Das abschließende Ergebnis ist vollständig, belegt, reproduzierbar und für eine nicht spezialisierte prüfende Person verständlich.
Häufiger Fehler: Korrigieren Sie keine Zahl, ohne zu dokumentieren, warum sie geändert wurde und welche Quelle die Korrektur belegt.