Holdout Datensatz

Die PRESS-Statistik wird wie folgt berechnet:

${\displaystyle {\text{PRESS}}=\sum _{i=1}^{n}(y_{i}-{\hat {y}}_{i})^{2}}$.

Dies entspricht einer Quadratsumme, wobei ${\displaystyle y_{i}}$ für die neuen Beobachtungswerte steht und ${\displaystyle {\widehat {y}}_{i}}$ für deren vorhergesagte Werte. Um den oben erwähnten Unterschied zur gewöhnlichen Residuenquadratsumme (residual sum of squares, kurz RSS) deutlich zu machen, kann man die Formel auch anders ausdrücken:

${\displaystyle {\text{PRESS}}={\text{RSS}}_{\text{test}}=\sum _{i=1}^{n}(y_{i,{\text{test}}}-{\hat {y}}_{i,{\text{test}}})^{2}}$.

Hier soll verdeutlicht werden, dass Werte für einen externen Datensatz vorhergesagt wurden. Der Unterschied zur normalen Residuenquadratsumme besteht lediglich im Kontext der betrachteten Daten und nicht in der Rechenvorschrift.

Leave-One-Out-Kreuzvalidierung

Manchmal wird PRESS auch als das Ergebnis bzw. eine Form einer Leave-One-Out-Kreuzvalidierung bezeichnet und zu dieser Kreuzvalidierung synonym verwendet. Das PRESS-Konzept lässt sich aber auch für andere Vorhersagen benutzen. Die Berechnung findet wie im Absatz oben statt, allerdings wird wiederholt ein Holdout Datensatz der Größe 1 verwendet.