Residuum

Das Residuum ist die Differenz zwischen einem vorhergesagten Wert und einem beobachteten Wert. Das Residuum repräsentiert die nicht erklärbare Reststreuung.

Als Residuum bezeichnet man in der numerischen Mathematik die Abweichung vom gewünschten Ergebnis, welche entsteht, wenn in eine Gleichung Näherungslösungen eingesetzt werden. Angenommen, es sei eine Funktion $f$ gegeben und man möchte ein $x$ finden, so dass

f(x)=b.

Mit einer Näherung ${\tilde {x}}$ an $x$ ist das Residuum $r$

r=f(x)-f({\tilde {x}})=b-f({\tilde {x}}).

Der Fehler $e$ zur Lösung hingegen ist

e=x-{\tilde {x}}.

Der Fehler ist in der Regel unbekannt, da $x$ unbekannt ist, weswegen dieser als Abbruchkriterium in einem numerischen Verfahren nicht benutzbar ist. Das Residuum hingegen hängt nur von ${\tilde {x}}$ ab.

Wenn das Residuum klein ist, folgt in vielen Fällen, dass der Fehler auch klein ist, also die Näherung nahe bei der Lösung liegt, das heißt der relative Fehler ist

{\frac {\|x-{\tilde {x}}\|}{\|x\|}}\ll 1.~

In diesen Fällen wird die zu lösende Gleichung als gut gestellt angesehen und das Residuum kann als Maß der Abweichung der Näherung von der exakten Lösung betrachtet werden. Bei linearen Gleichungssystemen, also $f(x)=Ax$ , können sich die Norm des relativen Fehlers und die Norm des relativen Residuums um den Faktor der Kondition $\kappa$ unterscheiden:

{\frac {\|x-{\tilde {x}}\|}{\|x\|}}\leq \kappa (A){\frac {\|Ax-A{\tilde {x}}\|}{\|Ax\|}}=\kappa (A){\frac {\|b-A{\tilde {x}}\|}{\|b\|}}.~

Residuum einer Operatorgleichung

Analog wird der Begriff des Residuums für Differential-, Integral- und Funktionalgleichungen verwendet, bei denen anstelle einer Zahl eine Funktion $u$ gesucht ist, die eine Operatorgleichung

T(u)=g

für alle Werte $x\in {\mathcal {X}}$ erfüllt. Für eine Approximation ${\tilde {u}}$ an $u$ ist das Residuum die Funktion

r=T(u)-T({\tilde {u}})=g-T({\tilde {u}}).

Als Maß für die Güte der Approximation kann dann zum Beispiel das Maximum des Residuums

\max _{x\in {\mathcal {X}}}\|r(x)\|=\max _{x\in {\mathcal {X}}}\|g(x)-T({\tilde {u}})(x)\|

oder auch das gemittelte Residuum

\int _{\mathcal {X}}\|g(x)-T({\tilde {u}})(x)\|^{2}~{\rm {d}}x

gewählt werden.

Literatur

C. T. Kelley: Iterative Methods for Linear and Nonlinear Equations. SIAM, ISBN 0-89871-352-8.
R. Schaback, H. Wendland: Numerische Mathematik. 5. Auflage, Springer, 2005.

Quelle: https://de.wikipedia.org/wiki/Residuum_(numerische_Mathematik)

Störgröße und Residuum

Theoretische wahre Gerade

y

und geschätzte Regressionsgerade

{\hat {y}}

. Das Residuum

{\hat {\varepsilon }}_{i}

ist die Differenz zwischen dem Messwert

y_{i}

und Schätzwert

\hat{y}_i

In der Statistik sind Störgröße und Residuum zwei eng verwandte Konzepte. Die Störgrößen (nicht zu verwechseln mit Störparametern oder Störfaktoren), auch Störvariablen, Störterme, Fehlerterme oder kurz Fehler genannt, sind in einer einfachen oder multiplen Regressionsgleichung unbeobachtbare Zufallsvariablen, die den vertikalen Abstand zwischen Beobachtungspunkt und wahrer Gerade (Regressionsfunktion der Grundgesamtheit) messen. Für sie nimmt man für gewöhnlich an, dass sie unkorreliert sind, einen Erwartungswert von Null und eine homogene Varianz aufweisen (Gauß-Markow-Annahmen). Sie beinhalten unbeobachtete Faktoren, die sich auf die abhängige Variable auswirken. Die Störgröße kann auch Messfehler in den beobachteten abhängigen oder unabhängigen Variablen enthalten.

Im Gegensatz zu den Störgrößen sind Residuen (lateinisch residuum = „das Zurückgebliebene“) berechnete Größen und messen den vertikalen Abstand zwischen Beobachtungspunkt und der geschätzten Regressionsgerade. Mitunter wird das Residuum auch als „geschätztes Residuum“ bezeichnet. Diese Benennung ist problematisch, da die Störgröße eine Zufallsvariable und kein Parameter ist. Von einer Schätzung der Störgröße kann daher nicht die Rede sein.^[1]

Die Problematik bei der sogenannten Regressionsdiagnostik ist, dass sich die Gauß-Markow-Annahmen nur auf die Störgrößen, nicht aber auf die Residuen beziehen. Die Residuen haben zwar ebenfalls einen Erwartungswert von Null, sind aber nicht unkorreliert und weisen auch keine homogene Varianz auf. Um diesem Missstand Rechnung zu tragen, werden die Residuen meist modifiziert, um die geforderten Annahmen zu erfüllen, z. B. studentisierte Residuen. Die Quadratsumme der Residuen spielt in der Statistik in vielen Anwendungen eine große Rolle, z. B. bei der Methode der kleinsten Quadrate. Die Notation der Störgrößen als $\varepsilon_i$ bzw. $e_{i}$ ist an das lateinische Wort erratum (Irrtum) angelehnt. Die Residuen können mit Hilfe der Residualmatrix generiert werden.

Störgröße und Residuum

Störgrößen sind nicht mit den Residuen zu verwechseln. Man unterscheidet die beiden Konzepte wie folgt:

Unbeobachtbare zufällige Störgrößen $\varepsilon_i$ : Messen den vertikalen Abstand zwischen Beobachtungspunkt und theoretischer (wahrer Gerade)
Residuum ${\hat {\varepsilon }}_{i}=y_{i}-{\hat {y}}_{i}$ : Messen den vertikalen Abstand zwischen empirischer Beobachtung und der geschätzten Regressionsgerade

Einfache lineare Regression

Diese Graphik zeigt die Zerlegung der „zu erklärenden Abweichung“

\left(y_{i}-{\overline {y}}\right)

in die „erklärte Abweichung“

\left({\hat {y}}_{i}-{\overline {y}}\right)

und das „Residuum“

\left(y_{i}-{\hat {y}}_{i}\right)

In der einfachen linearen Regression mit dem Modell der linearen Einfachregression $Y_{i}=\beta _{0}+\beta _{1}x_{i}+\varepsilon _{i}$ sind die gewöhnlichen Residuen gegeben durch

{\hat {\varepsilon }}_{i}=y_{i}-{\hat {y}}_{i}=y_{i}-{\hat {\beta }}_{0}-{\hat {\beta }}_{1}x_{i}

Hierbei handelt es sich um Residuen, da vom wahren Wert ein geschätzter Wert abgezogen wird. Genauer gesagt werden von den Beobachtungswerten $y_{i}$ die angepassten Werte (englisch fitted values) ${\hat {y}}_{i}={\hat {\beta }}_{0}+{\hat {\beta }}_{1}x_{i}$ abgezogen. In der einfachen linearen Regression werden an die Störgrößen für gewöhnlich zahlreiche Annahmen getroffen (siehe Annahmen über die Störgrößen).

Residualvarianz

Die Residualvarianz (auch Restvarianz genannt) ist eine Schätzung der Varianz der Regressionsfunktion in der Grundgesamtheit $\operatorname {Var} (y\mid X=x)=\operatorname {Var} (\beta _{0}+\beta _{1}x+\varepsilon )=\sigma ^{2}=\operatorname {konst}$ . In der einfachen linearen Regression ist eine durch die Maximum-Likelihood-Schätzung gefundene Schätzung gegeben durch

{\tilde {s}}_{\varepsilon }^{2}={\frac {1}{n}}\sum \limits _{i=1}^{n}{\hat {\varepsilon }}_{i}^{2}={\frac {1}{n}}\sum \limits _{i=1}^{n}(y_{i}-{\hat {\beta }}_{0}-{\hat {\beta }}_{1}x_{i})^{2}

Allerdings erfüllt der Schätzer nicht gängige Qualitätskriterien für Punktschätzer und wird daher nicht oft genutzt.^[2] Beispielsweise ist der Schätzer nicht erwartungstreu für $\sigma ^{2}$ . In der einfachen linearen Regression lässt sich unter den Voraussetzungen des klassischen Modells der linearen Einfachregression zeigen, dass eine erwartungstreue Schätzung der Varianz der Störgrößen $\sigma ^{2}$ , d. h. eine Schätzung, die $\operatorname {E} ({\hat {\sigma }}^{2})=\sigma ^{2}$ erfüllt, gegeben ist durch die um die Anzahl der Freiheitsgrade adjustierte Variante:

{\hat {\sigma }}^{2}={\frac {1}{n-2}}\sum \limits _{i=1}^{n}(y_{i}-{\hat {\beta }}_{0}-{\hat {\beta }}_{1}x_{i})^{2}

Die positive Quadratwurzel dieser erwartungstreuen Schätzfunktion wird auch als Standardfehler der Regression bezeichnet.

Residuen als Funktion der Störgrößen

In der einfachen linearen Regression lassen sich die Residuen als Funktion der Störgrößen $\varepsilon_i$ für jede einzelne Beobachtung schreiben als^[3]

{\hat {\varepsilon }}_{i}=\varepsilon _{i}-({\hat {\beta }}_{0}-\beta _{0})-({\hat {\beta }}_{1}-\beta _{1})x_{i}

Summe der Residuen

Die KQ-Regressionsgleichung wird so bestimmt, dass die Residuenquadratsumme zu einem Minimum wird. Äquivalent dazu bedeutet das, dass sich positive und negative Abweichungen von der Regressionsgeraden ausgleichen. Wenn das Modell der linearen Einfachregression einen – von Null verschiedenen – Achsenabschnitt enthält, dann muss also gelten, dass die Summe der Residuen Null ist^[4]

\sum _{i=1}^{n}{\hat {\varepsilon }}_{i}=0

Multiple lineare Regression

Regressionsebene, die bei zwei Regressoren durch eine Punktwolke verläuft.

Da die Residuen im Gegensatz zu den Störgrößen beobachtbar und berechnete Größen sind, können sie graphisch dargestellt oder auf andere Weise untersucht werden. Im Gegensatz zur einfachen linearen Regression, bei der eine Gerade bestimmt wird, bestimmt man bei der multiplen linearen Regression (Erweiterung der einfachen linearen Regression auf $p$ Regressoren) eine Hyperebene, die durch die Punktwolke verläuft. Falls zwei Regressoren vorliegen, liegen die Beobachtungen bildlich gesprochen über beziehungsweise unter der Regressionsebene. Die Differenzen der beobachteten und der vorhergesagten, auf der Hyperebene liegenden $y$ -Werte, stellen die Residuen dar.^[5] Für sie gilt:

{\hat {\varepsilon }}_{i}=y_{i}-{\hat {y}}_{i}=y_{i}-{\hat {\beta }}_{0}-{\hat {\beta }}_{1}x_{i1}-{\hat {\beta }}_{2}x_{i2}-\dotsc -{\hat {\beta }}_{k}x_{ik}

Die Residuen, die durch die Kleinste-Quadrate-Schätzung gewonnen werden, werden gewöhnliche Residuen genannt. Wenn zusätzlich $n$ Beobachtungen vorliegen, dann sind die gewöhnlichen KQ-Residuen in der multiplen linearen Regression gegeben durch^[6]^[7]

{\hat {\boldsymbol {\varepsilon }}}=\mathbf {y} -{\hat {\mathbf {y} }}=\mathbf {y} -\mathbf {X} \mathbf {b} =\left(\mathbf {I} -\mathbf {X} \left(\mathbf {X} ^{\top }\mathbf {X} \right)^{-1}\mathbf {X} ^{\top }\right)\mathbf {y} =(\mathbf {I} -\mathbf {P} )\mathbf {y}

wobei $\mathbf {Q} :=(\mathbf {I} -\mathbf {P} )$ eine Projektionsmatrix, oder genauer gesagt die idempotente und symmetrische Residualmatrix darstellt und $\mathbf {b} =(\mathbf {X} ^{\top }\mathbf {X} )^{-1}\mathbf {X} ^{\top }\mathbf {y}$ den KQ-Schätzer im multiplen Fall darstellt.

Eigenschaften

Die gewöhnlichen Residuen sind im Mittel $0$ , d. h.

\operatorname {E} ({\hat {\boldsymbol {\varepsilon }}})=\operatorname {E} {\begin{pmatrix}{\hat {\varepsilon }}_{1}\\{\hat {\varepsilon }}_{2}\\\vdots \\{\hat {\varepsilon }}_{n}\end{pmatrix}}={\begin{pmatrix}0\\0\\\vdots \\0\end{pmatrix}}=\mathbf {0}

Die Kovarianzmatrix der gewöhnlichen Residuen ist gegeben durch

\operatorname {Cov} ({\hat {\boldsymbol {\varepsilon }}})=\operatorname {Cov} (\mathbf {Q} \mathbf {y} )=\mathbf {Q} \operatorname {Cov} (\mathbf {y} )\mathbf {Q} ^{\top }=\mathbf {Q} \operatorname {Cov} ({\boldsymbol {\varepsilon }})\mathbf {Q} =\operatorname {Cov} ({\boldsymbol {\varepsilon }})\mathbf {Q} \mathbf {Q} =\sigma ^{2}(\mathbf {I} -\mathbf {P} )=\sigma ^{2}\mathbf {Q}

Die gewöhnlichen Residuen sind also heteroskedastisch, da

\operatorname {Cov} ({\boldsymbol {\hat {\varepsilon }}})=\sigma ^{2}(\mathbf {I} -\mathbf {P} )=\sigma ^{2}\mathbf {Q} \neq \sigma ^{2}\mathbf {I}

Dies bedeutet, dass für die gewöhnlichen Residuen die Gauß-Markow-Annahmen nicht erfüllt sind, da die Homoskedastizitätsannahme $\operatorname {Cov} ({\boldsymbol {\varepsilon }})=\sigma ^{2}\mathbf {I}$ nicht zutrifft.

Mithilfe der Prädiktions- und der Residualmatrix lässt sich zeigen, dass die Residuen mit den vorhergesagten Werten unkorreliert sind^[8]

{\hat {\boldsymbol {\varepsilon }}}^{\top }{\hat {\mathbf {y} }}=\left(\left(\mathbf {I} -\mathbf {P} \right)\mathbf {y} \right)^{\top }\mathbf {P} \mathbf {y} =\mathbf {y} ^{\top }\left(\mathbf {I} -\mathbf {P} \right)\mathbf {P} \mathbf {y} =\mathbf {y} ^{\top }\left(\mathbf {P} -\mathbf {P} \right)\mathbf {y} =\mathbf {0}

Partielle Residuen

Partielle Residuen-Streudiagramme werden mithilfe von partiellen Residuen erstellt, die definiert sind durch

{\hat {\varepsilon }}_{x_{j},i}:=y_{i}-{\hat {\beta }}_{1}-{\hat {\beta }}_{2}x_{i2}-\ldots -{\hat {\beta }}_{j-1}x_{i,j-1}-{\hat {\beta }}_{j+1}x_{i,j+1}-\ldots -{\hat {\beta }}_{k}x_{i,k}=y_{i}-\mathbf {x} _{t}^{\top }{\hat {\boldsymbol {\beta }}}+{\hat {\beta }}_{j}x_{ij}

Studentisierte Residuen

Für dieses einfache Modell sei die Versuchsplanmatrix

\mathbf {X} ={\begin{pmatrix}1&x_{1}\\\vdots &\vdots \\1&x_{n}\end{pmatrix}}

gegeben. Die Prädiktionsmatrix $\mathbf{P}$ ist die Matrix der Orthogonalprojektion auf den Spaltenraum der Versuchsplanmatrix. $\mathbf{P}$ ist gegeben durch

\mathbf {P} =\mathbf {X} \left(\mathbf {X} ^{\top }\mathbf {X} \right)^{-1}\mathbf {X} ^{\top }

Die statistischen Hebelwerte $p_{ii}$ sind die $i$ -ten Diagonalelemente der Prädiktionsmatrix. Die Varianz des $i$ -ten Residuums ist gegeben durch

\operatorname {Var} ({\widehat {\varepsilon }}_{i})=\sigma ^{2}(1-p_{ii})

In diesem Fall hat die Versuchsplanmatrix ${\mathbf {X}}$ nur zwei Spalten, was zu folgender Varianz führt

\operatorname {Var} ({\widehat {\varepsilon }}_{i})=\sigma ^{2}\left(1-{\frac {1}{n}}-{\frac {(x_{i}-{\overline {x}})^{2}}{\sum _{i=1}^{n}(x_{i}-{\overline {x}})^{2}}}\right)

Die dazugehörigen studentisierten Residuen lauten

t_{i}={{\widehat {\varepsilon }}_{i} \over {\widehat {\sigma }}{\sqrt {1-p_{ii}\ }}}

Die studentisierten Residuen sind identisch (aber nicht unabhängig) verteilt und damit insbesondere homoskedastisch. Sie könnten somit eine Lösung für die Verletzung der Homoskedastizitätsannahme darstellen.

Aufbauende Maße

Residuenquadratsumme

Bildet man die Summe der quadrierten Residuen für alle Beobachtungen, so erhält man die Residuenquadratsumme:

SQR:=\sum _{i=1}^{n}{\hat {\varepsilon }}_{i}^{2}=\sum _{i=1}^{n}(y_{i}-{\hat {y}}_{i})^{2}

Diese spezielle Abweichungsquadratsumme taucht in vielen statistischen Maßen, wie z. B. dem Bestimmtheitsmaß, der F-Statistik und diversen Standardfehlern, wie dem Standardfehler der Regression auf. Die Minimierung der Residuenquadratsumme führt zum Kleinste-Quadrate-Schätzer.

Siehe auch

Mittlerer absoluter Fehler
Spezielle Residuen in der Überlebenszeitanalyse:

Einzelnachweise

↑ Ulrich Kockelkorn: Lineare statistische Methoden. De Gruyter 2018, ISBN 978-3-486-78782-5, S. 281 (abgerufen über De Gruyter Online).
↑ Ludwig Fahrmeir, Thomas Kneib, Stefan Lang, Brian Marx: Regression: models, methods and applications. Springer Science & Business Media, 2013, ISBN 978-3-642-34332-2, S. 109.
↑ Jeffrey Marc Wooldridge: Introductory econometrics: A modern approach. 4. Auflage. Nelson Education, 2015, S. 55.
↑ Manfred Precht und Roland Kraft: Bio-Statistik 2: Hypothesentests–Varianzanalyse–Nichtparametrische Statistik–Analyse von Kontingenztafeln–Korrelationsanalyse–Regressionsanalyse–Zeitreihenanalyse–Programmbeispiele in MINITAB, STATA, N, StatXact und TESTIMATE: 5., völlig überarb. Aufl. Reprint 2015, De Gruyter, Berlin Juni 2015, ISBN 978-3-486-78352-0 (abgerufen über De Gruyter Online), S. 299.
↑ Rainer Schlittgen: Regressionsanalysen mit R., ISBN 978-3-486-73967-1, S. 25 (abgerufen über De Gruyter Online).
↑ Ludwig Fahrmeir, Thomas Kneib, Stefan Lang, Brian Marx: Regression: models, methods and applications. Springer Science & Business Media, 2013, ISBN 978-3-642-34332-2, S. 77.
↑ Rainer Schlittgen: Regressionsanalysen mit R., ISBN 978-3-486-73967-1, S. 27 (abgerufen über De Gruyter Online).
↑ Rainer Schlittgen: Regressionsanalysen mit R., ISBN 978-3-486-73967-1, S. 27 (abgerufen über De Gruyter Online).

Quelle: https://de.wikipedia.org/wiki/Störgröße_und_Residuum

Residuum

Residuum

Residuum einer Operatorgleichung

Literatur

Störgröße und Residuum

Störgröße und Residuum

Einfache lineare Regression

Residualvarianz

Residuen als Funktion der Störgrößen

Summe der Residuen

Multiple lineare Regression

Eigenschaften

Partielle Residuen

Studentisierte Residuen

Aufbauende Maße

Residuenquadratsumme

Siehe auch

Einzelnachweise

Kontaktformular

Fragen zum Thema?