Datensatz/Fehlerquadrate/Lineare Funktion/Fakt/Beweis

Wir betrachten die Abbildung

${\displaystyle \psi \colon \mathbb {R} ^{2}\longrightarrow \mathbb {R} ^{n},\,(a,b)\longmapsto \left(ax_{1}+b,\,\ldots ,\,ax_{n}+b\right).}$

Diese Abbildung ist linear und injektiv, da

${\displaystyle {}\psi (1,0)=\left(x_{1},\,\ldots ,\,x_{n}\right)=:v_{1}\,}$

und

${\displaystyle {}\psi (0,1)=\left(1,\,\ldots ,\,1\right)=:v_{2}\,}$

linear unabhängig sind. Es sei

${\displaystyle {}U=\operatorname {bild} \psi =\langle v_{1},v_{2}\rangle \subseteq \mathbb {R} ^{n}\,.}$

Es geht darum, die orthogonale Projektion von ${\displaystyle {}y=\left(y_{1},\,\ldots ,\,y_{n}\right)}$ auf ${\displaystyle {}U}$ zu bestimmen. Der Vektor

${\displaystyle {}u_{2}={\frac {v_{2}}{\Vert {v_{2}}\Vert }}=\left({\frac {1}{\sqrt {n}}},\,\ldots ,\,{\frac {1}{\sqrt {n}}}\right)\,}$

ist normiert. Wegen

${\displaystyle {}\left\langle {\begin{pmatrix}x_{1}\\\vdots \\x_{n}\end{pmatrix}}-{\bar {x}}{\begin{pmatrix}1\\\vdots \\1\end{pmatrix}},{\begin{pmatrix}1\\\vdots \\1\end{pmatrix}}\right\rangle =0\,}$

bildet

${\displaystyle {}u_{1}:={\frac {v_{1}-{\bar {x}}v_{2}}{\Vert {v_{1}-{\bar {x}}v_{2}}\Vert }}={\frac {1}{\sqrt {\sum _{i=1}^{n}{\left(x_{i}-{\bar {x}}\right)}^{2}}}}{\begin{pmatrix}x_{1}-{\bar {x}}\\\vdots \\x_{n}-{\bar {x}}\end{pmatrix}}\,}$

zusammen mit ${\displaystyle {}u_{2}}$ eine Orthonormalbasis von ${\displaystyle {}U}$. Es entspricht ${\displaystyle {}u_{2}}$ der konstanten Funktion ${\displaystyle {}{\frac {1}{\sqrt {n}}}}$ und ${\displaystyle {}u_{1}}$ der affin-linearen Funktion ${\displaystyle {}{\frac {1}{\sqrt {\sum _{i=1}^{n}{\left(x_{i}-{\bar {x}}\right)}^{2}}}}(x-{\bar {x}})}$. Nach Fakt ist

${\displaystyle {}p_{U}\left(y\right)=\left\langle y,u_{1}\right\rangle u_{1}+\left\langle y,u_{2}\right\rangle u_{2}\,,}$

dabei ist

${\displaystyle {}\left\langle y,u_{1}\right\rangle ={\frac {\sum _{i=1}^{n}y_{i}{\left(x_{i}-{\bar {x}}\right)}}{\sqrt {\sum _{i=1}^{n}{\left(x_{i}-{\bar {x}}\right)}^{2}}}}\,}$

und

${\displaystyle {}\left\langle y,u_{2}\right\rangle ={\frac {\sum _{i=1}^{n}y_{i}}{\sqrt {n}}}\,.}$

Somit ist die optimale affin-lineare Funktion gleich

${\displaystyle {\frac {\sum _{i=1}^{n}y_{i}{\left(x_{i}-{\bar {x}}\right)}}{\sqrt {\sum _{i=1}^{n}{\left(x_{i}-{\bar {x}}\right)}^{2}}}}\cdot {\frac {1}{\sqrt {\sum _{i=1}^{n}{\left(x_{i}-{\bar {x}}\right)}^{2}}}}(x-{\bar {x}})+{\frac {\sum _{i=1}^{n}y_{i}}{\sqrt {n}}}\cdot {\frac {1}{n}},}$

also ist

${\displaystyle {}a={\frac {\sum _{i=1}^{n}y_{i}{\left(x_{i}-{\bar {x}}\right)}}{\sum _{i=1}^{n}{\left(x_{i}-{\bar {x}}\right)}^{2}}}\,}$

und

${\displaystyle {}b={\bar {y}}-a{\bar {x}}\,.}$