Lineare Regression per Hand ausrechnen

Linear Regression

1. Matrix aufstellen
2. Gewichte w berechnen
3. Funktion mit Gewichten und Basis aufstellen

Matrix:

$$\begin{array}{c}\Phi =\left(\begin{array}{cccc}{\varphi }_0\left(x_1\right)& {\varphi }_1\left(x_1\right)& \cdots & {\varphi }_{M-1}\left(x_1\right)\\ {\varphi }_0\left(x_2\right)& {\varphi }_1\left(x_2\right)& \cdots & {\varphi }_{M-1}\left(x_2\right)\\ ⋮& ⋮& \ddots & ⋮\\ {\varphi }_0\left(x_N\right)& {\varphi }_1\left(x_N\right)& \cdots & {\varphi }_{M-1}\left(x_N\right)\end{array}\right)\end{array}$$

Berechnung der Gewichte (falls die Spalten der Matrix linear unabhängig sind):

$$\begin{array}{c}{\left({\Phi }^T\Phi \right)}^{-1}{\Phi }^{T}y\end{array}$$

oder das GLS lösen:

$$\begin{array}{c}{\Phi }^T\Phi w={\Phi }^{T}y\end{array}$$