Kovarianz berechnen < Wahrscheinlichkeitstheorie < Stochastik < Hochschule < Mathe < Vorhilfe
|
Status: |
(Frage) beantwortet | Datum: | 23:50 Di 20.10.2009 | Autor: | Cyron |
Aufgabe | Beweise: [mm] Cov(x_{n+1}^T \hat \beta,e_{n+1}|X,x_{n+1})=0 [/mm] |
Hey,
habe ein Problem bei o.g. Aufgabe. Es handelt sich um eine bedingte Varianz im linearen Modell. [mm] \hat \beta [/mm] ist der Kleinste-Quadrate-Schätzer und [mm] e_{n+1} [/mm] ein Residuum.
Bin für jeden Hinweis sehr dankbar.
Gruß
Cyron
|
|
|
|
Status: |
(Antwort) fertig | Datum: | 10:26 Mi 21.10.2009 | Autor: | Blech |
Hi,
> Beweise: [mm]Cov(x_{n+1}^T \hat \beta,e_{n+1}|X,x_{n+1})=0[/mm]
> Hey,
>
> habe ein Problem bei o.g. Aufgabe. Es handelt sich um eine
> bedingte Varianz im linearen Modell. [mm]\hat \beta[/mm] ist der
> Kleinste-Quadrate-Schätzer und [mm]e_{n+1}[/mm] ein Residuum.
X? [mm] $x_{n+1}$? [/mm] Und wie sieht das Residuum aus?
*Wenn* die Bezeichnungen sind, wie ich jetzt einfach mal vermute, dann ist das ganze keine bedingte Varianz, weil die Designmatrix X nicht zufällig ist. Nur Y ist zufällig, alles andere läßt sich rausziehen.
Das ganze geht imho sogar einfacher für alle n auf einmal, anstatt Zeilenweise (mit Y als response).
[mm] $X\hat\beta= X(X^tX)^{-1}X^tY [/mm] =: [mm] \hat [/mm] H Y$
$e = [mm] X\hat\beta [/mm] -Y = [mm] \hat [/mm] H Y -Y$
Was Du also suchst ist
[mm] $Cov(X\hat\beta,e)=Cov(\hat [/mm] H Y, [mm] \hat [/mm] H Y - Y)$
Mit
1) den Rechenregeln für die multivariate Kovarianz
2) der Feststellung, daß die einzelnen Werte des response unabhängig sind (wie sieht also Var(Y) aus?)
3) und der Überlegung, daß [mm] $\hat [/mm] H$ eine Projektion ist, also [mm] $\hat H*\hat H=\hat [/mm] H$
kommst Du dann auf das Ergebnis.
ciao
Stefan
|
|
|
|
|
Status: |
(Frage) beantwortet | Datum: | 11:40 Mi 21.10.2009 | Autor: | Cyron |
Danke schon mal für deine Antwort!
X ist die Designmatrix, [mm] x_{n+1} [/mm] ist eine Kovariablenausprägung für einen (n+1)-ten Datenpunkt. Die Kovariablen sind hier auf jeden Fall zufällig! E(e|X)=0 und [mm] Cov(e|X)=\sigma²I
[/mm]
Soweit meine Lösung:
[mm] Cov(x_{n+1}^T \hat \beta,e_{n+1})=E(x_{n+1}^T \hat \beta e_{n+1})-E(x_{n+1}^T \hat \beta)*E(e_{n+1})
[/mm]
Das Produkt ist dann Null, da [mm] E(e_{n+1})=0, [/mm] aber wie lautet der linke Erwartungswert?
Komme auch trotz der Hinweise hier irgendwie nicht weiter.
|
|
|
|
|
Status: |
(Antwort) fertig | Datum: | 12:16 Mi 21.10.2009 | Autor: | luis52 |
Moin,
du kannst [mm] $\hat\beta$ [/mm] als Linearkombination von [mm] $e_1,\dots,e_n$ [/mm] schreiben ...
vg Luis
|
|
|
|
|
Status: |
(Frage) beantwortet | Datum: | 17:27 Mi 21.10.2009 | Autor: | Cyron |
Geht das denn? Ich hab nichts dazu gefunden. Oder meinen Sie als Linearkombination von [mm] x_{1},...,x_{n}? [/mm] Aber auch damit komme ich dann nicht weiter.
|
|
|
|
|
Status: |
(Antwort) fertig | Datum: | 17:59 Mi 21.10.2009 | Autor: | luis52 |
> Geht das denn?
Ja, [mm] $\hat\beta= X(X^tX)^{-1}X^tY$, [/mm] und $Y$ haengt meinem Verstaendnis nach nur von [mm] $e_1,\dots,e_n$ [/mm] ab.
vg Luis
|
|
|
|
|
Status: |
(Frage) beantwortet | Datum: | 11:59 Do 22.10.2009 | Autor: | Cyron |
Und was ist mit den [mm] x_{1},...,x_{n} [/mm] ? Je nachdem auf welcher Stufe die [mm] x_{i} [/mm] stehen, werden doch andere y's geschätzt oder nicht?
Wäre sehr nett, wenn Sie mir die Formel nennen könnten, welche [mm] \hat \beta [/mm] als Linearkombination der Residuen ausdrückt. Wahrscheinlich steh ich einfach nur auf dem Schlauch.
Vielen Dank schon mal!
|
|
|
|
|
Status: |
(Antwort) fertig | Datum: | 14:03 Do 22.10.2009 | Autor: | luis52 |
Wegen [mm] $Y=X\beta+e$ [/mm] ist
$ [mm] \hat\beta= X(X^tX)^{-1}X^tY=X(X^tX)^{-1}X^t(X\beta+e)=X\beta+ X(X^tX)^{-1}X^te$.
[/mm]
$e_$ ist der Vektor der [mm] $e_1,\dots,e_n$.
[/mm]
vg Luis
|
|
|
|