Zum Inhalt springen
Favoriten

Rechner für multiple lineare Regression

Aktualisiert:

Geben Sie Ihre Zielwerte und zwei oder mehr Prädiktorvariablen ein, um eine multiple lineare Regression nach der Methode der kleinsten Quadrate zu schätzen. Der Rechner liefert den Achsenabschnitt, alle Regressionskoeffizienten, R², die geschätzte Gleichung sowie die vorhergesagten Werte mit Residuen.

Eine Zielgröße mit mehreren Prädiktoren anpassen

Eingabefelder
Wenn aktiviert, wird das Ergebnis automatisch aktualisiert, sobald Sie einen Wert ändern.

Formel der multiplen linearen Regression

Formel
\[ \hat{y} = \beta_0 + \beta_1 X_1 + \beta_2 X_2 + \cdots + \beta_p X_p \\\quad R^2 = 1 - \frac{\sum_{i=1}^{n} \left( y_i - \hat{y}_i \right)^2}{\sum_{i=1}^{n} \left( y_i - \bar{y} \right)^2} \]

Dabei bedeuten:

  • \(\hat{y}\) — der vorhergesagte Wert der Zielgröße
  • \(\beta_0\) — der Achsenabschnitt: der erwartete Wert von \(y\), wenn alle Prädiktoren null sind
  • \(\beta_j\) — der Koeffizient des Prädiktors \(X_j\): die erwartete Änderung von \(y\), wenn \(X_j\) um eine Einheit steigt und alle anderen Prädiktoren konstant gehalten werden
  • \(p\) — die Anzahl der Prädiktoren
  • \(n\) — die Anzahl der Beobachtungen
  • \(R^2\) — der Anteil der Varianz von \(y\), den das Modell erklärt

Die Koeffizienten werden mit der gewöhnlichen Methode der kleinsten Quadrate (KQ-Schätzung, OLS) geschätzt, also so, dass die Summe der quadrierten Residuen \(\sum (y - \hat{y})^2\) minimal wird. In Matrixschreibweise lautet die Lösung \(\hat{\boldsymbol{\beta}} = (\mathbf{X}^T \mathbf{X})^{-1} \mathbf{X}^T \mathbf{y}\); dieser Rechner löst dasselbe Kleinste-Quadrate-Problem mit einer numerisch stabilen QR-Zerlegung, statt \(\mathbf{X}^T\mathbf{X}\) explizit zu berechnen.

Multiple lineare Regression – Rechenbeispiel

Beispiel: acht Beobachtungen mit den Zielwerten 7; 12; 11; 16; 15; 20; 19; 24 und zwei Prädiktoren: \(X_1\) läuft von 1 bis 8, und \(X_2\) wechselt zwischen 0, 1, 0, 1, … — genau die Standarddaten im Rechner.

\[ \hat{y} = 5 + 2X_1 + 3X_2 \]

Ergebnis: Achsenabschnitt \(\beta_0 = 5\), Koeffizienten \(\beta_1 = 2\) und \(\beta_2 = 3\) sowie \(R^2 = 1\). Jeder vorhergesagte Wert stimmt mit dem tatsächlichen Zielwert überein, alle Residuen sind also 0, und die Residuenquadratsumme beträgt 0 bei einer Gesamtquadratsumme von 210. Dieser Datensatz wurde so konstruiert, dass er perfekt passt — deshalb erreicht \(R^2\) sein Maximum von 1. Echte Daten hinterlassen fast immer eine gewisse Reststreuung und liefern \(R^2 < 1\).

So verwenden Sie den Rechner

  1. Geben Sie Ihre Zielwerte (y) ein — ein Wert pro Beobachtung, getrennt durch Leerzeichen, Semikolons oder Zeilenumbrüche. Dezimalkommas sind erlaubt.
  2. Geben Sie die Prädiktorvariablen (X) ein — eine Beobachtung pro Zeile, wobei die Prädiktorwerte dieser Beobachtung durch Leerzeichen oder Semikolons getrennt werden. Behalten Sie die Spaltenreihenfolge in jeder Zeile bei, und geben Sie mindestens zwei Spalten ein.
  3. Prüfen Sie, dass die Anzahl der X-Zeilen mit der Anzahl der y-Werte übereinstimmt und dass jede Zeile gleich viele Werte enthält. Sie benötigen mindestens zwei Beobachtungen mehr als Prädiktoren.
  4. Lesen Sie die Ergebnisse ab: den Achsenabschnitt, die Tabelle der Regressionskoeffizienten, R², die Tabelle der vorhergesagten Werte mit Residuen sowie die geschätzte Gleichung mit den Anpassungsmaßen.

Was ist multiple lineare Regression?

Die multiple lineare Regression modelliert eine stetige Zielgröße als gewichtete Summe aus zwei oder mehr Prädiktoren plus einer Konstante. Sie erweitert die einfache lineare Regression, die nur einen Prädiktor verwendet, auf Situationen, in denen mehrere Variablen gleichzeitig auf die Zielgröße wirken können — etwa wenn ein Hauspreis aus Wohnfläche, Zimmeranzahl und Baujahr vorhergesagt wird oder der Ernteertrag aus Niederschlag, Temperatur und Düngemittelmenge.

Der entscheidende Vorteil gegenüber getrennten einfachen Regressionen: Jeder Koeffizient isoliert den Beitrag eines Prädiktors, während die übrigen einbezogenen Prädiktoren konstant gehalten werden. Ein Koeffizient von 2 für \(X_1\) bedeutet, dass die Zielgröße mit jeder Einheit, um die \(X_1\) steigt, um 2 Einheiten zunimmt — unabhängig davon, auf welchem Niveau die anderen Prädiktoren liegen. Deshalb können die Koeffizienten erheblich von den Steigungen abweichen, die man bei einfachen Regressionen mit jeweils nur einem Prädiktor erhält — das Modell trennt überlappende Effekte.

R² misst, wie gut die angepasste Ebene (oder Hyperebene) den Daten folgt: Es ist der Anteil der Varianz von \(y\), den die Prädiktoren erklären. Ein R² von 0,80 bedeutet, dass 80 % der beobachteten Streuung vom Modell wiedergegeben werden. Beachten Sie, dass R² beim Hinzufügen weiterer Prädiktoren nur gleich bleibt oder steigt — ein hohes R² mit vielen Prädiktoren ist also noch kein Beleg für ein gutes Modell, sondern beschreibt lediglich die Anpassung an die Daten, mit denen geschätzt wurde.

Um vor der Modellschätzung die paarweisen Zusammenhänge zwischen Ihren Variablen zu untersuchen, nutzen Sie den Rechner für die Spearman-Rangkorrelation oder den Kendalls-Tau-Rechner.

Annahmen, Grenzen und praktische Hinweise

  • Stichprobengröße: Für \(p\) Prädiktoren und den Achsenabschnitt benötigen Sie mindestens \(p + 2\) Beobachtungen (der Rechner setzt dies durch). In der Praxis sollten Sie für stabile Schätzungen mit etwa 10–20 Beobachtungen pro Prädiktor rechnen.
  • Keine redundanten Spalten: Die Prädiktoren dürfen nicht linear voneinander abhängen. Wenn Sie eine kategoriale Variable über 0/1-Dummy-Variablen kodieren, geben Sie eine Dummy-Spalte weniger als Ausprägungen ein — der Achsenabschnitt nimmt die Basiskategorie auf, genau wie die alternierende 0/1-Spalte im Beispiel.
  • Multikollinearität: Stark miteinander korrelierte Prädiktoren führen zu instabilen, schwer interpretierbaren Koeffizienten, selbst wenn die Gesamtanpassung gut aussieht. Prüfen Sie zuerst die paarweisen Zusammenhänge und entfernen oder kombinieren Sie überlappende Variablen.
  • Linearität: Die KQ-Schätzung setzt voraus, dass jeder Prädiktor — bei konstant gehaltenen übrigen Prädiktoren — linear mit der Zielgröße zusammenhängt. Gekrümmte Zusammenhänge lassen sich häufig abbilden, indem man transformierte Spalten (z. B. einen quadrierten Term) als zusätzliche Prädiktoren aufnimmt.
  • Residuenprüfung: Das Modell setzt unabhängige Fehler mit ungefähr konstanter Varianz voraus. Ein Blick auf die Residuen in der Prognosetabelle hilft weiter; bei zeitlich geordneten Daten kann der Autokorrelationsrechner ein verbliebenes Muster in den Residuen aufdecken, und der Rechner für Schiefe und Kurtosis hilft, deutlich nichtnormal verteilte Daten zu erkennen.
  • Zusammenhang ist keine Kausalität: Koeffizienten beschreiben Zusammenhänge innerhalb Ihrer Daten. Wer einen kausalen Effekt behaupten will, braucht ein Studiendesign, das das stützt — nicht nur eine gute Anpassung.
  • Im Datenbereich bleiben: Vorhersagen weit außerhalb des Bereichs der beobachteten Prädiktoren sind Extrapolationen und können grob danebenliegen.
  • Keine Inferenz: Dieser Rechner liefert nur die geschätzte Gleichung und die Anpassungsgüte an die Schätzdaten; für Standardfehler, p-Werte und Konfidenzintervalle nutzen Sie eine vollwertige Statistiksoftware.

Häufig gestellte Fragen

Wie berechne ich eine multiple lineare Regression von Hand?

Stellen Sie eine Designmatrix \(\mathbf{X}\) auf, deren erste Spalte aus Einsen für den Achsenabschnitt besteht, und lösen Sie dann die Normalgleichungen \((\mathbf{X}^T\mathbf{X})\hat{\boldsymbol{\beta}} = \mathbf{X}^T\mathbf{y}\). Mit zwei Prädiktoren heißt das: ein lineares 3×3-Gleichungssystem für \(β_0, β_1, β_2\) lösen. Die Vorhersagen ergeben sich aus der geschätzten Gleichung, Residuen und R² anschließend aus den Quadratsummen. Bei mehr als wenigen Beobachtungen ist das mühsam — deshalb arbeiten Rechner aus Gründen der numerischen Stabilität mit der QR-Zerlegung.

Was ist ein gutes R² für eine multiple Regression?

Es gibt keinen universellen Schwellenwert. Bei physikalischen oder technischen Daten ist ein R² über 0,9 üblich; in den Sozialwissenschaften oder der Medizin können schon 0,3–0,5 bedeutsam sein. Was als gut gilt, hängt vom Messrauschen und vom Fachgebiet ab. Denken Sie auch daran, dass R² beim Hinzufügen weiterer Prädiktoren automatisch steigt — vergleichen Sie Modelle unterschiedlicher Größe daher mit dem adjustierten R² und beurteilen Sie ein Modell danach, wie gut es neue Daten vorhersagt, nicht nur, wie gut es zu den Daten passt, mit denen es erstellt wurde.

Warum weichen meine Koeffizienten von den Steigungen einfacher Regressionen je Variable ab?

Das ist zu erwarten und kein Fehler. In der multiplen Regression misst jeder Koeffizient den Effekt dieses Prädiktors, während alle anderen einbezogenen Prädiktoren konstant gehalten werden. Überlappen sich zwei Prädiktoren (zum Beispiel Wohnfläche und Zimmeranzahl), teilt das Modell deren gemeinsame Erklärungskraft zwischen ihnen auf — die Koeffizienten können dadurch im Vergleich zu einzeln geschätzten einfachen Regressionen schrumpfen, das Vorzeichen wechseln oder anwachsen. Genau darin liegt der Nutzen der multiplen Regression: Sie trennt verflochtene Effekte.

Kann ich in diesem Rechner kategoriale Variablen wie Geschlecht oder Stadt verwenden?

Ja, aber kodieren Sie sie vorher als 0/1-Dummy-Variablen. Für eine Kategorie mit k Ausprägungen erstellen Sie k − 1 Dummy-Spalten und geben diese als eigene Prädiktoren ein — die weggelassene Ausprägung wird zur Basiskategorie, die der Achsenabschnitt aufnimmt. Geben Sie niemals eine einzelne Spalte mit beliebigen Kodierungen wie 1, 2, 3 für drei Städte ein, denn das zwingt das Modell, die Kategorien als zahlenmäßig gleichabständig zu behandeln — was in der Regel falsch ist.

Wie viele Beobachtungen brauche ich im Vergleich zur Anzahl der Prädiktoren?

Das mathematische Minimum sind zwei Beobachtungen mehr als Prädiktoren (Achsenabschnitt mitgerechnet), was der Rechner durchsetzt — für verlässliche Ergebnisse ist das aber viel zu wenig. Eine gängige Faustregel lautet 10–20 Beobachtungen pro Prädiktor. Mit zu wenigen Beobachtungen reagieren die Koeffizienten extrem empfindlich auf einzelne Datenpunkte, R² steigt mechanisch Richtung 1, und das Modell verallgemeinert schlecht auf neue Daten.

Warum erhalte ich eine Fehlermeldung zu linear abhängigen oder redundanten Spalten?

Die Prädiktoren müssen voneinander unabhängige Informationen enthalten. Die Meldung erscheint, wenn eine Spalte konstant ist, ein exaktes Vielfaches einer anderen oder eine Summe mehrerer anderer Spalten — etwa wenn Dummies für jede Ausprägung einer Kategorie eingegeben werden, die in der Summe immer 1 ergeben und damit die Achsenabschnittsspalte duplizieren. Entfernen oder kombinieren Sie die redundante Spalte. Fast abhängige Spalten (z. B. eine Temperaturspalte in °C und in °F) lösen die Meldung ebenfalls aus, weil die Schätzung numerisch instabil wird.

Was ist der Unterschied zwischen R² und adjustiertem R²?

R² misst den Anteil der Varianz von y, den das Modell erklärt — aber es sinkt nie, wenn ein Prädiktor hinzukommt; selbst ein nutzloser zufälliger erhöht es leicht. Das adjustierte R² bestraft die Anzahl der Prädiktoren im Verhältnis zur Stichprobengröße und kann daher sinken, wenn eine Variable hinzukommt, die sich nicht „auszahlt“. Vergleichen Sie Modelle mit unterschiedlich vielen Prädiktoren anhand des adjustierten R²; dieser Rechner gibt das einfache R² aus und beschreibt damit die Anpassung an die Schätzdaten.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert