Aller au contenu
Favoris

Calculateur de régression linéaire multiple

Mis à jour :

Saisissez les valeurs de votre variable à expliquer et deux colonnes de variables explicatives ou plus pour ajuster une régression linéaire multiple par la méthode des moindres carrés. Le calculateur renvoie l'ordonnée à l'origine, le coefficient de chaque variable explicative, le R², l'équation ajustée, ainsi que les valeurs prédites et les résidus.

Modéliser une variable expliquée à l’aide de plusieurs variables explicatives

Champs de saisie
Si activé, le résultat se met à jour automatiquement dès que vous modifiez une valeur.

Formule de la régression linéaire multiple

Formule
\[ \hat{y} = \beta_0 + \beta_1 X_1 + \beta_2 X_2 + \cdots + \beta_p X_p \\\quad R^2 = 1 - \frac{\sum_{i=1}^{n} \left( y_i - \hat{y}_i \right)^2}{\sum_{i=1}^{n} \left( y_i - \bar{y} \right)^2} \]

Où :

  • \(\hat{y}\) — la valeur prédite de la variable expliquée
  • \(\beta_0\) — l'ordonnée à l'origine : la valeur attendue de \(y\) lorsque toutes les variables explicatives valent zéro
  • \(\beta_j\) — le coefficient de la variable explicative \(X_j\) : la variation attendue de \(y\) lorsque \(X_j\) augmente d'une unité, toutes les autres variables explicatives restant fixes
  • \(p\) — le nombre de variables explicatives
  • \(n\) — le nombre d'observations
  • \(R^2\) — la part de la variance de \(y\) expliquée par le modèle

Les coefficients sont estimés par la méthode des moindres carrés ordinaire (MCO), qui choisit les valeurs des \(\beta\) minimisant la somme des carrés des résidus \(\sum (y - \hat{y})^2\). Sous forme matricielle, la solution s'écrit \(\hat{\boldsymbol{\beta}} = (\mathbf{X}^T \mathbf{X})^{-1} \mathbf{X}^T \mathbf{y}\) ; ce calculateur résout le même problème des moindres carrés à l'aide d'une décomposition QR numériquement stable, sans former explicitement \(\mathbf{X}^T\mathbf{X}\).

Régression linéaire multiple – Exemple de calcul

Exemple : huit observations avec des valeurs de y de 7 ; 12 ; 11 ; 16 ; 15 ; 20 ; 19 ; 24, et deux variables explicatives : \(X_1\) allant de 1 à 8 et \(X_2\) alternant 0, 1, 0, 1, … — exactement les données par défaut du calculateur.

\[ \hat{y} = 5 + 2X_1 + 3X_2 \]

Résultat : ordonnée à l'origine \(\beta_0 = 5\), coefficients \(\beta_1 = 2\) et \(\beta_2 = 3\), et \(R^2 = 1\). Chaque valeur prédite est égale à la valeur observée : tous les résidus valent donc 0, et la somme des carrés des résidus vaut 0 pour une somme des carrés totale de 210. Ce jeu de données a été construit pour s'ajuster parfaitement, c'est pourquoi le \(R^2\) atteint son maximum de 1 ; avec des données réelles, il subsiste presque toujours une variation résiduelle et le \(R^2\) est inférieur à 1.

Comment utiliser le calculateur

  1. Saisissez vos Valeurs de la variable expliquée (y) — une valeur par observation, séparées par des espaces, des points-virgules ou des retours à la ligne. Les virgules décimales sont acceptées.
  2. Saisissez les Colonnes de variables explicatives (X) — une observation par ligne, les valeurs des variables explicatives de cette observation étant séparées par des espaces ou des points-virgules. Conservez le même ordre de colonnes sur chaque ligne et saisissez au moins deux colonnes.
  3. Vérifiez que le nombre de lignes de X correspond au nombre de valeurs de y et que chaque ligne compte le même nombre de valeurs. Il vous faut au moins deux observations de plus que de variables explicatives.
  4. Lisez les résultats : l'Ordonnée à l'origine, le tableau des Coefficients des variables explicatives, le R², le tableau des Valeurs prédites avec les résidus, ainsi que l'équation ajustée et les détails de l'ajustement.

Qu'est-ce que la régression linéaire multiple ?

La régression linéaire multiple modélise une variable continue à expliquer comme une somme pondérée de deux variables explicatives ou plus, à laquelle s'ajoute une constante. Elle généralise la régression linéaire simple, fondée sur une seule variable explicative, aux situations où plusieurs variables peuvent influencer simultanément le résultat — par exemple prédire le prix d'une maison à partir de sa surface, de son nombre de pièces et de son âge, ou le rendement d'une culture à partir des précipitations, de la température et de la quantité d'engrais.

Son principal avantage par rapport à des régressions simples menées séparément est que chaque coefficient isole la contribution d'une variable explicative, les autres variables incluses dans le modèle restant fixes. Un coefficient de 2 pour \(X_1\) signifie que la variable expliquée devrait augmenter de 2 unités à chaque hausse d'une unité de \(X_1\), quelle que soit la valeur des autres variables. C'est pourquoi les coefficients peuvent différer sensiblement des pentes obtenues en régressant sur chaque variable prise isolément : le modèle démêle les effets qui se recoupent.

Le R² mesure la qualité avec laquelle le plan (ou l'hyperplan) ajusté suit les données : c'est la part de la variance de \(y\) expliquée par les variables explicatives. Un R² de 0,80 signifie que 80 % de la variation observée est reproduite par le modèle. À noter : le R² ne peut que rester identique ou augmenter lorsqu'on ajoute des variables explicatives ; un R² élevé avec de nombreuses variables n'est donc pas automatiquement la preuve d'un bon modèle — il décrit simplement l'ajustement aux données utilisées pour l'estimation.

Avant d'ajuster un modèle, vous pouvez explorer les relations deux à deux entre vos variables avec le calculateur de corrélation de rang de Spearman ou le calculateur du tau de Kendall.

Hypothèses, limites et conseils pratiques

  • Taille de l'échantillon : il faut au moins \(p + 2\) observations pour \(p\) variables explicatives et une ordonnée à l'origine (le calculateur l'impose). En pratique, visez 10 à 20 observations par variable explicative pour obtenir des estimations stables.
  • Pas de colonnes redondantes : les variables explicatives ne doivent pas être linéairement dépendantes. Si vous encodez une variable catégorielle en colonnes indicatrices 0/1, insérez une colonne de moins qu'il n'y a de modalités — l'ordonnée à l'origine absorbe la situation de référence, exactement comme la colonne alternée 0/1 de l'exemple.
  • Multicolinéarité : des variables explicatives fortement corrélées entre elles donnent des coefficients instables et difficiles à interpréter, même lorsque l'ajustement global semble correct. Examinez d'abord les associations deux à deux, puis supprimez ou fusionnez les variables qui se recoupent.
  • Linéarité : la méthode des MCO suppose que chaque variable explicative est liée linéairement à la variable expliquée, les autres restant fixes. Les relations courbes peuvent souvent être prises en compte en ajoutant des colonnes transformées (par exemple un terme au carré) comme variables explicatives supplémentaires.
  • Examen des résidus : le modèle suppose des erreurs indépendantes et de variance à peu près constante. L'inspection des résidus dans le tableau des prédictions y aide ; pour des données ordonnées dans le temps, le calculateur d'autocorrélation peut révéler une structure résiduelle, et le calculateur d'asymétrie et d'aplatissement aide à repérer des données fortement non normales.
  • Corrélation ne veut pas dire causalité : les coefficients décrivent des associations présentes dans vos données. Affirmer un effet causal exige un plan d'étude qui le permette, et non un simple bon ajustement.
  • Restez dans la plage de vos données : les prédictions très éloignées de la plage des variables explicatives observées sont des extrapolations et peuvent être gravement erronées.
  • Pas de résultats d'inférence : ce calculateur fournit uniquement l'équation ajustée et l'ajustement sur l'échantillon ; pour les erreurs types, les valeurs p et les intervalles de confiance, utilisez un logiciel statistique complet.

Questions fréquentes

Comment calculer une régression linéaire multiple à la main ?

Constituez la matrice \\(\\mathbf{X}\) avec une première colonne de 1 pour l'ordonnée à l'origine, puis résolvez les équations normales \\((\\mathbf{X}^T\\mathbf{X})\\hat{\\boldsymbol{\\beta}} = \\mathbf{X}^T\\mathbf{y}\). Avec deux variables explicatives, cela revient à résoudre un système linéaire 3×3 pour \\(β_0, β_1, β_2\). Calculez les prédictions à partir de l'équation ajustée, puis les résidus et le R² à partir des sommes des carrés. Au-delà de quelques observations, le calcul devient fastidieux, c'est pourquoi les calculateurs s'appuient sur une décomposition QR pour la stabilité numérique.

Qu'est-ce qu'un bon R² pour une régression multiple ?

Il n'existe pas de seuil universel. Avec des données de physique ou d'ingénierie, un R² supérieur à 0,9 est courant ; en sciences sociales ou en études médicales, un R² de 0,3 à 0,5 peut être significatif. Ce qui est jugé bon dépend du bruit de mesure et du domaine. Rappelez-vous aussi que le R² augmente automatiquement dès qu'on ajoute des variables explicatives : comparez des modèles de tailles différentes avec le R² ajusté, et jugez un modèle à sa capacité à prédire de nouvelles données, et pas seulement à s'ajuster à celles qui ont servi à le construire.

Pourquoi mes coefficients diffèrent-ils des pentes des régressions simples sur chaque variable ?

C'est normal, ce n'est pas une erreur. En régression multiple, chaque coefficient mesure l'effet de la variable correspondante, toutes les autres variables incluses restant constantes. Si deux variables se recoupent (par exemple la surface et le nombre de pièces d'une maison), le modèle répartit leur pouvoir explicatif commun entre elles : les coefficients peuvent donc diminuer, changer de signe ou augmenter par rapport aux régressions simples réalisées une variable à la fois. C'est précisément ce qui rend la régression multiple utile : elle sépare des effets entremêlés.

Peut-on utiliser des variables catégorielles comme le sexe ou la ville dans ce calculateur ?

Oui, mais encodez-les d'abord en variables indicatrices 0/1. Pour une variable à k modalités, créez k − 1 colonnes indicatrices et saisissez-les comme variables explicatives distinctes — la modalité omise devient la situation de référence, absorbée par l'ordonnée à l'origine. N'insérez jamais une seule colonne avec des codes arbitraires comme 1, 2, 3 pour trois villes : cela forcerait le modèle à traiter les catégories comme régulièrement espacées sur une échelle numérique, ce qui est généralement faux.

Combien d'observations faut-il par rapport au nombre de variables explicatives ?

Le minimum mathématique est de deux observations de plus que de variables explicatives (ordonnée à l'origine comprise), ce que le calculateur impose, mais c'est bien trop peu pour des résultats fiables. Une règle empirique courante recommande 10 à 20 observations par variable explicative. Avec trop peu d'observations, les coefficients deviennent extrêmement sensibles à des points individuels, le R² gonfle mécaniquement vers 1 et le modèle généralise mal à de nouvelles données.

Pourquoi ai-je une erreur concernant des colonnes linéairement dépendantes ou redondantes ?

Les variables explicatives doivent contenir des informations indépendantes. Cette erreur apparaît si une colonne est constante, multiple exacte d'une autre ou somme de plusieurs autres — par exemple si vous incluez une indicatrice pour chaque modalité d'une variable : leur somme vaut toujours 1 et fait double emploi avec la colonne de l'ordonnée à l'origine. Supprimez ou fusionnez la colonne redondante. Des colonnes presque dépendantes (par exemple une température en °C et la même en °F) déclenchent aussi l'erreur, car l'ajustement devient numériquement instable.

Quelle est la différence entre le R² et le R² ajusté ?

Le R² mesure la part de la variance de y expliquée par le modèle, mais il ne diminue jamais lorsqu'on ajoute une variable explicative — même une variable aléatoire inutile le fait légèrement monter. Le R² ajusté pénalise le nombre de variables explicatives par rapport à la taille de l'échantillon : il peut donc baisser si la variable ajoutée n'apporte rien. Utilisez le R² ajusté pour comparer des modèles comptant des nombres de variables différents ; ce calculateur affiche le R² simple, qui décrit l'ajustement aux données d'estimation.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *