Méthode des moindres carrés/Note I

Carl Friedrich Gauss

Méthode des moindres carrés

Traduction par Joseph Bertrand.
Mallet-Bachelier, 1855 (p. 113-134).

NOTES.

NOTE I.
EXPOSITION DE LA MÉTHODE DES MOINDRES CARRÉS.
(Extrait du Theoria Motus Corporum cœlestium.)

---

1.

…… Abordons maintenant une recherche beaucoup plus générale et des plus fécondes dans toute application du calcul aux phénomènes naturels. Soient $\mathrm {V}$, $\mathrm {V'}$, $\mathrm {V''}$, etc., $\mu$ fonctions des $\nu$ inconnues $p$, $q$, $r$, $s$, etc., et supposons que des observations directes aient donné, pour ces fonctions, les valeurs

${\begin{aligned}\mathrm {V} &=\mathrm {M} ,&\mathrm {V} '&=\mathrm {M} ',&\mathrm {V} ''&=\mathrm {M} '',\dots .\end{aligned}}$

En général, le calcul de ces inconnues constituera un problème indéterminé, déterminé ou plus que déterminé, suivant que l’on aura

$\mu <\nu$, $\quad \mu =\nu$,ou $\quad \mu >\nu$^[1].

Nous ne nous occuperons ici que du dernier cas, dans lequel évidemment il ne serait possible d’obtenir une représentation exacte de toutes les observations, que si ces observations n’étaient affectées d’aucune erreur. Mais comme cela n’a jamais lieu dans la nature, on devra regarder comme possible tout système de valeurs des inconnues $p$, $q$, $r$, $s$, etc., desquelles résultent, pour les fonctions $\mathrm {V-M}$, $\mathrm {V'-M'}$, $\mathrm {V''-M''}$, des valeurs qui ne surpassent pas les limites des erreurs que l’on peut commettre dans les observations, mais on ne doit pas regarder tous ces systèmes possibles comme jouissant du même degré de probabilité.

Supposons d’abord, dans toutes les observations, un état de choses tel, qu’il n’y ait pas lieu de regarder l’une d’elles comme plus exacte qu’une autre, c’est-à-dire, que l’on doive regarder des erreurs égales dans chacune d’elles comme également probables. La probabilité qu’une erreur $\Delta$ soit commise dans l’une des observations sera une fonction de $\Delta$, que nous nommerons $\varphi (\Delta )$. Quoique cette fonction ne puisse être assignée d’une manière précise, on peut du moins affirmer qu’elle doit devenir maximum pour $\Delta =0$, avoir dans la plupart des cas la même valeur pour des valeurs de $\Delta$ égales et de signes contraires, et, enfin, s’évanouir quand on donne à $\Delta$ une valeur égale ou supérieure à l’erreur maximum ; $\varphi (\Delta )$ doit donc, à proprement parler, être rapportée à la classe des fonctions discontinues, et, si nous nous permettons, pour la facilité du calcul, d’y substituer une fonction analytique, il faudra que cette dernière soit choisie de telle sorte qu’elle tende rapidement vers 0 à partir de deux valeurs de $\Delta$, l’une supérieure, l’autre inférieure à 0, et qu’en dehors de ces deux limites on puisse la considérer comme nulle. Or la probabilité que l’erreur soit comprise entre $\Delta$ et une quantité $\Delta +\mathrm {d} \Delta$ qui en diffère infiniment peu, sera exprimée par $\varphi (\Delta ).\!\mathrm {d} \Delta$, et, par suite, la probabilité que l’erreur est comprise entre $\mathrm {D}$ et $\mathrm {D} '$, par

$\int _{\mathrm {D} }^{\mathrm {D} '}\varphi (\Delta )\,\mathrm {d} \Delta .$

Cette intégrale, prise depuis la plus grande valeur négative de $\Delta$ jusqu’à sa plus grande valeur positive, ou plus généralement depuis $\Delta =-\infty$ jusqu’à $\Delta =\infty$, devra nécessairement être égale à 1. On aura donc

$\int _{-\infty }^{\infty }\varphi (\Delta )\,\mathrm {d} \Delta =1$.

Supposons donc qu’on ait un système déterminé de valeurs des quantités $p$, $q$, $r$, $s$, etc. : la probabilité que l’observation donnera pour $\mathrm {V}$ la valeur $\mathrm {M}$, sera exprimée par $\varphi (\mathrm {M-V} )$, après qu’on aura substitué dans $\mathrm {V}$ les valeurs $p$, $q$, $r$, $s$, etc. ; de même $\varphi (\mathrm {M'-V'} )$, $\varphi (\mathrm {M''-V''} )$, etc., exprimeront les probabilités pour que les observations donnent aux fonctions $\mathrm {V'}$, $\mathrm {V''}$, etc., les valeurs $\mathrm {M} '$, $\mathrm {M} ''$, etc. C’est pourquoi, tant qu’on pourra considérer toutes les observations comme des événements indépendants les uns des autres, le produit

$\varphi (\mathrm {M-V} )\,\varphi (\mathrm {M'-V'} )\,\varphi (\mathrm {M''-V''} )\ldots =\Omega ,$

exprimera la probabilité que toutes ces valeurs résulteront en même temps des observations.

2.

De même qu’en se donnant des valeurs quelconques des inconnues, il en résulte, avant toute observation, une probabilité déterminée pour un système de valeurs des fonctions $\mathrm {V}$, $\mathrm {V'}$, $\mathrm {V''}$, etc., de même, après que l’observation aura donné pour ces fonctions des valeurs déterminées, il en résultera pour chaque système de valeurs des inconnues qui en découleront, une probabilité déterminée : car il est clair qu’on devra considérer comme les plus probables les systèmes qui donnent à l’événement observé la plus grande probabilité. L’appréciation de cette probabilité peut s’obtenir par le théorème suivant :

Si, en adoptant une certaine hypothèse $\mathrm {H}$, la probabilité d’un événement déterminé $\mathrm {E}$ est $h$, mais qu’en adoptant une autre hypothèse $\mathrm {H'}$, exclusive de la première et ayant à priori la même probabilité, la probabilité du même événement soit $h'$ : je dis que lorsque l’événement $\mathrm {E}$ aura eu lieu, la probabilité que $\mathrm {H}$ soit la vraie hypothèse sera à la probabilité que $\mathrm {H'}$ soit la vraie hypothèse comme $h$ est à $h'$.

Pour le démontrer et afin de distinguer toutes les circonstances d’où peut dépendre, soit que l’hypothèse $\mathrm {H}$ ou $\mathrm {H'}$, ou toute autre ait lieu, l’arrivée d’un événement $\mathrm {E}$ ou d’un autre événement, formons un système des cas différents qui peuvent se présenter et que nous regarderons comme également probables à priori (c’est-à-dire tant qu’il y a doute si c’est l’événement $\mathrm {E}$ ou un autre qui aura lieu). Ces cas peuvent être ainsi distribués :

nombre des cas.	hypothèse propre à ce cas.	événement qui doit en résulter.
$m$	$\mathrm {H}$	$\mathrm {E}$
$n$	$\mathrm {H}$	Différent de $\mathrm {E}$
$m'$	$\mathrm {H'}$	$\mathrm {E}$
$n'$	$\mathrm {H'}$	Différent de $\mathrm {E}$
$m''$	Différente de $\mathrm {H}$ et de $\mathrm {H'}$	$\mathrm {E}$
$n''$	Différente de $\mathrm {H}$ et de $\mathrm {H'}$	Différent de $\mathrm {E}$

On aura d’après cela

${\begin{aligned}h&={\frac {m}{m+n}},&h'&={\frac {m'}{m'+n'}}\cdot \end{aligned}}$

Or, avant l’arrivée de l’événement, la probabilité de l’hypothèse $\mathrm {H}$ était

${\frac {m+n}{m+n+m'+n'+m''+n''}}\cdot$

Après l’événement qui exclut $n+n'+n''$ cas, parmi ceux qui sont possibles, cette probabilité sera

${\frac {m}{m+m'+m''}}\cdot$

De même les probabilités de l’hypothèse $\mathrm {H'}$ avant et après l’événement sont respectivement

${\frac {m'+n'}{m+n+m'+n'+m''+n''}}$et${\frac {m'}{m+m'+m''}}\,;$

mais, comme on a supposé que les hypothèses $\mathrm {H}$ et $\mathrm {H'}$ avaient avant l’événement la même probabilité, on aura

$m+n=m'+n',$

d’où résulte immédiatement la vérité du théorème.

Si maintenant on suppose qu’on n’a, pour déterminer les inconnues, que les observations

${\begin{aligned}\mathrm {V} &=\mathrm {M} ,&\mathrm {V} '&=\mathrm {M} ',&\mathrm {V} ''&=\mathrm {M} '',\ldots ,\end{aligned}}$

et que tous les systèmes de valeurs des inconnues étaient également probables avant ces observations, il est visible que la probabilité d’un certain système, après ces observations, sera proportionnelle à $\Omega$. C’est-à-dire que $\lambda \,\Omega \,\mathrm {d} p\,\mathrm {d} q\,\mathrm {d} r\ldots$ exprimera la probabilité que les valeurs des inconnues soient respectivement comprises dans les limites infiniment voisines $p$ et $p+\mathrm {d} p$, $q$ et $q+\mathrm {d} q$, $r$ et $r+\mathrm {d} r,\ldots ,$ $\lambda$ représentant une quantité indépendante de $p$, $q$, $r$, $s$, etc. ; et l’on aura évidemment

${\frac {1}{\lambda }}=\int _{-\infty }^{\infty }\int _{-\infty }^{\infty }\int _{-\infty }^{\infty }\cdots \Omega \,\mathrm {d} p\,\mathrm {d} q\,\mathrm {d} r\ldots .$

3.

De là résulte naturellement que le système le plus probable des valeurs de $p$, $q$, $r$, $s$, etc., correspondra au maximum de $\Omega$, et se tirera des $\nu$ équations

${\begin{aligned}{\frac {\mathrm {d} \Omega }{\mathrm {d} p}}&=0,&{\frac {\mathrm {d} \Omega }{\mathrm {d} q}}&=0,&{\frac {\mathrm {d} \Omega }{\mathrm {d} r}}&=0,\ldots ;\end{aligned}}$

si l’on pose

$\mathrm {V} -\mathrm {M} =v$, $\mathrm {V} '-\mathrm {M} '=v'$, $\mathrm {V} ''-\mathrm {M} ''=v''$, $\ldots$ et ${\frac {\mathrm {d} .\!\varphi (\Delta )}{\varphi (\Delta )\,.\mathrm {d} \Delta }}=\varphi '(\Delta )$,

ces équations prendront la forme suivante :

${\begin{array}{l}{\begin{alignedat}{4}{\frac {\mathrm {d} v}{\mathrm {d} p}}\,\varphi '(v)&{}+{}&{\frac {\mathrm {d} v'}{\mathrm {d} p}}\,\varphi '(v')&{}+{}&{\frac {\mathrm {d} v''}{\mathrm {d} p}}\,\varphi '(v'')&{}+{}&\ldots &{}=0,\\{\frac {\mathrm {d} v}{\mathrm {d} q}}\,\varphi '(v)&{}+{}&{\frac {\mathrm {d} v'}{\mathrm {d} q}}\,\varphi '(v')&{}+{}&{\frac {\mathrm {d} v''}{\mathrm {d} q}}\,\varphi '(v'')&{}+{}&\ldots &{}=0,\end{alignedat}}\\\;\cdots \cdots \cdots \cdots \cdots \cdots \cdots \cdots \cdots \cdots \cdots \cdots \cdots \cdots \cdots \end{array}}$

De là résulte qu’on pourra obtenir par l’élimination une solution pleinement déterminée du problème, dès que la nature de la fonction $\varphi '$ sera connue. Mais comme cette fonction ne peut être définie à priori, abordons la question à un autre point de vue et cherchons une fonction acceptée tacitement comme base, en vertu d’un principe simple et généralement admis. Or on a coutume de regarder comme un axiome l’hypothèse que si une quantité a été obtenue par plusieurs observations immédiates, faites avec le même soin dans des circonstances semblables, la moyenne arithmétique des valeurs observées sera la valeur la plus probable de cette quantité, sinon en toute rigueur, du moins avec une grande approximation, de telle sorte que le plus sûr soit toujours de s’y arrêter. Si donc l’on pose

$\mathrm {V} =\mathrm {V} '=\mathrm {V} ''\ldots =p,$

et

$p={\frac {\mathrm {M} +\mathrm {M} '+\mathrm {M} ''+\ldots }{\mu }},$

on devra avoir en général

$\varphi '(\mathrm {M} -p)+\varphi '(\mathrm {M} '-p)+\varphi '(\mathrm {M} ''-p)+\ldots =0$

pour toute valeur entière et positive de $\mu$. Faisant ensuite

$\mathrm {M} '=\mathrm {M} ''\ldots =\mathrm {M} -\mu \,\mathrm {N} ,$

on aura généralement

$\varphi '\left[(\mu -1)\,\mathrm {N} \right]=(1-\mu )\,\varphi '(-\mathrm {N} ),$

d’où l’on tire facilement que ${\frac {\varphi '(\Delta )}{\Delta }}$ doit être en général une constante $k$. On aura donc

$\log \varphi (\Delta )={\tfrac {1}{2}}k\,\Delta ^{2}+{\text{const.}}={\tfrac {1}{2}}k\,\Delta ^{2}+\log \varkappa ,$

d’où

$\varphi (\Delta )=\varkappa \,e^{{\frac {1}{2}}k\,\Delta ^{2}}.$

Or on voit facilement que la constante $k$ doit être négative, pour que $\Omega$ puisse devenir maximum : posons donc

${\frac {1}{2}}\,k=-h^{2},$

et comme, d’après un élégant théorème de Laplace, on a

$\int _{-\infty }^{\infty }e^{-h^{2}\Delta ^{2}}\,\mathrm {d} \Delta ={\frac {\sqrt {\pi }}{h}},$

notre fonction deviendra

$\varphi (\Delta )={\frac {h}{\sqrt {\pi }}}\,e^{-h^{2}\Delta ^{2}}.$

4.

La fonction que nous venons de trouver ne peut pas exprimer, en toute rigueur, la probabilité des erreurs, puisque les erreurs possibles étant toujours renfermées entre certaines limites, la probabilité d’erreurs plus grandes devrait être toujours nulle, tandis que notre fonction a toujours une valeur finie. Cependant ce défaut, que présenterait également toute autre fonction analytique, n’a aucune importance dans les applications, parce que la valeur de notre fonction décroît si rapidement, pour peu que $h\,\Delta$ ait une valeur considérable, qu’on peut, en toute sûreté, la regarder alors comme équivalente à 0. D’ailleurs, la nature de la question ne permettra jamais d’assigner les limites des erreurs avec une rigueur absolue.

Au reste, la constante $h$ peut être regardée comme servant de mesure à la précision des observations. Si en effet la probabilité de l’erreur $\Delta$ dans un système d’observations est exprimée par

${\frac {h}{\sqrt {\pi }}}\,e^{-h^{2}\Delta ^{2}},$

et dans un autre système d’observations plus ou moins exactes que les premières par

${\frac {h'}{\sqrt {\pi }}}\,e^{-{h'}^{2}\Delta ^{2}},$

la probabilité que dans une observation du premier système l’erreur soit comprise entre les limites $-\delta$ et $+\delta$, sera exprimée par

$\int _{-\delta }^{\delta }{\frac {h}{\sqrt {\pi }}}\,e^{-h^{2}\Delta ^{2}}\,\mathrm {d} \Delta ,$

et de même la probabilité que l’erreur d’une observation du second système soit comprise entre les limites $-\delta '$ et $+\delta '$ sera exprimée par

$\int _{-\delta '}^{\delta '}{\frac {h'}{\sqrt {\pi }}}\,e^{-{h'}^{2}\Delta ^{2}}\,\mathrm {d} \Delta \,;$

or ces intégrales sont manifestement égales lorsqu’on a

$h\,\delta =h'\delta '.$

Si, par exemple, on a

$h'=2\,h,$

une erreur double dans le premier système sera commise aussi facilement qu’une erreur simple dans le second, de sorte que les dernières observations, pour nous servir d’une expression consacrée par l’usage, jouissent d’un degré de précision deux fois plus grand.

5.

Voici maintenant quelques conséquences de cette loi. Il est clair qu’il faut, pour que le produit

$\Omega =h^{\mu }\,\pi ^{-{\frac {1}{2}}\mu }\,e^{-h^{2}\,(v^{2}+{v'}^{2}+{v''}^{2}+\ldots )}$

devienne maximum, que la somme

$v^{2}+{v'}^{2}+{v''}^{2}+\ldots$

devienne minimum. Donc le système de valeurs des inconnues $p$, $q$, $r$, $s$, etc., le plus probable correspond au cas où les carrés des différences entre les valeurs observées et les valeurs calculées des fonctions $\mathrm {V}$, $\mathrm {V'}$, $\mathrm {V''}$, etc., donnent la somme la plus petite possible, pourvu que toutes les observations soient également présumées précises.

Ce principe, qui est de la plus grande utilité dans toutes les applications des mathématiques à la philosophie naturelle, doit être regardé comme un axiome, au même titre que le principe qui nous fait adopter la moyenne arithmétique des valeurs observées d’une même quantité comme la valeur la plus probable de cette quantité.

Le principe s’étend sans peine au cas d’observations d’une précision inégale. Car si les précisions des observations par lesquelles on a trouvé

${\begin{aligned}\mathrm {V} &=\mathrm {M} ,&\mathrm {V} '&=\mathrm {M} ',&\mathrm {V} ''&=\mathrm {M} '',\ldots ,\end{aligned}}$

sont représentées respectivement par $h$, $h'$, $h''$, etc., c’est-à-dire si l’on suppose que des erreurs réciproquement proportionnelles à ces quantités puissent être commises avec la même facilité, il est clair que cela revient au même que si, par des observations d’une égale précision (représentée par 1), les valeurs des fonctions $h\,\mathrm {V}$, $h'\mathrm {V'}$, $h''\mathrm {V''}$, etc., avaient été trouvées égales à $h\,\mathrm {M}$, $h'\mathrm {M'}$, $h''\mathrm {M''}$, etc. ; c’est pourquoi le système le plus probable de valeurs $p$, $q$, $r$, $s$, etc., sera celui où la somme

$h^{2}v^{2}+{h'}^{2}{v'}^{2}+{h''}^{2}{v''}^{2}+\ldots ,$

c’est-à-dire où la somme des carrés des différences entre

les valeurs observées et calculées, multipliés respectivement par les carrés des nombres qui expriment le degré de précision, devient un minimum. Par là, il n’est pas même nécessaire que les fonctions $\mathrm {V}$, $\mathrm {V'}$, $\mathrm {V''}$, etc., se rapportent à

des quantités homogènes, mais elles pourront représenter des quantités hétérogènes (par exemple des secondes d’arcs et de temps) ; pourvu que l’on puisse estimer le rapport des erreurs qui, dans chacune de ces grandeurs, peuvent être commises avec la même facilité.

6.

Le principe exposé dans l’article précédent se recommande aussi par cela qu’il réduit le calcul numérique des inconnues à un algorithme très-expéditif, quand les fonctions $\mathrm {V}$, $\mathrm {V'}$, $\mathrm {V''}$, etc., sont linéaires. Supposons

${\begin{array}{l}{\begin{alignedat}{9}&\mathrm {V} &{}-{}&\mathrm {M} &{}={}&v&{}={}&{}-{}m&{}+{}&a&p{}+{}&b&q{}+{}&c&r{}+{}&d&s{}+{}&\ldots ,\\&\mathrm {V} '&{}-{}&\mathrm {M} '&{}={}&v'&{}={}&{}-{}m'&{}+{}&a'&p{}+{}&b'&q{}+{}&c'&r{}+{}&d'&s{}+{}&\ldots ,\\&\mathrm {V} ''&{}-{}&\mathrm {M} ''&{}={}&v''&{}={}&{}-{}m''&{}+{}&a''&p{}+{}&b''&q{}+{}&c''&r{}+{}&d''&s{}+{}&\ldots ,\end{alignedat}}\\\cdots \cdots \cdots \cdots \cdots \cdots \cdots \cdots \cdots \cdots \cdots \cdots \cdots \cdots \cdots \cdots \cdots \cdots \end{array}}$

Posons

${\begin{array}{l}{\begin{alignedat}{4}&a\,&v&{}+{}a'&v'&{}+{}a''&v''&{}+{}\ldots =\mathrm {P} ,\\&b\,&v&{}+{}b'&v'&{}+{}b''&v''&{}+{}\ldots =\mathrm {Q} ,\\&c\,&v&{}+{}c'&v'&{}+{}c''&v''&{}+{}\ldots =\mathrm {R} ,\\&d\,&v&{}+{}d'&v'&{}+{}d''&v''&{}+{}\ldots =\mathrm {S} ,\end{alignedat}}\\\;\cdots \cdots \cdots \cdots \cdots \cdots \cdots \cdots \cdots \end{array}}$

alors les $\nu$ équations de l’art. 3, qui déterminent les valeurs des inconnues, seront

${\begin{aligned}\mathrm {P} &=0,&\mathrm {Q} &=0,&\mathrm {R} &=0,&\mathrm {S} &=0,\ldots ,\end{aligned}}$

si nous supposons les observations également bonnes, cas auquel nous pouvons ramener tous les autres, comme nous l’avons montré dans l’article précédent. On a ainsi autant d’équations linéaires que d’inconnues : on les résoudra par la méthode ordinaire.

^

Voyons maintenant si cette élimination est toujours possible ou si elle peut donner une valeur indéterminée ou impossible. Il résulte de la théorie de l’élimination que le second ou le troisième cas aura lieu si, en laissant de côté une des équations

${\begin{aligned}\mathrm {P} &=0,&\mathrm {Q} &=0,&\mathrm {R} &=0,\ldots ,\end{aligned}}$

on peut déduire des équations conservées une équation identique ou contradictoire à celle que l’on a omise, ou, ce qui revient au même, si l’on peut assigner une fonction linéaire

$\alpha \,\mathrm {P} +\beta \,\mathrm {Q} +\gamma \,\mathrm {R} +\ldots ,$

qui soit identiquement nulle ou qui ne contienne aucune des inconnues. Supposons donc que l’on ait

$\alpha \,\mathrm {P} +\beta \,\mathrm {Q} +\gamma \,\mathrm {R} +\ldots =\varkappa ,$

on a l’équation identique

${\begin{aligned}&(v+m)\,v+(v'+m')\,v'+(v''+m'')\,v''+\ldots \\{}={}&p\,\mathrm {P} +q\,\mathrm {Q} +r\,\mathrm {R} +s\,\mathrm {S} +\ldots .\end{aligned}}$

Si l’on suppose qu’en faisant

${\begin{aligned}p&=\alpha \,x,&q&=\beta \,x,&r&=\gamma \,x,\ldots ,\end{aligned}}$

les fonctions $v$, $v'$, $v''$, etc., deviennent respectivement

${\begin{aligned}-m+\lambda \,x&,&-m'+\lambda 'x&,&-m''+\lambda ''x&,\ldots ,\end{aligned}}$

on aura l’équation identique

$(\lambda ^{2}+{\lambda '}^{2}+{\lambda ''}^{2}+\ldots )\,x^{2}-(\lambda \,m+\lambda 'm'+\lambda ''m''+\ldots )\,x=\varkappa \,x,$

et, par suite,

${\begin{aligned}\lambda ^{2}+{\lambda '}^{2}+{\lambda ''}^{2}+\ldots &=0,&\varkappa +\lambda \,m+\lambda 'm'+\lambda ''m''+\ldots &=0,\end{aligned}}$

d’où résulte

${\begin{aligned}\lambda &=0,&\lambda '&=0,&\lambda ''&=0,\ldots ,\end{aligned}}$

et, par suite,

$\varkappa =0\,;$

c’est-à-dire que les fonctions $\mathrm {V}$, $\mathrm {V'}$, $\mathrm {V''}$, etc., devraient ne pas changer si $p$, $q$, $r$, $s$, etc., reçoivent des accroissements quelconques proportionnels aux nombres $\alpha$, $\beta$, $\gamma$, $\delta$, etc. Un pareil cas, dans lequel la détermination des inconnues ne serait pas possible, même si l’on donnait les vraies valeurs des fonctions, n’appartient pas à notre sujet, comme nous en avons averti plus haut.

Au reste, on peut réduire facilement tous les cas à celui où les fonctions $\mathrm {V}$, $\mathrm {V'}$, $\mathrm {V''}$, etc., sont linéaires. Désignons par $\pi$, $\chi$, $\rho$, $\sigma$, etc., des valeurs approchées des inconnues $p$, $q$, $r$, $s$, etc. (que nous obtiendrons en faisant usage de $\nu$ équations prises parmi les $\mu$ équations

${\begin{aligned}\mathrm {V} &=\mathrm {M} ,&\mathrm {V} '&=\mathrm {M} ',&\mathrm {V} ''=\mathrm {M} '',\ldots ),\end{aligned}}$

et posons

${\begin{aligned}p&=\pi +p',&q&=\chi +q',&r&=\rho +r',&s&=\sigma +s',\ldots ;\end{aligned}}$

il est clair que ces nouvelles inconnues seront si petites, que leurs carrés et leurs produits seront négligeables, et que les équations deviendront linéaires par suite des substitutions indiquées. Que si, à la fin du calcul, on trouve contre toute attente que les valeurs de $p'$, $q'$, $r'$, $s'$, etc., qu’on en tire soient trop considérables, et qu’il paraisse peu sûr de négliger leurs carrés et leurs produits, on remédiera à cet inconvénient en répétant la même opération (mais en prenant pour $\pi$, $\chi$, $\rho$, $\sigma$, etc., les valeurs corrigées de $p$, $q$, $r$, $s$, etc.).

7.

Tant qu’on n’a qu’une seule inconnue $\rho$, pour la détermination de laquelle on a trouvé que les fonctions

${\begin{aligned}a\,p+n&,&a'p+n'&,&a''p+n''&,\ldots ,\end{aligned}}$

prenaient respectivement les valeurs

${\begin{aligned}\mathrm {M} &,&\mathrm {M} '&,&\mathrm {M} ''&,\ldots ,\end{aligned}}$${\displaystyle }$

et cela par des observations également exactes, la valeur la plus probable de $p$ est

$\mathrm {A} ={\frac {a\,m+a'm'+a''m''+\ldots }{a^{2}+{a'}^{2}+{a''}^{2}+\ldots }},$

en posant

${\begin{aligned}m&=\mathrm {M} -n,&m'&=\mathrm {M} '-n',&m''&=\mathrm {M} ''-n'',\ldots .\end{aligned}}$

Pour apprécier le degré de précision qu’on doit attribuer à cette valeur, supposons que la probabilité d’une erreur $\Delta$, commise dans les observations, soit exprimée par

${\frac {h}{\sqrt {\pi }}}\,e^{-h^{2}\,\Delta ^{2}}\,;$

en résultera que la probabilité que la vraie valeur de $p$ soit $\mathrm {A} +p'$, sera proportionnelle à la fonction

$e^{-h^{2}\,[(ap-m)^{2}+(a'p-m')^{2}+(a''p-m'')^{2}+\ldots ]}$

dans laquelle on aura fait

$p=\mathrm {A} +p'.$

L’exposant de cette fonction peut être réduit à la forme

$-h^{2}\,(a^{2}+{a'}^{2}+{a''}^{2}+\ldots )\,(p^{2}-2\,p\,\mathrm {A} +\mathrm {B} ),$

dans laquelle $\mathrm {B}$ désigne une quantité indépendante de $p$ : la fonction sera par suite proportionnelle à

$e^{-h^{2}\,(a^{2}+{a'}^{2}+{a''}^{2}+\ldots )\,{p'}^{2}}$

On voit que le degré de précision qu’il faut attribuer à la valeur de $\mathrm {A}$ est le même que si cette valeur avait été trouvée par une observation immédiate dont la précision serait à la précision des observations primitives comme

$h\,{\sqrt {a^{2}+{a'}^{2}+{a''}^{2}+\ldots }}\;$ est à $h$,

ou comme

${\sqrt {a^{2}+{a'}^{2}+{a''}^{2}+\ldots }}\;$ est à 1.

8.

Avant de rechercher, dans le cas de plusieurs inconnues, le degré de précision qu’on doit attribuer à chacune d’elles, il importe d’étudier plus attentivement la fonction

$v^{2}+{v'}^{2}+{v''}^{2}+\ldots ,$

que nous désignerons par $\mathrm {W}$.

I. Posons

${\frac {1}{2}}{\frac {\mathrm {dW} }{\mathrm {d} p}}=p'=\lambda +\alpha \,p+\beta \,q+\gamma \,r+\delta \,s+\ldots$

et

$\mathrm {W} -{\frac {{p'}^{2}}{\alpha }}=\mathrm {W} ',$

il en résulte évidemment

$p'=\mathrm {P} \,;$

comme on a

${\frac {\mathrm {dW'} }{\mathrm {d} p}}={\frac {\mathrm {dW} }{\mathrm {d} p}}-{\frac {2\,p'}{\alpha }}{\frac {\mathrm {d} p'}{\mathrm {d} p}}=0,$

on voit que la fonction $\mathrm {W} '$ sera indépendante de $p$. Le coefficient

$\alpha =a^{2}+{a'}^{2}+{a''}^{2}+\ldots ,$

sera toujours évidemment une quantité positive.

II. De même, posons,

${\frac {1}{2}}{\frac {\mathrm {dW'} }{\mathrm {d} q}}=q'=\lambda '+\beta 'q+\gamma 'r+\delta 's+\ldots$

et

$\mathrm {W} '-{\frac {{q'}^{2}}{\beta '}}=\mathrm {W} '',$

on aura

$q'={\frac {1}{2}}{\frac {\mathrm {dW} }{\mathrm {d} q}}-{\frac {p'}{\alpha }}\cdot {\frac {\mathrm {d} p'}{\mathrm {d} q}}=\mathrm {Q} -{\frac {\beta }{\alpha }}\,p'$

et

${\frac {\mathrm {dW''} }{\mathrm {d} q}}=0.$

Donc la fonction $\mathrm {W} ''$ est indépendante à la fois de $p$ et de $q$. Ces circonstances n’auraient plus lieu si l’on pouvait avoir

$\beta '=0.$

Mais il est clair que $\mathrm {W} '$ se déduit de

$v^{2}+{v'}^{2}+{v''}^{2}+\ldots ,$

en remplaçant dans $v$, $v'$, $v''$, etc., la quantité $p$ par sa valeur tirée de l’équation

$p'=0$ :

donc $\beta '$ sera la somme des coefficients de $q^{2}$ dans $v^{2}$, ${v'}^{2}$, ${v''}^{2}$, etc., après cette substitution. Mais ces coefficients sont tous des carrés et ne peuvent s’évanouir tous à la fois, si ce n’est dans le cas, que nous excluons de nos recherches, où les inconnues seraient indéterminées ; donc $\beta '$ doit être positive.

III. Si l’on pose, enfin,

${\frac {1}{2}}{\frac {\mathrm {dW''} }{\mathrm {d} r}}=r'=\lambda ''+\gamma ''r+\delta ''s+\ldots$

et

$\mathrm {W} ''-{\frac {{r'}^{2}}{\gamma ''}}=\mathrm {W} ''',$

on aura

$r'=\mathrm {R} -{\frac {\gamma }{\alpha }}\,p'-{\frac {\gamma '}{\beta '}}\,q',$

et $\mathrm {W} '''$ sera indépendant de $p$, de $q$ et de $r$. On prouvera comme plus haut que le coefficient $\gamma ''$ doit être positif. On voit, en effet, facilement que $\gamma ''$ est la somme des coefficients de $r^{2}$ dans $v^{2}$, ${v'}^{2}$, ${v''}^{2}$, etc., après que les quantités $p$ et $q$ ont été éliminées de $v$, $v'$, $v''$, etc., à l’aide des équations

${\begin{aligned}p'&=0,&q'&=0.\end{aligned}}$

IV. De la même manière en posant

${\begin{aligned}{\frac {1}{2}}{\frac {\mathrm {dW'''} }{\mathrm {d} s}}&=s'=\lambda '''+\delta '''s+\ldots ,&\mathrm {W} ^{\scriptscriptstyle \mathrm {IV} }&=\mathrm {W} '''-{\frac {{s'}^{2}}{\delta '''}},\end{aligned}}$

on aura

$s'=\mathrm {S} -{\frac {\delta }{\alpha }}\,p'-{\frac {\delta '}{\beta '}}\,q'-{\frac {\delta ''}{\gamma ''}}\,r',$

$\mathrm {W} ^{\scriptscriptstyle \mathrm {IV} }$ sera indépendant de $p$, $q$, $r$ et $s$, et $\delta '''$ une quantité positive.

V. S’il y a un plus grand nombre d’inconnues, on continuera de la même manière et l’on aura enfin

$\mathrm {W} ={\frac {1}{\alpha }}\,{p'}^{2}+{\frac {1}{\beta '}}\,{q'}^{2}+{\frac {1}{\gamma ''}}\,{r'}^{2}+{\frac {1}{\delta '''}}\,{s'}^{2}+\ldots +{\text{const.}},$

expression où $\alpha$, $\beta '$, $\gamma ''$, $\delta '''$, etc., désignent des quantités positives.

VI. On a déjà vu que la probabilité d’un système de valeurs de $p$, $q$, $r$, $s$, etc., était proportionnelle à la fonction $e^{-h^{2}\,\mathrm {W} }$ : par conséquent, la valeur de $p$ restant indéterminée, la probabilité d’un certain système de valeurs de $q$, $r$, $s$, etc., sera proportionnelle à l’intégrale

$\int _{-\infty }^{\infty }e^{-h^{2}\,\mathrm {W} }\,\mathrm {d} p,$

qui est égale, d’après le théorème de Laplace, à

$h^{-1}\,\alpha ^{-{\frac {1}{2}}}\,\pi ^{\frac {1}{2}}\,e^{-h^{2}\,\left({\frac {1}{\beta '}}\,{q'}^{2}+{\frac {1}{\gamma ''}}\,{r'}^{2}+\ldots \right)},$

et cette probabilité sera proportionnelle à la fonction

$e^{-h^{2}\,\mathrm {W} '}.$

De même, si l’on considère de plus $q$ comme indéterminé, la probabilité d’un système de valeurs de $r$, $s$, etc., sera proportionnelle à

$\int _{-\infty }^{\infty }e^{-h^{2}\,\mathrm {W} '}\,\mathrm {d} q$,

c’est-à-dire à

$h^{-1}\,{\beta '}^{-{\frac {1}{2}}}\,\pi ^{\frac {1}{2}}\,e^{-h^{2}\,\left({\frac {1}{\gamma ''}}\,{r'}^{2}+{\frac {1}{\delta '''}}\,{s'}^{2}+\ldots \right)};$

et, par suite, proportionnelle à $e^{-h^{2}\,\mathrm {W} ''}$. De même si $r$ est aussi regardée comme indéterminée, la probabilité d’un système de valeurs déterminées de $s$, etc., sera proportionnelle à $e^{-h^{2}\,\mathrm {W} '''}$, et ainsi de suite. Supposons que le nombre des inconnues se réduise à quatre ; les conclusions seraient les mêmes dans le cas général. La valeur la plus probable de $s$ sera

$-{\frac {\lambda '''}{\delta '''}},$

et la probabilité qu’elle différera de $\sigma$ de la véritable valeur sera proportionnelle à

$e^{-hh'''\sigma ^{2}}\,;$

d’où nous concluons que ${\sqrt {\delta '''}}$ mesure la précision relative à cette détermination, en prenant pour unité la précision des observations primitives.

9.

Par la méthode du paragraphe précédent un certain degré de précision a été assigné à la seule inconnue qui, dans le travail de l’élimination, a été gardée la dernière. Pour éviter cet inconvénient, nous allons calculer ${\delta '''}$ d’une autre manière.

Des équations

${\begin{alignedat}{3}\mathrm {P} &{}={}p',\!\!&\\\mathrm {Q} &{}={}q'&{}+{}&{\frac {\beta }{\alpha }}\,p',\\\mathrm {R} &{}={}r'&{}+{}&{\frac {\gamma '}{\beta '}}\,q'&{}+{}&{\frac {\gamma }{\alpha }}\,p',\\\mathrm {S} &{}={}s'&{}+{}&{\frac {\delta ''}{\gamma ''}}\,r'&{}+{}&{\frac {\delta '}{\beta '}}\,q'{}+{}{\frac {\delta }{\alpha }}\,p',\end{alignedat}}$

on tire, en les résolvant par rapport à $p'$, $q'$, $r'$, $s'$,

${\begin{alignedat}{4}p'&{}={}\mathrm {P} ,\\q'&{}={}\mathrm {Q} &{}+{}&{\mathcal {A}}\,\mathrm {P} ,\\r'&{}={}\mathrm {R} &{}+{}&{\mathcal {B}}'\mathrm {Q} &{}+{}&{\mathcal {A}}'\mathrm {P} ,\\s'&{}={}\mathrm {S} &{}+{}&{\mathcal {C}}''\mathrm {R} &{}+{}&{\mathcal {B}}''\mathrm {Q} &{}+{}&{\mathcal {A}}''\mathrm {P} ,\\\end{alignedat}}$

de sorte que ${\mathcal {A}}$, ${\mathcal {A}}'$, ${\mathcal {A}}''$, ${\mathcal {B}}'$, ${\mathcal {B}}''$, ${\mathcal {C}}''$, sont des quantités déterminées. On aura donc (en restreignant à quatre le nombre des inconnues)

$s={}-{}{\frac {\lambda '''}{\delta '''}}+{\frac {{\mathcal {A}}''}{\delta '''}}\,\mathrm {P} +{\frac {{\mathcal {B}}''}{\delta '''}}\,\mathrm {Q} +{\frac {{\mathcal {C}}''}{\delta '''}}\,\mathrm {R} +{\frac {1}{\delta '''}}\,\mathrm {S} ,$

d’où résulte la conséquence suivante : Les valeurs des inconnues $p$, $q$, $r$, $s$, etc., que l’on doit tirer des équations

${\begin{aligned}\mathrm {P} &=0,&\mathrm {Q} &=0,&\mathrm {R} &=0,&\mathrm {S} &=0,\ldots ,\end{aligned}}$

sont évidemment exprimées par des fonctions linéaires de $\mathrm {P}$, $\mathrm {Q}$, $\mathrm {R}$, $\mathrm {S}$, etc., savoir :

${\begin{array}{l}{\begin{alignedat}{5}p&{}={}\mathrm {L} &{}+{}&\mathrm {A} &\mathrm {P} {}+{}&\mathrm {B} &\mathrm {Q} {}+{}&\mathrm {C} &\mathrm {R} {}+{}&\mathrm {D} &\mathrm {S} +\ldots ,\\q&{}={}\mathrm {L} '&{}+{}&\mathrm {A} '&\mathrm {P} {}+{}&\mathrm {B} '&\mathrm {Q} {}+{}&\mathrm {C} '&\mathrm {R} {}+{}&\mathrm {D} '&\mathrm {S} +\ldots ,\\r&{}={}\mathrm {L} ''&{}+{}&\mathrm {A} ''&\mathrm {P} {}+{}&\mathrm {B} ''&\mathrm {Q} {}+{}&\mathrm {C} ''&\mathrm {R} {}+{}&\mathrm {D} ''&\mathrm {S} +\ldots ,\\s&{}={}\mathrm {L} '''&{}+{}&\mathrm {A} '''&\mathrm {P} {}+{}&\mathrm {B} '''&\mathrm {Q} {}+{}&\mathrm {C} '''&\mathrm {R} {}+{}&\mathrm {D} '''&\mathrm {S} +\ldots ,\end{alignedat}}\\\;\cdots \cdots \cdots \cdots \cdots \cdots \cdots \cdots \cdots \cdots \cdots \cdots \cdots \cdots \cdot \end{array}}$

Cela posé, les valeurs les plus probables de ces inconnues sont respectivement $\mathrm {L}$, $\mathrm {L} '$, $\mathrm {L} ''$, etc. Les degrés de précision qui doivent être attribués à ces déterminations sont respectivement

${\begin{aligned}{\frac {1}{\sqrt {\mathrm {A} }}}&,&{\frac {1}{\sqrt {\mathrm {B} '}}}&,&{\frac {1}{\sqrt {\mathrm {C} ''}}}&,&{\frac {1}{\sqrt {\mathrm {D} '''}}}&,\ldots ,\end{aligned}}$

en prenant pour unité la précision des observations primitives ; car ce que nous avons dit plus haut de l’inconnue $s$ (pour laquelle $\mathrm {D} '''$ répond à ${\frac {1}{\delta '''}}$), s’applique aux autres inconnues par une simple permutation.

10.

Pour éclaircir par un exemple les recherches qui précèdent, supposons que par des observations pour lesquelles une égale précision doit être présumée, on ait trouvé :

${\begin{alignedat}{4}p&{}-{}&q&{}+{}&2\,r&{}={}&3,\\3\,p&{}+{}&2\,q&{}-{}&5\,r&{}={}&5,\\4\,p&{}+{}&q&{}+{}&4\,r&{}={}&21,\\\end{alignedat}}$

mais que, par une observation à laquelle une précision égale à ${\tfrac {1}{2}}$ doit être attribuée, on ait trouvé

${}-{}2\,p+6\,q+6\,r=28.$

À cette dernière nous substituerons la suivante,

${}-{}p+3\,q+3\,r=14,$

que nous supposerons provenir d’une observation aussi précise que les premières. De là on tire

${\begin{alignedat}{6}&\mathrm {P} &&{}={}&27\,p&{}+{}&6\,q&&&{}-{}&88,\\&\mathrm {Q} &&{}={}&3\,p&{}+{}&15\,q&{}+{}&\,r&{}-{}&70,\\&\mathrm {R} &&{}={}&&&q&{}+{}&54\,r&{}-{}&107,\end{alignedat}}$

et par l’élimination

${\begin{alignedat}{6}19899\,p&{}={}&49154&{}+{}&809\,\mathrm {P} &{}-{}&324\,\mathrm {Q} &{}+{}&6\,\mathrm {R} ,\\737\,q&{}={}&2617&{}-{}&12\,\mathrm {P} &{}+{}&54\,\mathrm {Q} &{}-{}&\mathrm {R} ,\\6633\,r&{}={}&12707&{}+{}&2\,\mathrm {P} &{}-{}&9\,\mathrm {Q} &{}+{}&123\,\mathrm {R} .\end{alignedat}}$

Les valeurs les plus probables des inconnues seront donc

${\begin{aligned}p&=2{,}470,&q&=3{,}551,&r&=1{,}916,\end{aligned}}$

avec des degrés de précision égaux respectivement à

${\begin{aligned}{\sqrt {\frac {19899}{809}}}&=4{,}96,&{\sqrt {\frac {737}{54}}}&=3{,}69,&{\sqrt {\frac {6633}{123}}}&=7{,}34.\end{aligned}}$

11.

Le sujet que nous avons traité jusqu’ici donnerait lieu à d’élégantes recherches, auxquelles nous ne nous arrêterons pas, pour ne pas trop nous écarter de notre objet principal. Par la même raison, nous réservons pour une autre occasion l’exposition des artifices qui permettent de réduire le calcul à un algorithme plus expéditif. Qu’on nous permette seulement d’ajouter une seule observation.

Lorsque le nombre des fonctions ou des équations proposées est considérable, le calcul est surtout rendu pénible par cette circonstance, que les coefficients par lesquels on doit multiplier les équations primitives pour obtenir $\mathrm {P}$, $\mathrm {Q}$, $\mathrm {R}$, $\mathrm {S}$, etc., sont presque toujours des fractions décimales compliquées. Si l’on ne croit pas important dans ce cas de calculer ces produits avec le plus grand soin à l’aide des Tables de logarithmes, il suffira le plus souvent de leur substituer des nombres plus simples qui en diffèrent peu. Il ne peut en résulter d’erreurs notables qu’autant que la précision des inconnues devient moindre que la précision des observations primitives.

12.

Au reste, le principe d’après lequel la somme des carrés des différences entre les quantités observées et les quantités calculées doit être un minimum, peut encore s’établir sans recourir au calcul des probabilités, comme il suit.

Lorsque le nombre des inconnues est égal au nombre des observations, on peut déterminer les premières de manière qu’elles satisfassent aux secondes. Mais lorsque le premier nombre est le plus petit des deux, on ne peut obtenir un accord absolu lorsque les observations ne sont pas douées d’une précision absolue. Il faut donc dans ce cas chercher à établir l’accord le plus satisfaisant, c’est-à-dire à faire en sorte que les différences soient atténuées le plus possible. Mais cette idée a par elle-même quelque chose de vague. En effet, quoiqu’un système de valeurs des inconnues doive être sans aucun doute préféré à un autre système où toutes ces différences seraient respectivement plus grandes, le choix entre deux systèmes dans l’un desquels l’accord serait plus satisfaisant pour quelques-unes des observations, mais moins satisfaisant pour d’autres, est en quelque sorte arbitraire, et l’on peut évidemment proposer plusieurs principes par lesquels la première condition soit remplie. En désignant par $\Delta$, $\Delta '$, $\Delta ''$, etc., les différences entre le calcul et les observations, on satisfera à cette condition, non-seulement si $\Delta ^{2}+{\Delta '}^{2}+{\Delta ''}^{2}+\ldots$, devient un minimum (ce qui est notre principe), mais encore si $\Delta ^{4}+{\Delta '}^{4}+{\Delta ''}^{4}+\ldots$, ou $\Delta ^{6}+{\Delta '}^{6}+{\Delta ''}^{6}+\ldots$, ou généralement une somme de puissances paires, devient un minimum. Mais de tous ces principes le nôtre est le plus simple, tous les autres nous entraînant dans des calculs extrêmement compliqués. Au reste, ce principe, dont nous avons fait usage dès l’année 1793, a été donné dernièrement par Legendre dans ses Nouvelles méthodes pour la détermination des orbites des comètes, Paris, 1806 ; on trouvera dans cet ouvrage plusieurs conséquences que le désir d’abréger nous a fait omettre.

Si l’exposant de la puissance paire dont nous venons de parler était infini, nous serions ramené au système dans lequel les plus grandes erreurs sont moindres que dans tout autre système.

Laplace se sert, pour la résolution d’équations linéaires en nombre plus grand que les inconnues, d’un autre principe, proposé d’abord par Boscovich, savoir, que la somme des valeurs absolues des différences devienne minimum. On peut facilement démontrer que le système des valeurs des inconnues trouvé par ce seul principe doit nécessairement^[2] satisfaire à autant d’équations, prises parmi les proposées, qu’il y a d’inconnues, de sorte que les autres équations ne sont employées que pour décider le choix que l’on doit faire.

Si, par exemple, l’équation $\mathrm {V=M}$ est du nombre de celles qui ne sont pas satisfaites, le système des valeurs trouvées par le principe en question ne serait pas altéré si au lieu de $\mathrm {M}$ on avait observé une autre valeur $\mathrm {N}$ telle, que, $n$ étant la valeur calculée, les différences $\mathrm {M} -n$ et $\mathrm {N} -n$ fussent de même signe. Au reste, Laplace tempère en quelque sorte ce principe en y ajoutant cette nouvelle condition, que la somme des différences, prise avec leurs signes, soit nulle. Il en résulte que le nombre des équations satisfaites est moindre d’une unité que le nombre des inconnues : mais l’observation que nous venons de faire subsiste encore lorsqu’il n’y a que deux inconnues.

1. Si, dans ce troisième cas, $\mu +1-\nu$ des fonctions $\mathrm {V}$, $\mathrm {V'}$, $\mathrm {V''}$, etc., pouvaient être regardées comme des fonctions de toutes les autres, le problème deviendrait plus que déterminé relativement à ces fonctions, mais indéterminé relativement à $p$, $q$, $r$, $s$, etc. On ne pourrait pas en déduire les valeurs de ces dernières, même si les valeurs des fonctions $\mathrm {V}$, $\mathrm {V'}$, $\mathrm {V''}$, etc., étaient d’une exactitude absolue : mais nous excluons ce cas particulier de nos recherches.
2. Excepté quelques cas spéciaux où il y a indétermination.