\DocumentMetadata{} % Au tout début du fichier (important pour LuaLaTeX récent)
\documentclass[french, a4paper, 12pt, twoside]{article}
\usepackage[french]{babel}% prise en compte des particularites de la typographie francaise. Remplace francais et frenchb
\usepackage{fontspec} % Pour les polices texte OpenType
\usepackage[math-style=ISO, bold-style=ISO]{unicode-math} % Style physique norme ISO
\setmainfont{TeX Gyre Termes}[Ligatures=TeX]  % Nom exact de la famille
\setmathfont{TeX Gyre Termes Math}
\usepackage[twoside, inner=3cm, outer=2cm, top=2.5cm, bottom=2.5cm]{geometry}% bordure des pages

\usepackage{amsthm}
\usepackage{amsfonts}

\usepackage{tcolorbox}% encadrer du texte
\definecolor{marron}{rgb}{.7,.7,.3}
\tcbuselibrary{skins,breakable}
\newtcolorbox{defbox}{colframe=black,colback=white,boxrule=0.4pt}
\newtcolorbox{thbox}{enhanced jigsaw,drop shadow,colframe=black,colback=white,boxrule=0.4pt}

\usepackage[nobottomtitles]{titlesec}% formatage des titres
\titleformat{\section}[block]{\vspace{\baselineskip}\large\scshape}{\thesection}{.7cm}{}[\hrule\vspace{.75\baselineskip}]
\titleformat{\subsection}[block]{\vspace{.75\baselineskip}\bfseries}{\thesubsection}{.5cm}{}[]
\renewcommand{\numberline}[1]{#1~~}% Problème de numérotation de la ToC

\usepackage{fancyhdr}% entete fancy (fancy header)
\fancyhf{}% vide head and foot
\pagestyle{fancy}
\renewcommand{\headrulewidth}{0pt}% epaisseur du ``filet'' (ligne horizontale) en haut des pages
\setlength{\headheight}{16pt}% hauteur de l'entete, normal=8pt
\setlength{\headsep}{28pt}% distance entre entete et corps du text, normal=14pt
\setlength{\footskip}{28pt}% place du numéro en bas de page
\fancyhead[l]{\color{marron}\slshape{\leftmark}}% titre en entete à gauche
\fancyfoot[LE,RO]{\thepage} % LE : left even ; RO : right odd
\fancyfoot[RE,LO]{\href{http://sciences-physiques.neocities.org}{sciences-physiques.neocities.org}}

\fancypagestyle{plain}{% pour la ToC et les chapitres
  \fancyhf{}               % vide tout
  \renewcommand{\headrulewidth}{0pt}
}

\usepackage{hyperref}
\hypersetup{
    pdftoolbar=true,% affiche la barre d'outils Acrobat
    pdftitle={Théorème central limite},% titre
    pdfauthor={Olivier Castéra},% auteur
    pdfstartview= FitH,% la page prend toute la largeur
    colorlinks=true,% false: liens encadres ; true: liens colores
    linkcolor=blue,% couleur des liens internes
    urlcolor=black,
    }

\theoremstyle{plain}
\newtheorem{theoreme}{Théorème}[section]

\theoremstyle{definition}
\newtheorem{definition}{Définition}[section]

\theoremstyle{remark}
\newtheorem*{exemple}{Exemple}
\newtheorem*{exemples}{Exemples}
\newtheorem*{remarque}{Remarque}

\usepackage{titling}
\pretitle{\begin{center}\Huge\bfseries}
\posttitle{\end{center}\vskip 1.5em}
\title{Le théorème central limite}
\author{Olivier Castéra\\
      \href{mailto:o.castera@free.fr}{o.castera@free.fr}\\
      \href{http://sciences-physiques.neocities.org}{sciences-physiques.neocities.org}}
\date{\today}

\begin{document}
\maketitle
\begin {abstract}
Le théorème central limite établit que la loi normale apparaît chaque fois que la grandeur 
aléatoire observée peut être présentée comme la somme d'un nombre suffisamment grand de composantes 
élémentaires indépendantes ou faiblement liées, dont chacune influe peu sur la somme.
\end {abstract}
\tableofcontents
\section{Variable aléatoire. Espérance. Moments. Variance.}
\begin{defbox}\begin{definition}
On appelle variable aléatoire discrète $X$, une fonction qui associe
à chaque résultat d'une expérience, une valeur $x_{i}$ inconnue d'avance, parmi un ensemble 
de valeurs possibles $x_{1},\dots, x_{n}$.
\end{definition}\end{defbox}
\begin{defbox}\begin{definition}
On appelle variable aléatoire continue $X$, une fonction qui associe
à chaque résultat d'une expérience, une valeur $x$ inconnue d'avance, sur un ensemble fini ou non
de valeurs possibles $[a,b]$.
\end{definition}\end{defbox}
\begin{defbox}\begin{definition}\label{defesp} 
On appelle espérance mathématique ou valeur moyenne de la variable aléatoire discrète $X$, la somme des produits 
de toutes les valeurs $x_{i}$ possibles de cette variable par les probabilités $p_{i}$ de ces valeurs.
On la note $E[X]$ ou $M[X]$ ou $m_{x}$ ou encore $\bar x$. On a 
\begin{equation*}
E[X]\overset{\Delta}{=}\sum_{i=1}^{n}x_{i}p_{i}
\end{equation*}
Dans le cas d'une variable aléatoire continue $X$, on a 
\begin{equation*}
E[X]\overset{\Delta}{=}\int_{-\infty}^{+\infty}xf(x)dx
\end{equation*}
\end{definition}\end{defbox}
\begin{defbox}\begin{definition}
On appelle moment initial d'ordre $s$ d'une variable aléatoire discrète $X$, la fonction $\alpha_{s}[X]$ définie par
\begin{equation*}
\alpha_{s}[X]\overset{\Delta}{=}\sum_{i=1}^{n}x_{i}^{s}\,\mathcal{P}_{i}
\end{equation*}
Initial signifiant que le moment est calculé par rapport à l'origine des coordonnées. 
Dans le cas d'une variable aléatoire continue $X$, on a 
\begin{equation*}
\alpha_{s}[X]\overset{\Delta}{=}\int_{-\infty}^{+\infty}x^{s}f(x)dx
\end{equation*}
\end{definition}\end{defbox}
Par conséquent le moment d'ordre un, $\alpha_{1}[X]$, se confond avec l'espérance mathématique $E[X]$ de la variable aléatoire $X$
\begin{equation*}
\alpha_{1}[X]\overset{\Delta}{=}E[X]
\end{equation*}
Les moments permettent de caractériser la loi de probabilité $\mathcal{P}$,
en donnant sa position, son degré de dispersion, et sa forme.
\begin{defbox}\begin{definition}
On appelle variable aléatoire centrée associée à $X$, et l'on note $\mathring{X}$, la différence
\begin{equation*}
\mathring{X}\overset{\Delta}{=}X-E[X]
\end{equation*}
\end{definition}\end{defbox}
\begin{defbox}\begin{definition}
On appelle moment centré d'ordre $s$ d'une variable aléatoire discrète $X$, la fonction $\mu_{s}[X]$ définie par
\begin{equation*}
\mu_{s}[X]\overset{\Delta}{=}\sum_{i=1}^{n}(x_{i}-m_{x})^{s}\,\mathcal{P}_{i}
\end{equation*}
Dans le cas d'une variable aléatoire continue $X$, on a 
\begin{equation*}
\mu_{s}[X]\overset{\Delta}{=}\int_{-\infty}^{+\infty}(x_{i}-m_{x})^{s}f(x)dx
\end{equation*}
\end{definition}\end{defbox}
\begin{thbox}\begin{theoreme}\label{thmc}
Pour toute variable aléatoire, le moment centré d'ordre un est nul.
\end{theoreme}\end{thbox}
\begin{proof}
\begin{align*}
E[\mathring X]&=E[X-E[X]]\\
&=E[X]-E[X]\\
&=0\qedhere
\end{align*}
\end{proof}
\begin{defbox}\begin{definition}\label{defvar}
On appelle variance de la variable aléatoire discrète~$X$, son moment centré d'ordre deux. On la note $V[X]$ ou $V_{x}$ ou $D[X]$ ou~$D_{x}$.
\begin{equation*}
V[X]\overset{\Delta}{=}\sum_{i=0}^{n}\mathring{x_{i}}^{2}\,\mathcal{P}_{i}
\end{equation*}
Dans le cas d'une variable aléatoire continue~$X$, on a 
\begin{equation*}
V[X]\overset{\Delta}{=}\int_{-\infty}^{+\infty}\mathring{x_{i}}^{2}f(x)dx
\end{equation*}
\end{definition}\end{defbox}
De part sa définition, la variance est l'espérance mathématique du carré 
de la variable aléatoire centrée associée à $X$.
\begin{equation*}
V[X]\overset{\Delta}{=}E[\mathring X^{2}]
\end{equation*}
\section{Inégalité de Bienaymé-Tchébychev}
\begin{thbox}\begin{theoreme}
Soit $X$ une variable aléatoire d'espérance mathématique $E[X]$ et de variance $V[X]$. Pour tout réel positif $\alpha$, 
la probabilité pour que $X$ s'éloigne de son espérance mathématique d'une grandeur supérieure ou égale à $\alpha$, 
a pour limite supérieure $V[X]/\alpha^{2}$~:
\begin{equation*}
P(|X-E[X]|\geqslant\alpha)\leqslant\dfrac{V[X]}{\alpha^{2}}
\end{equation*}
\end{theoreme}\end{thbox}
\begin{proof}
Effectuons d'abord la démonstration pour une variable aléatoire discrète, $X$, 
dont la suite de répartition est donnée par~:
\begin{equation*}
\dfrac{x_{1}\ x_{2}\ x_{3}\ \dots\ x_{n}}{p_{1}\ p_{2}\ p_{3}\ \dots\ p_{n}}
\end{equation*}
où $p_{i}=P(X=x_{i})$ est la probabilité pour que la variable aléatoire $X$ prenne la valeur $x_{i}$.
Soit $\alpha$ un réel positif,
\begin{equation*}
P(|X-E[X]|\geqslant\alpha)=\sum_{|x_{i}-E[X]|\geqslant\alpha}p_{i}
\end{equation*}
Or,
\begin{align*}
V[X]&=\sum^{n}_{i=1}(x_{i}-E[X])^{2}p_{i}\\
&=\sum^{n}_{i=1}|x_{i}-E[X]|^{2}p_{i}
\end{align*}
Les termes de la somme étant positifs ou nuls, on a
\begin{equation*}
V[X]\geqslant\sum_{|x_{i}-E[X]|\geqslant\alpha}|x_{i}-E[X]|^{2}p_{i}
\end{equation*}
et puisque $|x_{i}-E[X]|\geqslant\alpha$, on a
\begin{align*}
V[X]&\geqslant\sum_{|x_{i}-E[X]|\geqslant\alpha}\alpha^{2}p_{i}\\
\sum_{|x_{i}-E[X]|\geqslant\alpha}p_{i}&\leqslant\dfrac{V[X]}{\alpha^{2}}\\
P(|x-E[X]|\geqslant\alpha)&\leqslant\dfrac{V[X]}{\alpha^{2}}\qedhere
\end{align*}
\end{proof}
\begin{proof}
Dans le cas où $X$ est continue, on note $f(x)$ la densité de probabilité de $X$~:
\begin{equation*}
P(|X-E[X]|\geqslant\alpha)=\int_{|x_{i}-E[X]|\geqslant\alpha}f(x)dx
\end{equation*}
Or,
\begin{align*}
V[X]&=\int^{+\infty}_{-\infty}(x_{i}-E[X])^{2}f(x)dx\\
&=\int^{+\infty}_{-\infty}|x_{i}-E[X]|^{2}f(x)dx
\end{align*}
Les termes de l'intégrale étant positifs ou nuls, on a
\begin{equation*}
V[X]\geqslant\int_{|x_{i}-E[X]|\geqslant\alpha}|x_{i}-E[X]|^{2}f(x)dx
\end{equation*}
et puisque $|x_{i}-E[X]|\geqslant\alpha$, on a
\begin{align*}
V[X]&\geqslant\int_{|x_{i}-E[X]|\geqslant\alpha}\alpha^{2}f(x)dx\\
\int_{|x_{i}-E[X]|\geqslant\alpha}f(x)dx&\leqslant\dfrac{V[X]}{\alpha^{2}}\\
P(|X-E[X]|\geqslant\alpha)&\leqslant\dfrac{V[X]}{\alpha^{2}}\qedhere
\end{align*}
\end{proof}
\section{Fonctions de variables aléatoires}
Soit $X$ une variable aléatoire discrète de tableau de répartition suivant
\begin{equation*}
\dfrac{x_{1}\ x_{2}\ x_{3}\ \dots\ x_{n}}{p_{1}\ p_{2}\ p_{3}\ \dots\ p_{n}}
\end{equation*}
Soit $Z$ une fonction de la variable aléatoire $X$
\begin{equation*}
Z=\varphi(X)
\end{equation*}
son tableau de répartition est alors le suivant
\begin{align*}
\dfrac{\varphi(x_{1})\ \varphi(x_{2})\ \varphi(x_{3})\ \dots\ 
\varphi(x_{n})}{\ p_{1}\ \ \ \ \ p_{2}\ \ \ \ \ p_{3}\ \ \ \dots\ \ \ \ p_{n}}
\end{align*}
Son espérance mathématique~$E[Z]$ est donnée par
\begin{align*}
E[Z]&=E[\varphi(X)]\\
&=\sum_{i=1}^{n}\varphi(x_{i})p_{i}
\end{align*}
Lorsque la variable aléatoire $X$ est continue, on a
\begin{equation*}
E[Z]=\int_{-\infty}^{+\infty}\varphi(x)f(x)dx
\end{equation*}
Lorsque $Z$ est une fonction de deux variables aléatoires, $X$ et $Y$
\begin{equation*}
Z=\varphi(X,Y)
\end{equation*}
son tableau de répartition est le suivant
\begin{align*}
&\dfrac{\varphi(x_{1},y_{1})\ \varphi(x_{1},y_{2})\ \varphi(x_{1},y_{3})\ \dots\ \varphi(x_{1},y_{n})}
{p_{11}\ \ \ \ \ \ \ \ p_{12}\ \ \ \ \ \ \ \ p_{13}\ \ \ \ \ \dots\ \ \ \ p_{1n}}\\
&\dfrac{\varphi(x_{2},y_{1})\ \varphi(x_{2},y_{2})\ \varphi(x_{2},y_{3})\ \dots\ \varphi(x_{2},y_{n})}
{p_{21}\ \ \ \ \ \ \ \ p_{22}\ \ \ \ \ \ \ \ p_{23}\ \ \ \ \ \dots\ \ \ \ p_{2n}}\\
&\dfrac{\varphi(x_{3},y_{1})\ \varphi(x_{3},y_{2})\ \varphi(x_{3},y_{3})\ \dots\ \varphi(x_{3},y_{n})}
{p_{31}\ \ \ \ \ \ \ \ p_{32}\ \ \ \ \ \ \ \ p_{33}\ \ \ \ \ \dots\ \ \ \ p_{3n}}\\&\dots\\
&\dfrac{\varphi(x_{n},y_{1})\ \varphi(x_{n},y_{2})\ \varphi(x_{n},y_{3})\ \dots\ \varphi(x_{n},y_{n})}
{p_{n1}\ \ \ \ \ \ \ \ p_{n2}\ \ \ \ \ \ \ \ p_{n3}\ \ \ \ \ \dots\ \ \ \ p_{nn}}\\
\end{align*}
où $p_{ij}=P[(X=x_{i})(Y=y_{j})]$ est la probabilité pour que le système $(X,Y)$ prenne la valeur $(x_{i},y_{j})$.
Son espérance mathématique~$E[Z]$ est donnée par
\begin{align}
E[Z]&=E[\varphi(X,Y)]\notag\\
&=\sum_{i=1}^{n}\sum_{j=1}^{n}\varphi(x_{i},y_{j})p_{ij}\label{Edisc}
\end{align}
Lorsque les variables aléatoires $X$ et $Y$ sont continues, on a
\begin{equation}
E[Z]=\iint_{-\infty}^{+\infty}\varphi(x,y)f(x,y)dxdy\label{Econt}
\end{equation}
\subsection{Somme de deux variables aléatoires}
\begin{thbox}\begin{theoreme}\label{thmoy2}
L'espérance mathématique d'une somme de deux variables aléatoires est égale à la somme de leurs 
espérances mathématiques.
\begin{equation*}
E[X+Y]=E[X]+E[Y]
\end{equation*}
\end{theoreme}\end{thbox}
\begin{proof}
Soient $X$ et $Y$ deux variables aléatoires discrètes. Avec l'équation~\eqref{Edisc} on a
\begin{align*}
E[X+Y]&=\sum_{i=1}^{n}\sum_{j=1}^{n}(x_{i}+y_{j})p_{ij}\\
&=\sum_{i=1}^{n}\sum_{j=1}^{n}x_{i}p_{ij}+\sum_{i=1}^{n}\sum_{j=1}^{n}y_{j}p_{ij}\\
&=\sum_{i=1}^{n}\left( x_{i}\sum_{j=1}^{n}p_{ij}\right) +\sum_{j=1}^{n}\left( y_{j}\sum_{i=1}^{n}p_{ij}\right) \\
&=\sum_{i=1}^{n}x_{i}p_{i}+\sum_{j=1}^{n}y_{j}p_{j}\\
&=E[X]+E[Y]\qedhere
\end{align*}
\end{proof}
\begin{proof}
Soient maintenant $X$ et $Y$ deux variables continues. Avec l'équation~\eqref{Econt} on a
\begin{align*}
E[X+Y]&=\iint_{-\infty}^{+\infty}(x+y)f(x,y)dxdy\\
&=\iint_{-\infty}^{+\infty}xf(x,y)dxdy+\iint_{-\infty}^{+\infty}yf(x,y)dxdy\\
&=\int_{-\infty}^{+\infty}x\left( \int_{-\infty}^{+\infty}f(x,y)dy\right)dx+
\int_{-\infty}^{+\infty}y\left( \int_{-\infty}^{+\infty}f(x,y)dx\right)dy\\
&=\int_{-\infty}^{+\infty}xf_{1}(x)dx+\int_{-\infty}^{+\infty}yf_{2}(y)dy\\
&=E[X]+E[Y]\qedhere
\end{align*}
\end{proof}
\begin{defbox}\begin{definition}\label{defcov}
On appelle covariance des variables aléatoires $X$ et $Y$, l'espérance mathématique du produit 
des deux variables aléatoires centrées $\mathring X$ et $\mathring Y$ associées à $X$ et $Y$. Elle se note~$K_{xy}$
\begin{equation*}
K_{xy}\overset{\Delta}{=}E[\mathring X\mathring Y]
\end{equation*}
\end{definition}\end{defbox}
\begin{thbox}\begin{theoreme}\label{thvar2}
La variance de la somme de deux variables aléatoires est égale à la somme de leurs 
variances à laquelle s'ajoute la double covariance.
\begin{equation*}
V[X+Y]=V[X]+V[Y]+2K_{xy}
\end{equation*}
\end{theoreme}\end{thbox}
\begin{proof}
Soit la variable aléatoire $Z$ telle que
\begin{equation*}
Z=X+Y
\end{equation*}
En utilisant le théorème \ref{thmoy2}, on a 
\begin{align*}
E[Z]&=E[X+Y]\\
&=E[X]+E[Y]
\end{align*}
Donc
\begin{align*}
Z-E[Z]&=X-E[X]+Y-E[Y]\\
\mathring Z&=\mathring X+\mathring Y
\end{align*}
Par définition de la variance
\begin{align*}
V[Z]&=E[\mathring Z^{2}]\\
&=E[(\mathring X+\mathring Y)^{2}]\\
&=E[\mathring X^{2}+\mathring Y^{2}+2\mathring X\mathring Y]\\
&=E[\mathring X^{2}]+E[\mathring Y^{2}]+2E[\mathring X\mathring Y]\\
&=V[X]+V[Y]+2K_{xy}\qedhere
\end{align*}
\end{proof}

\begin{defbox}\begin{definition}\label{defind} 
Les variables aléatoires $X$ et $Y$ sont dites indépendantes si la loi de répartition de chacune d'elles ne
dépend pas des valeurs prises par l'autre.\\
La probabilité d'un système de variables aléatoires discrètes indépendantes est
égale au produit des probabilités des variables du système
\begin{align*}
P_{ij}&=P[(X=x_{i})(Y=y_{j})]\\
&=P[(X=x_{i})]P[(Y=y_{j})]\\
&=P_{i}P_{j}
\end{align*}
La densité de probabilité d'un système de variables aléatoires continues indépendantes est
égale au produit des densités des variables du système
\begin{equation*}
f(x,y)=f_{1}(x)f_{2}(y)
\end{equation*}
\end{definition}\end{defbox}
\begin{thbox}\begin{theoreme}\label{thcovind} 
La covariance $K_{xy}$ de variables aléatoires $X$ et $Y$ indépendantes est nulle.
\end{theoreme}\end{thbox}
\begin{proof}
Considérons des variables aléatoires discrètes
\begin{equation*}
K_{xy}=\sum_{i=1}^{n}\sum_{j=1}^{n}(x_{i}-m_{x})(y_{j}-m_{y})P_{ij}
\end{equation*}
d'aprés la définition \eqref{defind} des variables indépendantes
\begin{equation*}
P_{ij}=P_{i}P_{j}
\end{equation*}
Donc,
\begin{equation*}
K_{xy}=\sum_{i=1}^{n}(x_{i}-m_{x})P_{i}\sum_{j=1}^{n}(y_{j}-m_{y})P_{j}
\end{equation*}
Ces sommes sont respectivement le moment centré d'ordre un de $X$ et de $Y$, elles sont nulles 
d'après le théorème \ref{thmc}, et
\begin{equation*}
K_{xy}=0\qedhere
\end{equation*}
\end{proof}
\begin{proof}
Considérons maintenant des variables aléatoires continues
\begin{equation*}
K_{xy}=\iint_{-\infty}^{+\infty}(x-m_{x})(y-m_{y})f(x,y)dxdy
\end{equation*}
d'aprés la définition \eqref{defind} des variables indépendantes
\begin{equation*}
f(x,y)=f_{1}(x)f_{2}(y)
\end{equation*}
Donc,
\begin{equation*}
K_{xy}=\int_{-\infty}^{+\infty}(x-m_{x})f_{1}(x)dx\int_{-\infty}^{+\infty}(y-m_{y})f_{2}(y)dy
\end{equation*}
Ces intégrales sont respectivement le moment centré d'ordre un de $X$ et de $Y$, elles sont nulles 
d'après le théorème \ref{thmc}, et
\begin{equation*}
K_{xy}=0\qedhere
\end{equation*}
\end{proof}
\subsection{Produit de deux variables aléatoires}
\begin{thbox}\begin{theoreme}\label{thespprod} 
L'espérance mathématique du produit de deux variables aléatoires $X$ et $Y$ est égale au produit de leurs espérances 
mathématiques plus la covariance
\begin{equation*}
E[XY]=E[X]E[Y]+K_{xy}
\end{equation*}
\end{theoreme}\end{thbox}
\begin{proof}
D'après la définition \eqref{defcov} de la covariance
\begin{align*}
K_{xy}&=E[\mathring X\mathring Y]\\
&=E[(X-E[X])(Y-E[Y])]\\
&=E[XY-XE[Y]-E[X]Y+E[X]E[Y]]\\
&=E[XY]-E[XE[Y]]-E[E[X]Y]+E[E[X]E[Y]]\\
&=E[XY]-E[X]E[Y]-E[X]E[Y]+E[X]E[Y]\\
&=E[XY]-E[X]E[Y]\qedhere
\end{align*}
\end{proof}
\section{Théorème central limite}
\subsection{Fonction caractéristique}
\begin{defbox}\begin{definition}\label{deffc} 
On appelle fonction caractéristique de la variable aléatoire discrète $X$, l'espérance mathématique de la fonction $\exp{(itX)}$
\begin{align*}
g(t)&=\sum_{k=1}^{n}e^{itx_{k}}p_{k}\\
&=E\left[ e^{itX}\right]
\end{align*}
On appelle fonction caractéristique de la variable aléatoire continue $X$, la transformation de Fourier
de sa densité de probabilité~$f(x)$
\begin{align*}
g(t)&=\int_{-\infty}^{+\infty}e^{itx}f(x)dx\\
&=E\left[ e^{itX}\right]
\end{align*}
\end{definition}\end{defbox}
\begin{thbox}\begin{theoreme}\label{tha} 
Si deux variables aléatoires $X$ et $Y$ sont liées par la relation
\begin{equation*}
Y=aX
\end{equation*}
où $a$ est un facteur non aléatoire, leurs fonctions caractéristiques sont liées par la relation
\begin{equation*}
g_{y}(t)=g_{x}(at)
\end{equation*}
\end{theoreme}\end{thbox}
\begin{proof}
\begin{align*}
g_{y}(t)&=E\left[ e^{itY}\right] \\
&=E\left[ e^{itaX}\right] \\
&=E\left[ e^{i(at)X}\right] \\
&=g_{x}(at)\qedhere
\end{align*}
\end{proof}
\begin{thbox}\begin{theoreme}\label{thcara} 
La fonction caractéristique d'une somme de variables aléatoires indépendantes est égale au produit des fonctions
caractéristiques des composantes.
\end{theoreme}\end{thbox}
\begin{proof}
Soient $X_{1},X_{2},\dots,X_{n}$, des variables aléatoires indépendantes de fonctions
caractéristiques $g_{x_{1}},g_{x_{2}},\dots,g_{x_{n}}$, et de somme
\begin{equation*}
Y=\sum_{k=1}^{n}X_{k}
\end{equation*}
La fonction caractéristique de $Y$ s'écrit
\begin{align*}
g_{y}(t)&=E\left[ e^{itY}\right] \\
&=E\left[ e^{it\sum_{k=1}^{n}X_{k}}\right] \\
&=E\left[\prod_{k=1}^{n}e^{itX_{k}}\right]
\end{align*}
Les variables aléatoires $X_{k}$ étant indépendantes, les fonctions $e^{itX_{k}}$ le sont également et l'on peut
utiliser le théorème \ref{thespprod}
\begin{align*}
g_{y}(t)&=\prod_{k=1}^{n}E\left[ e^{itX_{k}}\right] \\
&=\prod_{k=1}^{n}g_{x_{k}}(t)\qedhere
\end{align*}
\end{proof}
\subsection{Fonction caractéristique de la loi normale}
\begin{thbox}\begin{theoreme}\label{thfcln} 
La fonction caractéristique de la loi normale d'espérance mathématique $m_{x}$ 
nulle et de variance $\sigma^{2}$ s'écrit
\begin{equation*}
g(t)=e^{-t^{2}\sigma^{2}/2}
\end{equation*}
\end{theoreme}\end{thbox}
\begin{proof}
Soit une variable aléatoire continue $X$ répartie suivant la loi normale, 
d'espérance mathématique $m_{x}$ nulle, et de variance $\sigma^{2}$.
Sa densité de probabilité $f(x)$ s'écrit
\begin{equation*}
f(x)=\dfrac{1}{\sigma\sqrt{2\pi}}e^{-x^{2}/(2\sigma^{2})}
\end{equation*}
Sa fonction caractéristique s'écrit
\begin{align*}
g(t)&=\dfrac{1}{\sigma\sqrt{2\pi}}\int_{-\infty}^{+\infty}e^{itx}e^{-x^{2}/(2\sigma^{2})}dx\\
&=\dfrac{1}{\sigma\sqrt{2\pi}}\int_{-\infty}^{+\infty}e^{itx-x^{2}/(2\sigma^{2})}dx
\end{align*}
On utilise la formule suivante
\begin{equation*}
\int_{-\infty}^{+\infty}e^{-Ax^{2}\pm2Bx-C}\,dx=\sqrt{\dfrac{\pi}{A}}\,e^{-(AC-B^{2})/A}
\end{equation*}
On identifie~: $A=1/(2\sigma^{2})$, $B=it/2$, et $C=0$. D'où
\begin{align*}
g(t)&=\dfrac{1}{\sigma\sqrt{2\pi}}\sqrt{2\pi\sigma^{2}}\,e^{-(t^{2}/4)2\sigma^{2}}\\
&=e^{-t^{2}\sigma^{2}/2}\qedhere
\end{align*}
\end{proof}
\subsection{Somme de deux lois normales}
\begin{thbox}\begin{theoreme}\label{thsdln} 
La somme de deux lois normales est une loi normale.
\end{theoreme}\end{thbox}
\begin{proof}
Soient $X$ et $Y$ deux variables aléatoires continues indépendantes dont les densités de
probabilité se répartissent selon des lois normales
\begin{align*}
f(x)=\dfrac{1}{\sigma_{x}\sqrt{2\pi}}\,e^{-x^{2}/(2\sigma_{x}^{2})}\\
f(y)=\dfrac{1}{\sigma_{y}\sqrt{2\pi}}\,e^{-y^{2}/(2\sigma_{y}^{2})}
\end{align*}
D'après la définition \ref{deffc}, leurs fonctions caractéristiques s'écrivent
\begin{align*}
g_{x}(t)&=e^{-t^{2}\sigma_{x}^{2}/2}\\
g_{y}(t)&=e^{-t^{2}\sigma_{y}^{2}/2}
\end{align*}
D'après le théorème \ref{thcara}, la fonction caractéristique $g_{z}(t)$ de leur somme est égale
au produit des fonctions caractéristiques
\begin{align*}
g_{z}(t)&=g_{x}(t)\times g_{y}(t)\\
&=e^{-t^{2}\sigma_{x}^{2}/2}\times e^{-t^{2}\sigma_{y}^{2}/2}\\
&=e^{-t^{2}(\sigma_{x}^{2}+\sigma_{y}^{2})/2}
\end{align*}
qui, d'après le théorème \ref{thfcln}, est la fonction caractéristique d'une loi normale d'espérance mathématique~$m_{z}$ nulle et
de variance $\sigma_{x}^{2}+\sigma_{y}^{2}$.
\end{proof}
\subsection{Théorème central limite}
\begin{thbox}\begin{theoreme}
Soient $X_{1},X_{2},\dots,X_{n}$, des variables aléatoires indépendantes de même loi de répartition,
d'espérance mathématique~$m_{x}$ et de variance~$\sigma^{2}$. Lorsque $n$ augmente indéfiniment 
la loi de répartition de la somme
\begin{equation*}
Y_{n}=\dfrac{1}{\sqrt{n}}\,\sum_{k=1}^{n}X_{k}
\end{equation*}
tend vers la loi normale.
\end{theoreme}\end{thbox}
\begin{proof}
Notez bien que le facteur $1/\sqrt{n}$ est nécessaire pour la démonstration, mais que la convergence de $Y_{n}$ vers la 
loi normale entraîne celle de la somme des variables aléatoires $\sum_{k=1}^{n}X_{k}$. Nous allons utiliser les 
fonctions caractéristiques et nous admettrons sans démonstration que 
la convergence des fonctions caractéristiques entraîne celle des lois.
D'après le théorème \ref{tha}, la fonction caractéristique de $Y_{n}$ est égale à
\begin{align*}
g_{y_{n}}(t)&=g_{1/\sqrt{n}\,\sum_{k=1}^{n}X_{k}}\\
&=g_{\sum_{k=1}^{n}X_{k}}\left(\dfrac{t}{\sqrt{n}}\right)
\end{align*}
D'après le théorème \ref{thcara}, la fonction caractéristique de $Y_{n}$ est égale au produit des fonctions
caractéristiques des $X_{k}$
\begin{equation}
g_{y_{n}}(t)=\left[ g_{x}\left( \dfrac{t}{\sqrt{n}}\right) \right] ^{n}\label{gy} 
\end{equation}
La fonction caractéristique de chaque $X_{k}$ s'écrit
\begin{equation*}
g_{x}\left( \dfrac{t}{\sqrt{n}}\right)=\int_{-\infty}^{+\infty}e^{ixt/\sqrt{n}}f(x)dx
\end{equation*}
Effectuons un développement limité au voisinage de zéro, à l'ordre $3$
\begin{align}
&g_{x}\left( \dfrac{t}{\sqrt{n}}\right)=g_{x}(0)+g'_{x}(0)\left( \dfrac{t}{\sqrt{n}}\right)+\left[ \dfrac{g''_{x}(0)}{2}+o\left( \dfrac{t}{\sqrt{n}}\right)\right]\dfrac{t^{2}}{n}\label{gx}\\
&\text{où}\ \lim_{t/\sqrt n\to 0} o\left( \dfrac{t}{\sqrt{n}}\right)=0\notag
\end{align}
Calculons chacun des termes
\begin{align*}
g_{x}(0)&=\int_{-\infty}^{+\infty}f(x)dx\\
&=1
\end{align*}
En dérivant on a
\begin{align*}
g'_{x}\left( \dfrac{t}{\sqrt{n}}\right)&=\int_{-\infty}^{+\infty}ixe^{ixt/\sqrt{n}}f(x)dx\\
&=i\int_{-\infty}^{+\infty}xe^{ixt/\sqrt{n}}f(x)dx
\end{align*}
en posant $t/\sqrt n=0$ on a
\begin{align*}
g'_{x}(0)&=i\int_{-\infty}^{+\infty}xf(x)dx\\
&=im_{x}
\end{align*}
On ne restreint pas la généralité en transférant l'origine au point $m_{x}$, on a alors $m_{x}=0$, et
\begin{equation*}
g'_{x}(0)=0
\end{equation*}
En dérivant une deuxième fois
\begin{equation*}
g''_{x}\left( \dfrac{t}{\sqrt{n}}\right)=-\int_{-\infty}^{+\infty}x^{2}e^{ixt/\sqrt{n}}f(x)dx
\end{equation*}
en posant $t/\sqrt n=0$ 
\begin{equation*}
g''_{x}(0)=-\int_{-\infty}^{+\infty}x^{2}f(x)dx
\end{equation*}
et comme on a posé $E[X]=0$, d'après la définition \ref{defvar} l'expression précédente n'est rien d'autre
que l'opposée de la variance
\begin{equation*}
g''_{x}(0)=-\sigma^{2}
\end{equation*}
En substituant ces résultats dans l'équation \eqref{gx}, lorsque $t/\sqrt n\to 0$
\begin{equation*}
g_{x}\left(\dfrac{t}{\sqrt{n}}\right)=1-\left[ \dfrac{\sigma^{2}}{2}-o\left( \dfrac{t}{\sqrt{n}}\right)\right]\dfrac{t^{2}}{n}
\end{equation*}
puis dans l'équation \eqref{gy}
\begin{equation*}
g_{y_{n}}(t)=\left\lbrace 1-\left[ \dfrac{\sigma^{2}}{2}-o\left( \dfrac{t}{\sqrt{n}}\right)\right]\dfrac{t^{2}}{n}\right\rbrace ^{n}
\end{equation*}
Prenons le logarithme de cette expression
\begin{equation*}
\ln g_{y_{n}}(t)=n\ln\left\lbrace 1-\left[ \dfrac{\sigma^{2}}{2}-o\left( \dfrac{t}{\sqrt{n}}\right)\right]\dfrac{t^{2}}{n}\right\rbrace
\end{equation*}
On pose
\begin{equation*}
\chi=\left[ \dfrac{\sigma^{2}}{2}-o\left( \dfrac{t}{\sqrt{n}}\right) \right]\dfrac{t^{2}}{n}
\end{equation*}
et l'on a
\begin{equation*}
\ln g_{y_{n}}(t)=n\ln\left\lbrace 1-\chi\right\rbrace
\end{equation*}
Lorsque $n$ tend vers l'infini, $\chi$ tend vers $0$, et $\ln(1-\chi)$ tend vers $-\chi$
\begin{align*}
\lim_{n\to +\infty}\ln g_{y_{n}}(t)&=\lim_{n\to +\infty}n(-\chi)\\
&=\lim_{n\to +\infty} n\left[ -\dfrac{\sigma^{2}}{2}+
o\left( \dfrac{t}{\sqrt{n}}\right) \right]\dfrac{t^{2}}{n}\\
&=-\dfrac{t^{2}\sigma^{2}}{2}+\lim_{n\to+\infty}t^{2}\,o\left( \dfrac{t}{\sqrt{n}}\right)
\end{align*}
Or $\lim_{t/\sqrt n\to0}o(t)=0$, donc
\begin{equation*}
\lim_{n\to+\infty}o\left( \dfrac{t}{\sqrt{n}}\right) =0
\end{equation*}
donc
\begin{equation*}
\lim_{n\to +\infty}\ln g_{y_{n}}(t)=-\dfrac{t^{2}\sigma^{2}}{2}
\end{equation*}
d'où
\begin{equation*}
\lim_{n\to +\infty}g_{y_{n}}(t)= e^{-t^{2}\sigma^{2}/2}
\end{equation*}
qui, d'après le théorème \ref{thfcln}, est la fonction caractéristique de la loi normale d'espérance mathématique nulle,
et de variance $\sigma^{2}$.
\end{proof}
\section{Les lois des grands nombres}
Les lois des grands nombres affirment la convergence en probabilité des variables aléatoires vers des grandeurs constantes, 
lorsque le nombre d'expériences augmente indéfiniment.
\subsection{Théorème de Tchébychev}
Soit une variable aléatoire $X$, fournissant lors de $n$ expériences indépendantes, les valeurs
$x_{1},x_{2},\dots,x_{n}$. Afin d'utiliser le théorème \ref{thmoy2}, nous allons considérer que ces valeurs 
sont les résultats d'une unique expérience réalisée sur chacune des $n$ variables aléatoires 
indépendantes $X_{1},X_{2},\dots,X_{n}$,
de même loi de répartition que la variable aléatoire $X$.\\
Plutôt que de considérer la somme de ces variables aléatoires, 
nous considérerons la moyenne arithmétique de ces variables, autrement dit la somme divisée par $n$.
Soit donc la variable aléatoire $Y$ définie comme la moyenne arithmétique de ces $n$ variables aléatoires
\begin{equation*}
Y=\dfrac{1}{n}\sum_{i=1}^{n}X_{i}
\end{equation*}
Son espérance mathématique s'écrit
\begin{align*}
E[Y]&=E\left[ \dfrac{1}{n}\sum_{i=1}^{n}X_{i}\right]\\
&=\dfrac{1}{n}\,E\left[\sum_{i=1}^{n}X_{i}\right]
\end{align*}
Avec le théorème \ref{thmoy2} on a
\begin{align*}
E[Y]&=\dfrac{1}{n}\sum_{i=1}^{n}E[X_{i}]\\
&=\dfrac{1}{n}\,n\,E[X]\\
&=E[X]
\end{align*}
La variance de $Y$ s'écrit 
\begin{align*}
V[Y]&=E[\mathring Y^{2}]\\
&=E\left[\left( \dfrac{1}{n}\sum_{i=1}^{n}\mathring X_{i}\right)^{2}\right]\\
&=\dfrac{1}{n^{2}}\,E\left[\left(\sum_{i=1}^{n}\mathring X_{i}\right)^{2}\right]\\
&=\dfrac{1}{n^{2}}\,V\left[\sum_{i=1}^{n}X_{i}\right]
\end{align*}
Avec le théorème \ref{thvar2} et le théorème \ref{thcovind} on a
\begin{align*}
V[Y]&=\dfrac{1}{n^{2}}\sum_{i=1}^{n}V[X_{i}]\\
&=\dfrac{1}{n}\,V[X]
\end{align*}
\begin{thbox}\begin{theoreme}\label{thtch}
Pour un nombre d'expériences suffisamment grand, la moyenne arithmétique des valeurs observées
d'une variable aléatoire converge en probabilité vers son espérance mathématique
\begin{equation*}
\forall \delta>0,\,\forall \varepsilon >0,\ \exists n\ \text{tel que}\
P\left( \left |\dfrac{1}{n}\sum_{i=1}^{n}X_{i}-E[X]\right|\geqslant\varepsilon\right)<\delta
\end{equation*}
\end{theoreme}\end{thbox}
\begin{proof}
Appliquons à $Y$ l'inégalité de Bienaymé-Tchébychev en posant $\alpha=\varepsilon$
\begin{equation*}
P(|Y-E[Y]|\geqslant\varepsilon)\leqslant\dfrac{V[Y]}{\varepsilon^{2}}
\end{equation*}
En appliquant les résultats trouvés précédemment sur l'espérance et la variance de $Y$
\begin{equation*}
P\left(\left|\dfrac{1}{n}\sum_{i=1}^{n}X_{i}-E[X]\right|\geqslant\varepsilon\right)\leqslant\dfrac{V[X]}{n\varepsilon^{2}}
\end{equation*}
et l'on pose $\delta=V[X]/(n\varepsilon^{2})$. Nous pouvons toujours choisir $n$ suffisamment grand
pour avoir l'inégalité ci-dessus, aussi petit que soit $\varepsilon$.
\end{proof}
\subsection{Théorème de Tchébychev généralisé}
On peut généraliser la loi des grands nombres au cas de variables aléatoires de loi de répartition différentes.
\begin{thbox}\begin{theoreme}
Soient $n$ variables aléatoires indépendantes $X_{1},$ $X_{2},$ $\dots,$ $X_{n}$, de lois de répartition différentes,
d'espérances mathématiques $E[X_{1}],$ $E[X_{2}],$ $\dots,$ $E[X_{n}]$, et de variances $V[X_{1}],V[X_{2}],\dots,V[X_{n}]$.
Si toutes les variances ont même limite supérieure $L$
\begin{equation*}
\forall i,\ V[X_{i}]<L
\end{equation*}
pour un nombre d'expériences suffisamment grand, la moyenne arithmétique des valeurs observées des variables
aléatoires $X_{1},X_{2},\dots,X_{n}$, converge en probabilité vers la moyenne arithmétique de leurs espérances mathématiques
\begin{equation*}
\forall \delta>0,\,\forall \varepsilon >0,\ \exists n\ \text{tel que}\quad
P\left( \left|\dfrac{1}{n}\sum_{i=1}^{n}X_{i}-\dfrac{1}{n}\sum_{i=1}^{n}E[X_{i}] \right|\geqslant\varepsilon \right)<\delta
\end{equation*}
\end{theoreme}\end{thbox}
\begin{proof}
Soit la variable aléatoire $Y$ telle que
\begin{equation*}
Y=\dfrac{1}{n}\sum_{i=1}^{n}X_{i}
\end{equation*}
Appliquons à $Y$ l'inégalité de Tchébychev~:
\begin{align*}
\forall \delta>0,\,\forall \varepsilon >0,\ \exists n\ \text{tel que}\quad P\left(|Y-E[Y]|\geqslant\varepsilon\right)&<\dfrac{V[Y]}{\varepsilon^{2}}\\
P\left(\left|\dfrac{1}{n}\sum_{i=1}^{n}X_{i}-\dfrac{1}{n}\sum_{i=1}^{n}E[X_{i}]\right|\geqslant\varepsilon\right)
&<\dfrac{\sum_{i=1}^{n}V[X_{i}]}{n^{2}\varepsilon^{2}}\\
P\left(\left|\dfrac{1}{n}\sum_{i=1}^{n}X_{i}-\dfrac{1}{n}\sum_{i=1}^{n}E[X_{i}]\right|\geqslant\varepsilon\right)
&<\dfrac{L}{n\varepsilon^{2}}
\end{align*}
et l'on pose $\delta=L/(n\varepsilon^{2})$. Nous pouvons toujours choisir $n$ suffisamment grand
pour avoir l'inégalité ci-dessus, aussi petit que soit $\varepsilon$.
\end{proof}
\subsection{Théorème de Markov}
On peut généraliser la loi des grands nombres au cas des variables aléatoires dépendantes.
\begin{thbox}\begin{theoreme}Théorème de Markov

Soient $n$ variables aléatoires dépendantes $X_{1},$ $X_{2},$ $\dots,$ $X_{n}$, de lois de répartition différentes,
d'espérances mathématiques $E[X_{1}],E[X_{2}],\dots,E[X_{n}]$, et de variances $V[X_{1}],V[X_{2}],\dots,V[X_{n}]$.
Si 
\begin{equation*}
\lim_{n\to \infty}\dfrac{1}{n^{2}}\sum_{i=1}^{n}V[X_{i}]=0
\end{equation*}
la moyenne arithmétique des valeurs observées des variables aléatoires
$X_{1},X_{2},\dots,X_{n}$, converge en probabilité vers la moyenne arithmétique de leurs espérances mathématiques
\begin{equation*}
\forall \delta>0,\,\forall \varepsilon >0,\ \exists n\ \text{tel que}\quad
P\left( \left|\dfrac{1}{n}\sum_{i=1}^{n}X_{i}-\dfrac{1}{n}\sum_{i=1}^{n}E[X_{i}] \right|\geqslant\varepsilon \right)<\delta
\end{equation*}
\end{theoreme}\end{thbox}
\begin{proof}
Soit la variable aléatoire $Y$ telle que
\begin{equation*}
Y=\dfrac{1}{n}\sum_{i=1}^{n}X_{i}
\end{equation*}
Appliquons à $Y$ l'inégalité de Tchébychev~:
\begin{align*}
\forall \delta>0,\,\forall \varepsilon >0,\ \exists n\ \text{tel que}\quad P\left(|Y-E[Y]|\geqslant\varepsilon\right)&<\dfrac{V[Y]}{\varepsilon^{2}}\\
P\left(\left|\dfrac{1}{n}\sum_{i=1}^{n}X_{i}-\dfrac{1}{n}\sum_{i=1}^{n}E[X_{i}]\right|\geqslant\varepsilon\right)
&<\dfrac{\sum_{i=1}^{n}V[X_{i}]}{n^{2}\varepsilon^{2}}
\end{align*}
On pose $\delta=\dfrac{1}{n^{2}\varepsilon^{2}}\sum_{i=1}^{n}V[X_{i}]$.
Par hypothèse, on peut toujours choisir $n$ suffisamment grand pour avoir ${\lim_{n\to \infty}\delta=0}$, aussi petit soit $\varepsilon$.
\end{proof}

\end{document}
