La notion de continuité n’est pas clairement définie avant Cauchy (1821) et surtout Weierstrass (1861). Et pourtant elle est pratiquement sous-jacente à beaucoup de travaux d’analyse depuis le 17ème siècle. Il n’est pas étonnant qu’elle ne soit pas très facile à comprendre puisqu’il a fallu plus de deux siècles pour parvenir à la bonne définition.
Cauchy écrit, dans son Cours d’analyse de l’Ecole Royale Polytechnique, en 1821 :
Soit $f(x)$ une fonction de la variable $x$, et supposons que, pour chaque valeur intermédiaire entre deux limites données, cette fonction admette constamment une valeur unique et finie. Si, en partant d’une valeur de $x$ comprise entre ces limites, on attribue à la variable $x$ un accroissement infiniment petit $a$, la fonction elle-même recevra pour accroissement la différence $f(x+a)-f(x)$, qui dépendra en même temps de la nouvelle variable $a$ et de la valeur de $x$. Cela posé, la fonction $f(x)$ sera, entre les limites assignées à la variable $x$, fonction continue de cette variable, si, pour chaque valeur de $x$ intermédiaire entre ces limites, la valeur numérique de la différence $f(x+a)-f(x)$ décroît indéfiniment avec celle de $a$. En d’autres termes, la fonction $f(x)$ restera continue par rapport à $x$ entre les limites données, si, entre ces limites, un accroissement infiniment petit de la variable produit toujours un accroissement infiniment petit de la fonction elle-même.
Avec les notations actuelles, on écrirait que si $I$ est un intervalle donné, $f:I\to \R$ est continue si pour tous $x,x+a \in I$, $f(x+a)-f(x)$ tend vers zéro quand $a$ tend vers zéro. On comprend bien ce que l’auteur veut dire, mais il utilise encore les notions d’infiniment petits qui ne sont pas vraiment utiles et cachent une autre difficulté qui ne sera perçue que plus tard: la taille des accroissements $f(x+a)-f(x)$ peut beaucoup varier suivant la position de $x$ et suivant la fonction $f$ étudiée.
La définition actuelle est celle de Weierstrass (1861). Soit $I$ un intervalle ouvert : $f$ est continue au point $x_0\in I$ si pour tout nombre $\varepsilon\gt 0$ donné, on peut déterminer un nombre $\alpha=\alpha(x,\varepsilon)\gt 0$ (qui dépend donc à la fois de $x$ et de $\varepsilon$), tel que :\[x\in I\text{ et } |x-x_0|\lt\alpha \quad \implies \quad |f(x)-f(x_0)|\lt \varepsilon.\]Ceci équivaut, de manière plus géométrique, à dire : pour tout intervalle ouvert $J(f(x_0), \varepsilon):=]f(x_0)- \varepsilon, f(x_0)+ \varepsilon[$, de centre $f(x_0)$ et de rayon $\varepsilon\gt 0$ (appelé aussi voisinage de $f(x_0)$), on peut déterminer un intervalle ouvert $I(x_0,\alpha):=]x_0-\alpha,x_0+\alpha[$ de centre $x_0$ et de rayon $\alpha\gt 0$ (c’est à dire un voisinage de $x_0$), contenu dans $I$ et tel que :\[x\in I(x_0,\alpha) \quad \implies \quad f(x)\in J(f(x_0),\varepsilon).\]Ce n’est pas une définition très facile à retenir : il faut bien comprendre de quoi il s’agit et oublier un peu les notions d’accroissements infiniment petits de Cauchy. Certes, si l’on choisit $\varepsilon$ petit, on aura en général un $\alpha$ petit, mais les tailles de ces nombres peuvent varier très fortement suivant les fonctions.
Prenons par exemple $f: I=]0,1]\to \R$, définie par $f(x)=1/\sqrt{x}$ et choisissons $x_0=1/n$ avec $n\in \N$ fixé. On veut savoir dans quel intervalle de centre $x_0=1/n$ on doit choisir $x$ pour obtenir $|f(x)-f(x_0)|=|1/\sqrt{x}-\sqrt{n}|\lt \varepsilon$, ou encore $\sqrt{n}-\varepsilon \lt 1/\sqrt{x}\lt \sqrt{n}+\varepsilon$, (à condition de choisir $\varepsilon\lt \sqrt{n}$).
Cela équivaut aux inégalités $(\sqrt{n}-\varepsilon)^2 \lt 1/x\lt (\sqrt{n}+\varepsilon)^2$, ce qui donne\[\begin{equation}-\left(\frac 1n-\frac{1}{(\sqrt{n}+\varepsilon)^2}\right)\lt x-\frac 1n\lt \frac{1}{(\sqrt{n}-\varepsilon)^2}-\frac 1n. \label{eq:ph1}\end{equation}\]Si l’on choisit un $\alpha\lt 1/n$, et si $x$ vérifie $|x-1/n|\lt \alpha$, c’est à dire\[\begin{equation}-\alpha\lt x-1/n\lt \alpha \label{eq:ph2}\end{equation}\]alors on veut qu’il vérifie aussi les inégalités $\eqref{eq:ph1}$. Il faut donc que $\alpha$ satisfasse \[\begin{equation}\alpha\lt \min\left\{\frac 1n-\frac{1}{(\sqrt{n}+\varepsilon)^2}, \frac{1}{(\sqrt{n}-\varepsilon)^2}-\frac1n \right\}. \label{eq:ph3}\end{equation}\]En choisissant $\alpha=\dfrac{\varepsilon^2}{2n^2}$, et en utilisant l’inégalité $\sqrt{n}\gt \varepsilon$, vous montrerez que $\alpha$ vérifie $\eqref{eq:ph3}$, donc également $\eqref{eq:ph1}$. On voit donc que si $n$ augmente, c’est à dire si le point $x_0=1/n$ se rapproche de zéro, alors pour un même $\varepsilon\gt 0$ donné, la valeur de $\alpha$ est de plus en plus petite par rapport à ce choix de $\varepsilon$. Enfin, vous remarquerez que dans cette démonstration, on n’utilise plus les infiniment petits, mais des suites d’inégalités, ce qui est certes plus technique, mais à la fois plus clair et plus rigoureux.