Fonction Convexe

Fonction convexe

En mathématiques, et plus particulièrement en analyse, une fonction convexe est une fonction numérique vérifiant une propriété de sous-additivité vis-à-vis de la barycentration. Graphiquement, cela correspond à un graphe dont la « partie bombée est tournée vers le bas », ce qui peut s'interpréter en termes de partie convexe du plan.

À l'inverse, une fonction dont le graphe à sa « partie bombée tournée vers le haut» est une fonction concave. Elle vérifie une propriété de sur-additivité vis-à-vis de la barycentration. Une fonction est concave si et seulement si son opposée est une fonction convexe.

L’intérêt des fonctions convexes est de produire un grand nombre d'inégalités remarquables, dites inégalités de convexité, et d'apporter des facilités pour la recherche d'extrema.

Convexité pour une fonction d'une variable réelle

Dans cette première section, on va supposer que l'ensemble de départ est un intervalle $I$ de $\mathbb{R}$ . Cette restriction permet de fournir une première initiation aux fonctions convexes d'abord plus aisée et parce que la possibilité de tracer des représentation graphiques planes facilite certainement la tâche, ensuite et surtout parce que les concepts de continuité ou dérivabilité sont significativement plus maniables pour les fonctions d'une seule variable. Cette approche montre tout de même vite ses limites, en particulier parce qu'elle n'est guère pertinente pour appliquer la théorie des fonctions convexes à l'optimisation qui en est sans doute la principale motivation.

Le lecteur qui recherche la définition d'une fonction convexe de plusieurs variables, ou définie sur un ensemble convexe d'un espace vectoriel ou affine est invité à se rendre directement à la section suivante.

Définitions

Définition — Une fonction $f$ d’un intervalle $I$ de $\mathbb{R}$ vers $\mathbb{R}$ est dite convexe lorsque, pour tous $x 1$ et $x 2$ de $I$ et tout $λ$ dans $[0,1]$ on a :

$f(\lambda\, x_1+(1-\lambda)\, x_2) \leq \lambda\, f(x_1)+(1-\lambda)\, f(x_2)$

Cela signifie que pour tout $x 1$ et $x 2$ de $I$ , le segment $\ [A_1, A_2]$ de $\ \R^2$ , où $\ A_1 = (x_1 , f(x_1))$ et $\ A_2 = (x_2 , f(x_2))$ , est situé au-dessus de la courbe représentative de $f$ .

Une fonction concave est une fonction dont la fonction opposée est convexe.

On vérifie aussitôt ce qui suit, reliant les notions d'ensemble convexe et de fonction convexe :

Remarque — La fonction $f$ est convexe sur $I$ si et seulement si $\ \{(x,\, y) \in I \times \R\, | y \geq f(x)\}$ est un sous-ensemble convexe de $\ \R^2$ .

Cet ensemble est appelé l'épigraphe de $f$ .

Exemple : la fonction $x\,\colon\, \mapsto |x|$ est convexe, parce que son épigraphe est un quart de plan (lui-même convexe comme intersection de deux demi-plans). Il est souvent malcommode de vérifier la convexité d'une fonction définie par une formule concrète à partir de la seule définition, on attendra donc quelques paragraphes pour donner d'autres exemples, lorsqu'on disposera d'un critère de convexité plus utilisable en pratique.

Possibilité de n'utiliser que des milieux

La définition de la convexité fait apparaître des barycentres où les coefficients sont des réels arbitraires de $[0,1]$ . Il est possible de n'utiliser que des milieux, mais il est alors indispensable d'ajouter une hypothèse supplémentaire de régularité portant sur $f$ ^[1].

Proposition — Une fonction $f$ continue sur $I$ est convexe sur $I$ si et seulement si quels que soient les éléments $x 1$ et $x 2$ de $I$ :

$f\left(\frac{x_1+x_2}{2}\right) \leq \frac{f(x_1)+f(x_2)}{2}$ .

Démonstration

Première preuve : par densité des dyadiques

Ce théorème se démontre en deux temps :

On prouve le résultat pour les fractions dyadiques par récurrence sur le dénominateur ;
Puis on étend l'inégalité obtenue en utilisant la densité des dyadiques.

Par récurrence sur $n$ , on démontre que, pour toute fraction rationnelle $\frac{p}{2^n}$ avec $0\leq p\leq 2^n$ : $f(\frac{p}{2^n}x+\frac{2^n-p}{2^n}y)\leq \frac{p}{2^n}f(x)+\frac{2^n-p}{2^n}f(y)$

Si $n = 1$ , on applique directement l'hypothèse du théorème.
Supposons le résultat démontré jusqu'à l'entier n − 1 ;
- Si $p$ est pair, par simplification d'un facteur 2, on se ramène au cas d'une fraction rationnelle de dénominateur $2 n - 1$ ; on applique alors l'hypothèse de récurrence.
- Si $p$ est impair, $p = 2 r + 1$ , on constate :

$\frac{2r+1}{2^n}x+\frac{2^n-(2r+1)}{2^n}y=\frac{x'+y'}{2}$ avec $x'=\frac{r}{2^{n-1}}x+\frac{2^{n-1}-r}{2^{n-1}}y$ et $y'=\frac{r+1}{2^{n-1}}x+\frac{2^{n-1}-(r+1)}{2^{n-1}}y$ ;

En appliquant l'hypothèse de récurrence à

x'

et à

y'

, il vient :

$f\left(\frac{2r+1}{2^n}x+\frac{2^n-(2r+1)}{2^n}y\right)\leq \frac{f(x')+f(y')}{2}\leq \frac{p}{2^n}f(x)+\frac{2^n-p}{2^n}f(y)$

On conclut alors par densité.

Deuxième preuve : via l'existence d'extrema pour les fonctions continues sur les compacts

On va démontrer l'énoncé contraposé. Soit donc $f$ une fonction continue non convexe sur $I$ .

On peut alors trouver un intervalle $[a, b]$ inclus dans $I$ tel qu'il existe dans cet intervalle un point $c$ avec $(c, f (c))$ strictement au-dessus de la corde qui joint $(a, f (a))$ à $(b, f (b))$ . Quitte à soustraire à $f$ la fonction affine qui prend les mêmes valeurs qu'elle en $a$ et en $b$ , on peut supposer $f (a) = f (b) = 0$ , l'information sur $c$ se réduisant alors à $0 < f (c)$ .

Soit $A$ le maximum atteint par la fonction continue $f$ sur le compact $[a, b]$ . Ce maximum est donc strictement positif. Soit maintenant $m$ le plus petit élément de $[a, b]$ en lequel $f$ prend la valeur $A$ . Pour $ε > 0$ assez petit pour qu'on reste dans $[a, b]$ , posons $x 1 = m - ε$ et $x 2 = m + ε$ . Alors $f (x 1) < f (m)$ et $f(x_2)\leq f(m)$ , donc l'inégalité de la proposition n'est pas vérifiée pour ces valeurs de $x 1$ et $x 2$ .

Extension à des barycentres de plus de deux points

Article détaillé : Inégalité de Jensen.

L'inégalité de la définition s'étend comme suit (on peut le démontrer par récurrence sur l’entier $p$ ). On dénomme parfois cette version l'inégalité de Jensen :

Proposition — Si $f$ est convexe sur $I$ et si $x_1,\, \dots,\, x_p$ sont des points de $I$ et $\lambda_1,\, \dots,\, \lambda_p$ des réels positifs ou nuls tels que $\lambda_1 + \cdots + \lambda_p = 1$ , alors :

$f(\lambda_1\, x_1 + \cdots + \lambda_p\, x_p) \leq \lambda_1\, f(x_1) + \cdots + \lambda_p\, f(x_p)$ .

Géométrie du graphe d'une fonction convexe

On appelle parfois « lemme des trois cordes » le résultat suivant^[2] :

Proposition — Si $f$ est convexe sur $I$ , pour tous points $x 1$ , $x 2$ , $x 3$ de $I$ avec $x 1 < x 2 < x 3$

$\frac{f(x_2)-f(x_1)}{x_2-x_1}\leq \frac{f(x_3)-f(x_1)}{x_3-x_1}\leq \frac{f(x_3)-f(x_2)}{x_3-x_2}.$

Réciproquement, si l'une des trois inégalités est vérifiée pour tous $x 1$ , $x 2$ , $x 3$ de $I$ avec $x 1 < x 2 < x 3$ , alors $f$ est convexe.

Régularité des fonctions convexes

Le « lemme des trois cordes » permet de montrer que^[3] :

Théorème — Si $f$ est convexe sur un intervalle ouvert $I$

$f$ est continue en tout point ;
$f$ est dérivable à gauche et à droite en tout point, et les fonctions $\ f\,'_g\,,\, f\,'_d$ sont croissantes sur $I$ ;
l’ensemble des points $x$ où $f$ n'est pas dérivable (c'est-à-dire tels que $\ f\,'_g(x) \neq f\,'_d(x)$ ) est au plus dénombrable.

Démonstration

Soit $a \in I$ . On définit sur $I \setminus \left\{ a \right\}$ le taux d'accroissement en $a$ par $\tau _a :x \mapsto \frac{{f\left( x \right) - f\left( a \right)}} {{x - a}}$ . Cette fonction est croissante d'après le lemme des trois cordes appliqué pour les trois cas: $a < x < y$ , $x < a < y$ et $x < y < a$ . Elle admet donc une limite à gauche et à droite en $a$ finies.

Cela montre que $f$ est dérivable à gauche et à droite mais cela implique aussi que $f$ est continue.

Montrons que l'ensemble des points où f n'est pas dérivable est au plus dénombrable.
- Déjà, $f$ n'est pas dérivable en tout point où la dérivée à gauche est différente de la dérivée à droite, et en particulier par croissance du taux d'accroissement, quand la dérivée à droite est supérieure strictement à la dérivée à gauche. Soit $J =\left[ {a,b} \right]$ un segment inclus dans $I$ . On note $E = \left\{ {x \in J|f'_d \left( x \right) - f'_g \left( x \right) > 0} \right\}$ , et $E_n = \left\{ {x \in J|f'_d \left( x \right) - f'_g \left( x \right) > \frac{1} {n}} \right\}$ pour tout $n > 0$ . Il faut montrer que $E$ est au plus dénombrable. Comme $E = \bigcup\limits_{n > 0} {E_n }$ , en montrant que $E n$ est fini pour tout $n > 0$ , on aurait que $E$ serait une réunion dénombrable d'ensemble finis, donc au plus dénombrable.
- Supposons donc par l'absurde qu'il existe $n > 0$ tel que $E n$ ne soit pas fini. Soit $A > 0$ . Alors , puisque $E n$ est infini, on peut prendre $m$ éléments distincts dans cet ensemble où $m$ est un entier tel que $m > {n\left( {A - f'_g\left( a \right)} \right)}$ . Cela implique par croissance de $f' g$ que $f'_g\left( b \right) \geq f'_g\left( a \right) + \frac{m} {n} > A$ , ce qui signifie que $f' g$ diverge vers $+ \infty$ en $b -$ . Or comme $b$ est dans $I$ ouvert, cela est absurde puisque $f' g$ est croissante sur un intervalle autour de $b$ . On a montré que $E n$ est fini pour tout $n > 0$ .
- Pour conclure, il suffit de voir que $I$ est une réunion dénombrable de segments: $\left[ { - 2^n ,2^n } \right]$ si $I = \mathbf{R}$ , $\left[ {c + \frac{1} {n},d - \frac{1} {n}} \right]$ , si $I = \left[ {c,d} \right]$ , etc. On a que $I$ est le réunion dénombrable d'ensembles au plus dénombrables, donc il est au plus dénombrable.

Cas des fonctions dérivables

On dispose des caractérisations suivantes :

Proposition — Soit $f$ une fonction dérivable sur un intervalle $I$ .

$f$ est convexe si et seulement si sa courbe représentative est au-dessus de chacune de ses tangentes ;

$f$ est convexe si et seulement si sa dérivée est croissante sur $I$ .

d'où on tire le corollaire immédiat fort pratique pour vérifier sans mal la convexité d'exemples spécifiques :

Corollaire — Soit $f$ une fonction deux fois dérivable sur un intervalle $I$ .

$f$ est convexe si et seulement si sa dérivée seconde $f''$ est à valeurs positives ou nulles.

Ainsi on peut désormais facilement ajouter à sa collection de fonctions convexes (ou concaves) les exemples suivants :

la fonction $\ \R \to \R,\, x \mapsto x^2$ est convexe ;

la fonction $\ \R \to \R,\, x \mapsto \exp{x}$ est convexe ;

la fonction $\ \R^*_+ \to \R,\, x \mapsto \ln{x}$ est concave.

Stricte convexité

En faisant intervenir des inégalités strictes, on dispose d'une variante de la convexité, la stricte convexité.

Définition — Une fonction $f$ d’un intervalle $I$ de $\mathbb{R}$ vers $\mathbb{R}$ est dite strictement convexe lorsque, pour tous $x 1$ et $x 2$ distincts dans $I$ et tout $λ$ dans $]0,1[$ on a :

$f(\lambda\, x_1+(1-\lambda)\, x_2) < \lambda\, f(x_1)+(1-\lambda)\, f(x_2)$

Les résultats énoncés plus haut pour des fonctions convexes s'adaptent généralement sans mal aux fonctions strictement convexes. On prendra garde à une nuance : de même que les fonctions dérivables convexes sont celles qui ont une dérivée croissante, les fonctions dérivables strictement convexes sont celles qui ont une dérivée strictement croissante. En revanche, il ne faudrait pas croire que la dérivée seconde d'une fonction dérivable strictement convexe est nécessairement une fonction à valeurs strictement positives : la dérivée d'une fonction strictement croissante peut s'annuler occasionnellement, ou plus exactement peut s'annuler sur un ensemble de points d'intérieur vide. Penser à $f\,\colon\, x\mapsto x^4$ pour un exemple de fonction strictement convexe dont la dérivée seconde s'annule.