La topologie : notions de base et méthodes en prépa

Ce que la topologie recouvre

L'idée intuitive d'une géométrie du voisinage

Commence par une image. En géométrie classique, tu compares des figures en mesurant des distances et des angles. Deux figures sont identiques si l'une se superpose exactement à l'autre.

La topologie change la règle du jeu. Elle autorise à étirer, tordre, comprimer, à condition de ne jamais couper ni recoller. Deux objets qui se déduisent l'un de l'autre par une telle déformation sont dits homéomorphes.

Ce qui survit à ces déformations est justement l'objet d'étude. Le nombre de trous survit. Le fait qu'un ensemble soit d'un seul morceau survit. La longueur, elle, ne survit pas.

La tasse et le tore

L'exemple canonique est celui de la tasse et du tore. Une tasse à anse possède exactement un trou, celui de l'anse. Un tore, c'est-à-dire la surface d'une chambre à air, en possède un aussi.

On peut passer continûment de l'une à l'autre en aplatissant le corps de la tasse et en épaississant l'anse. Aucun découpage n'est nécessaire. Du point de vue topologique, la tasse et le tore sont donc le même objet.

Une sphère, en revanche, n'a pas de trou. Aucune déformation continue sans déchirure ne transforme une sphère en tore. C'est cette distinction que la topologie sait formaliser.

Deux étages à ne pas confondre

Le mot topologie désigne en réalité deux choses, et la confusion coûte cher en colle. Le premier étage est la topologie générale, enseignée à l'université. On y définit une topologie sur un ensemble X comme une famille de parties de X, appelées ouverts, stable par réunion quelconque et par intersection finie, contenant ∅ et X. Le couple (X, 𝒯) s'appelle alors un espace topologique.

Le second étage est celui du programme de prépa. Là, la proximité vient toujours d'une norme ou d'une distance. Tu ne rencontres pas l'axiomatique abstraite de Hausdorff, publiée en 1914 dans ses Grundzüge der Mengenlehre.

Historiquement, le mot apparaît en 1847 sous la plume de Johann Benedict Listing, dans Vorstudien zur Topologie. Henri Poincaré en fait une théorie avec son mémoire Analysis Situs, publié en 1895. Maurice Fréchet introduit les espaces métriques en 1906.

Normes et distances, le cadre du programme de prépa

Ce qu'est une norme

Une norme est une façon de mesurer la taille d'un vecteur. Soit E un espace vectoriel sur ℝ ou ℂ. Une application N de E dans ℝ₊ est une norme si elle vérifie trois propriétés.

N(x) = 0 ⇔ x = 0 ; N(λx) = |λ| × N(x) ; N(x + y) ≤ N(x) + N(y)

Ici x et y sont des vecteurs de E, λ est un scalaire, |λ| est son module, et N(x) est un réel positif sans unité physique imposée. La première propriété est la séparation, la deuxième l'homogénéité, la troisième l'inégalité triangulaire. On note souvent N(x) = ‖x‖.

Le couple (E, ‖·‖) s'appelle un espace vectoriel normé, en abrégé evn. Toute norme fournit une distance.

d(x, y) = ‖x − y‖

Ici d(x, y) est la distance entre les vecteurs x et y, exprimée dans la même unité que la norme. Cette distance vérifie la symétrie, l'inégalité triangulaire, et s'annule seulement si x = y.

Les normes usuelles à connaître

Sur ℝⁿ ou ℂⁿ, trois normes reviennent sans arrêt. Pour x = (x₁, …, xₙ), elles s'écrivent ainsi.

‖x‖₁ = |x₁| + … + |xₙ| ; ‖x‖₂ = √(|x₁|² + … + |xₙ|²) ; ‖x‖∞ = max(|x₁|, …, |xₙ|)

Ici les xᵢ sont les coordonnées de x, et chaque norme rend un réel positif. La norme ‖·‖₂ est la norme euclidienne, celle de la longueur usuelle. La norme ‖·‖∞ est la norme infinie, ou norme sup.

Sur un espace de fonctions, les mêmes idées se transposent. Pour f continue sur un segment [a, b], on utilise fréquemment trois normes.

‖f‖₁ = ∫ₐᵇ |f(t)| dt ; ‖f‖₂ = √(∫ₐᵇ f(t)² dt) ; ‖f‖∞ = sup{|f(t)| : t ∈ [a, b]}

Ici f est une fonction continue à valeurs réelles, t la variable d'intégration, et chaque norme rend un réel positif. La norme ‖·‖∞ correspond à la convergence uniforme. Les normes ‖·‖₁ et ‖·‖₂ correspondent à des convergences en moyenne.

L'équivalence des normes en dimension finie

Deux normes N₁ et N₂ sur E sont équivalentes s'il existe deux réels α > 0 et β > 0 tels que la double inégalité suivante soit vraie pour tout x de E.

α × N₁(x) ≤ N₂(x) ≤ β × N₁(x)

Ici N₁ et N₂ sont deux normes sur E, α et β sont des constantes strictement positives indépendantes de x. Deux normes équivalentes définissent exactement les mêmes ouverts, les mêmes fermés, les mêmes suites convergentes.

Le résultat structurant du programme est le suivant. Sur un espace vectoriel de dimension finie, toutes les normes sont équivalentes. La topologie d'un tel espace ne dépend donc pas de la norme choisie.

En dimension infinie, ce confort disparaît. Sur l'espace des fonctions continues de [0, 1] dans ℝ, les normes ‖·‖₁ et ‖·‖∞ ne sont pas équivalentes. La suite définie par fₙ(t) = tⁿ le montre : sa norme infinie vaut 1, alors que sa norme ‖·‖₁ vaut 1/(n + 1) et tend vers 0.

Boules, voisinages, ouverts et fermés

Boules ouvertes et boules fermées

Toute la topologie d'un evn se construit à partir des boules. Soit a un point de E et r un réel strictement positif. On définit deux ensembles.

B(a, r) = {x ∈ E : ‖x − a‖ < r} et B̄(a, r) = {x ∈ E : ‖x − a‖ ≤ r}

Ici a est le centre, r le rayon, exprimé dans l'unité de la norme. Le premier ensemble est la boule ouverte, le second la boule fermée. L'inégalité stricte fait toute la différence.

La forme géométrique d'une boule dépend de la norme. Dans ℝ², la boule unité de ‖·‖₂ est un disque. Celle de ‖·‖∞ est un carré de côté 2. Celle de ‖·‖₁ est un carré posé sur la pointe.

Voisinages

Une partie V de E est un voisinage d'un point a s'il existe un rayon r > 0 tel que B(a, r) soit incluse dans V. Autrement dit, V contient tous les points suffisamment proches de a.

Cette notion sert à parler de comportement local. Une propriété vraie au voisinage de a est une propriété vraie sur une petite boule centrée en a. Les énoncés de limites et de continuité s'écrivent naturellement avec ce vocabulaire.

Ouverts et fermés

Une partie U de E est ouverte si elle est voisinage de chacun de ses points. Pour tout a de U, il existe donc r > 0 avec B(a, r) ⊂ U. Une boule ouverte est ouverte, un demi-plan strict est ouvert.

Une partie F de E est fermée si son complémentaire E \ F est ouvert. Une boule fermée est fermée, un singleton est fermé, un segment de ℝ est fermé.

Retiens trois pièges. Une partie peut être ni ouverte ni fermée, comme l'intervalle [0, 1[ dans ℝ. Une partie peut être les deux à la fois : dans E, seuls ∅ et E le sont toujours. Enfin, le caractère ouvert ou fermé dépend de l'espace ambiant.

La caractérisation séquentielle des fermés

C'est l'outil le plus rentable du chapitre. Une partie F de E est fermée si et seulement si toute suite d'éléments de F qui converge dans E a sa limite dans F.

En pratique, la démonstration suit toujours le même squelette. Tu prends une suite (xₙ) d'éléments de F. Tu supposes qu'elle converge vers un élément x de E. Tu montres alors que x appartient à F.

Cette caractérisation transforme une question topologique en un passage à la limite. Elle fonctionne parce que toutes les inégalités larges se conservent par passage à la limite, alors que les inégalités strictes ne se conservent pas.

Intérieur, adhérence, frontière et densité

Intérieur et adhérence

Soit A une partie de E. L'intérieur de A, noté Å ou int(A), est l'ensemble des points dont A est un voisinage. C'est le plus grand ouvert inclus dans A.

L'adhérence de A, notée Ā, est l'ensemble des points x de E tels que toute boule B(x, r) rencontre A. C'est le plus petit fermé contenant A.

L'adhérence admet elle aussi une caractérisation séquentielle, très utilisée. Un point x appartient à Ā si et seulement s'il existe une suite d'éléments de A qui converge vers x.

Frontière

La frontière de A est la différence entre son adhérence et son intérieur. On la note souvent ∂A ou Fr(A).

∂A = Ā \ Å

Ici Ā est l'adhérence de A, Å son intérieur, et ∂A un ensemble de points de E. Un point de la frontière est un point dont toute boule rencontre à la fois A et son complémentaire. La frontière est toujours fermée.

Un exemple éclaire le tout. Dans ℝ², prends le disque unité ouvert D. Son intérieur est D, son adhérence est le disque fermé, sa frontière est le cercle de rayon 1.

Densité

Une partie A de E est dense dans E si son adhérence vaut E tout entier. Autrement dit, tout point de E est limite d'une suite d'éléments de A.

L'exemple de référence est ℚ dans ℝ. Tout réel est limite d'une suite de rationnels, donc ℚ est dense dans ℝ. L'ensemble des irrationnels est également dense dans ℝ.

La densité sert à étendre une identité. Si deux applications continues coïncident sur une partie dense, elles coïncident partout. Ce principe revient très souvent dans les problèmes de concours.

Suites, convergence et continuité

Convergence d'une suite dans un evn

Une suite (xₙ) d'éléments de E converge vers x si la distance de xₙ à x tend vers 0. La définition s'écrit avec un quantificateur sur ε.

∀ ε > 0, ∃ N ∈ ℕ, ∀ n ≥ N, ‖xₙ − x‖ ≤ ε

Ici ε est un réel strictement positif sans dimension imposée, N un entier seuil, et ‖xₙ − x‖ la distance entre le terme de rang n et la limite. La limite, quand elle existe, est unique. Toute suite convergente est bornée.

En dimension finie, la convergence se lit coordonnée par coordonnée. Une suite de vecteurs de ℝᵖ converge si et seulement si chacune de ses p suites de coordonnées converge. Cette équivalence découle de l'équivalence des normes.

Suites extraites

Une suite extraite de (xₙ) est une suite de la forme (x_φ(n)), où φ est une application strictement croissante de ℕ dans ℕ. On parle aussi de sous-suite.

Deux faits servent constamment. Si (xₙ) converge vers x, toute suite extraite converge vers x. Réciproquement, si deux suites extraites convergent vers des limites différentes, la suite diverge.

Continuité et ses caractérisations

Soit f une application d'une partie A de E dans un evn F. On dit que f est continue en a si la définition suivante est vérifiée.

∀ ε > 0, ∃ δ > 0, ∀ x ∈ A, ‖x − a‖ ≤ δ ⇒ ‖f(x) − f(a)‖ ≤ ε

Ici ε et δ sont deux réels strictement positifs, a le point d'étude, et les deux normes sont celles de E et de F. La continuité sur A signifie la continuité en chaque point de A.

Trois caractérisations coexistent, et savoir choisir la bonne fait gagner du temps. La caractérisation séquentielle dit que f est continue en a si et seulement si, pour toute suite (xₙ) de A tendant vers a, la suite (f(xₙ)) tend vers f(a). La caractérisation globale concerne une application définie sur E entier. Elle est continue si et seulement si l'image réciproque de tout ouvert est un ouvert. C'est équivalent à dire que l'image réciproque de tout fermé est un fermé.

Attention au sens des flèches. C'est l'image réciproque qui se comporte bien, pas l'image directe. L'image directe d'un ouvert par une application continue n'a aucune raison d'être un ouvert.

Une application lipschitzienne est continue. Une application linéaire entre espaces de dimension finie est toujours continue. En dimension infinie, une application linéaire peut ne pas l'être, et la continuité équivaut alors à l'existence d'un réel k tel que ‖u(x)‖ ≤ k × ‖x‖ pour tout x.

Compacité et connexité par arcs

Parties compactes et Bolzano-Weierstrass

Dans le cadre du programme, la compacité se définit par les suites. Une partie K de E est compacte si toute suite d'éléments de K admet une suite extraite qui converge vers un élément de K. On parle de compacité séquentielle.

Le théorème de Bolzano-Weierstrass donne le cas de référence. Toute suite bornée de ℝ, ou plus généralement d'un espace vectoriel normé de dimension finie, admet une suite extraite convergente.

De là découle la caractérisation qui sert le plus. En dimension finie, une partie est compacte si et seulement si elle est fermée et bornée. Un segment [a, b] est compact, une sphère de ℝⁿ est compacte, ℝ ne l'est pas.

Cette équivalence tombe en dimension infinie. La boule unité fermée d'un espace de dimension infinie n'est pas compacte en général. C'est une erreur fréquente que les jurys relèvent.

Image continue d'un compact

Le théorème clé s'énonce en une ligne. L'image d'un compact par une application continue est un compact.

La conséquence la plus utilisée porte sur les fonctions réelles. Une fonction continue sur un compact non vide, à valeurs réelles, est bornée et atteint ses bornes. Elle possède donc un maximum et un minimum, effectivement atteints.

Deux autres résultats complètent le tableau. Le théorème de Heine affirme qu'une application continue sur un compact est uniformément continue. Une application continue d'un compact dans un evn est également bornée.

Connexité par arcs

Une partie A de E est connexe par arcs si, pour tous points a et b de A, il existe un chemin continu tracé dans A qui joint a à b. Formellement, il existe une application continue γ de [0, 1] dans A avec γ(0) = a et γ(1) = b.

C'est la traduction rigoureuse de l'idée d'être d'un seul morceau. Une boule est connexe par arcs. Tout ensemble convexe, et plus généralement tout ensemble étoilé, l'est aussi.

Deux résultats sont à retenir. L'image d'un connexe par arcs par une application continue est connexe par arcs. Les parties connexes par arcs de ℝ sont exactement les intervalles, ce qui redonne le théorème des valeurs intermédiaires.

Un exemple entièrement résolu

L'énoncé

Place-toi sur E = C([0, 1], ℝ), l'espace des fonctions continues de [0, 1] dans ℝ, muni de la norme infinie ‖f‖∞ = sup{|f(t)| : t ∈ [0, 1]}. Considère la partie suivante.

F = {f ∈ E : f(0) = 0 et ∫₀¹ f(t) dt = 0}

Ici f est une fonction continue de [0, 1] dans ℝ, t la variable d'intégration, et les deux conditions sont des égalités entre réels. Montre que F est une partie fermée de E.

La rédaction pas à pas

Première étape, poser le cadre. Soit (fₙ) une suite d'éléments de F. Suppose que (fₙ) converge vers une fonction f de E pour la norme ‖·‖∞. L'objectif est de montrer que f appartient à F.

Deuxième étape, traiter la condition en 0. Pour tout entier n, on a l'encadrement suivant.

|fₙ(0) − f(0)| ≤ sup{|fₙ(t) − f(t)| : t ∈ [0, 1]} = ‖fₙ − f‖∞

Ici fₙ(0) et f(0) sont deux réels, et ‖fₙ − f‖∞ est un réel positif. Comme ‖fₙ − f‖∞ tend vers 0, la suite réelle (fₙ(0)) converge vers f(0). Or fₙ(0) = 0 pour tout n, puisque fₙ appartient à F. Par unicité de la limite d'une suite réelle, f(0) = 0.

Troisième étape, traiter la condition intégrale. Utilise la linéarité de l'intégrale, puis la majoration de l'intégrale d'une valeur absolue.

|∫₀¹ fₙ(t) dt − ∫₀¹ f(t) dt| = |∫₀¹ (fₙ(t) − f(t)) dt| ≤ ∫₀¹ |fₙ(t) − f(t)| dt ≤ ‖fₙ − f‖∞

Ici la dernière majoration utilise la longueur du segment, égale à 1. Le membre de droite tend vers 0. La suite réelle des intégrales de fₙ converge donc vers l'intégrale de f. Comme cette suite est nulle terme à terme, l'intégrale de f est nulle.

Quatrième étape, conclure. Les deux conditions définissant F sont vérifiées par f, donc f ∈ F. Toute suite d'éléments de F convergeant dans E a sa limite dans F. Par caractérisation séquentielle, F est fermée dans (E, ‖·‖∞).

Ce que l'exemple enseigne

Remarque d'abord la structure de la preuve. Chaque condition définissant F a été traitée séparément, par une inégalité qui ramène tout à ‖fₙ − f‖∞. C'est le réflexe à installer.

Remarque ensuite le rôle de la norme. Le résultat dépend du choix de ‖·‖∞. Dans (E, ‖·‖₁), l'ensemble des fonctions continues nulles en 0 est dense dans E, donc il n'est pas fermé, puisqu'il diffère de E.

Une variante plus rapide existe. L'application f ↦ f(0) et l'application f ↦ ∫₀¹ f(t) dt sont linéaires et continues pour ‖·‖∞. La partie F est l'intersection des images réciproques du fermé {0}, donc F est fermée comme intersection de deux fermés.

Erreurs classiques, place au programme et aux concours

Tableau récapitulatif des notions et de leurs caractérisations

Les erreurs qui coûtent des points

La première erreur consiste à oublier l'espace ambiant. L'intervalle [0, 1[ n'est ni ouvert ni fermé dans ℝ, mais toute partie de ℝ est ouverte et fermée dans elle-même. Précise toujours dans quel espace tu travailles.

La deuxième erreur porte sur les inégalités strictes. Une inégalité large passe à la limite, une inégalité stricte non. Un ensemble défini par une inégalité stricte est typiquement ouvert, pas fermé.

La troisième erreur mélange image directe et image réciproque. Retiens la formulation correcte : image réciproque d'un ouvert par une application continue est un ouvert.

La quatrième erreur transporte en dimension infinie des résultats valides seulement en dimension finie. L'équivalence des normes, l'équivalence entre compacité et fermé borné, la continuité automatique des applications linéaires : ces trois énoncés supposent la dimension finie.

La place de la notion au programme et aux concours

Les programmes des classes préparatoires scientifiques ont été refondus par des arrêtés du 5 janvier 2021. Ils sont publiés au Bulletin officiel spécial n° 1 du 11 février 2021 pour la première année.

Les programmes de seconde année ont suivi. L'arrêté du 13 juillet 2021 concerne la filière MP, et un texte voisin la filière MPI. Tous deux sont parus au Bulletin officiel n° 31 du 26 août 2021, pour une application à la rentrée 2022. Le détail des contenus figure dans les annexes, consultables sur le site du ministère.

En première année, tu rencontres surtout les suites et les fonctions d'une variable réelle, avec la notion de norme dans le cadre euclidien. La topologie des espaces vectoriels normés constitue un chapitre de seconde année. Son étendue varie selon la filière, et la vérification de ce qui est exigible se fait sur l'annexe du programme de ta propre filière.

Ce qui relève de la topologie générale universitaire reste hors de ce cadre. Les axiomes des ouverts d'un espace topologique et la compacité définie par les recouvrements en font partie. Le théorème de Borel-Lebesgue dans sa version générale, les espaces séparés, la complétude et le théorème du point fixe de Banach relèvent aussi, en général, du cursus de licence.

Aux concours, la topologie apparaît rarement comme sujet isolé. Elle sert d'outil dans les problèmes d'analyse, d'algèbre linéaire et de réduction. Les usages les plus fréquents sont la démonstration qu'une partie est fermée, l'existence d'un extremum sur un compact, et l'extension d'une égalité par densité.