L'ensemble C : premier volet d'un diptyque consacré aux nombres complexes, de leur introduction à leur utilisation au lycée.
Introduits en classe de première technologique (spécialité physique-chimie et mathématiques en STI2D 1) et, dans la voie générale, en classe de terminale (option mathématiques expertes 2), les nombres complexes y font l'objet d'une double approche : algébrique d'une part, géométrique d'autre part. De fait, c'est à l'époque de la Renaissance italienne que les complexes ont été « imaginés » pour résoudre dans R et via leur détour un problème d'algèbre pure : celui des équations du troisième degré 3. Et ce n'est qu'au XIXe siècle que l'Histoire leur accorda le statut de nombres de plein titre – et plus seulement d'anomalie, quand on su les interpréter géométriquement. D'un point de vue pédagogique, dissocier les deux entrées, algébrique et géométrique, pourrait cependant priver l'ensemble C d'une partie de son sens. Essayons ici de réconcilier la définition des lois qui le gouvernent avec les propriétés qu'on est en droit d'en attendre.
1. Définition des complexes...
Comment enseigner les nombres complexes ? Car on ne sait pas bien où donner de la tête. En effet,
- faut-il les définir comme un sous-espace de M2(R) ?
- faut-il adopter la vision algébrique du corps de rupture de X2+1 ?
- faut-il parachuter un nouvel élément, i, qui cohabitera avec les réels tout en vérifiant certaines règles de calcul qui lui seraient propres ?
- faut-il les introduire en équipant R2 d'une loi multiplicative « tirée du chapeau » ?
Rigoureuses mais abstraites, les deux premières approches s'adressent à un public assez avancé. Quand les deux suivantes paraîtraient dogmatiques : de quel « chapeau » sort ce nombre « imaginaire », i ? Quant à cet étrange produit, (x,y)×(x′,y′)=(xx′−yy′,xy′+yx′),
Alors pourquoi ne pas partir de la géométrie du plan euclidien ? Les objets y sont tangibles, les opérations concrètes, l'environnement familier. Le nombre réel x s'identifie naturellement au point M(x,0) de l'axe des abscisses ainsi qu'au vecteur horizontal de coordonnées (x,0). L'addition de deux nombres réels x et x′ revient à translater du vecteur (x,0) le point (x′,0). Et, pourvu que x ne soit pas nul, leur produit à appliquer l'homothétie de centre O et de rapport x au point (x′,0). Ainsi s'agit-il d'étendre au plan tout entier ces opérations en usant de transformations identiques voire un peu plus générales. Ceci garantirait cohérence et compatibilité : les opérations encore réalisées sur l'axe des abscisses resteraient inchangées et les autres, bien que plus « complexes », leur ressembleraient.
2. ... par la géométrie
Risquons-nous donc, sans prétention ! Plaçons-nous dans le plan muni de son repère canonique (O,→ı,→ȷ) avec OI=→ı et OJ=→ȷ. Nous connaissons bien certaines transformations élémentaires :
- les translations d'une part. Pour un point M, on note τM la translation de vecteur →OM ;
- les rotations et les homothéties centrales (par défaut, de centre O), d'autre part. On note rφ la rotation centrale d'angle φ∈R et hλ l'homothétie centrale de rapport λ≠0.
Que savons-nous de ces transformations ?
- elles sont bijectives ;
- les rotations centrales et les homothéties centrales commutent. Leur composée est qualifiée de similitude directe, et toute homothétie hx de rapport x<0 s'apparente à la similitude de rapport (de similitude) x>0 et d'angle de mesure π ;
- rφ∘rφ′=rφ+φ′ et hλ∘hλ′=hλλ′ ;
- hλ∘rφ∘τM=τhλ∘rφ(M)∘hλ∘rφ, ce qu'illustre le schéma de la figure 1 ci-après.

D'une part, XτM→X1rφ→X2hλ→X′ et d'autre part Xrφ→~X1hλ→~X2. Les triangles en surimpression OXX1 et O~X2X′ sont semblables. Donc ~X2τhλ∘rφ(M)→X′. Si bien que les deux enchaînements hλ∘rφ∘τM(X) et τhλ∘rφ(M)∘hλ∘rφ(X) mènent au même point : X′.
Comment, dès lors, additionner M et M′ ? En adoptant tout bonnement le modèle réel, soit M+M′=τM(M′).
Et comment multiplier M≠O et M′ ? En adaptant tout simplement le modèle réel, soit : M×M′=hM(M′)
Certes, mais en pratique, comment construire géométriquement le produit M×M′ ? On le sait égal au point P(p,q) obtenu en faisant tourner M′ de l'angle orienté φ=(→ı,→OM) que le vecteur →OM forme avec l'axe des abscisses, tout en coefficientant, chemin faisant, le vecteur →OM′ par la longueur OM. Une façon élémentaire d'y parvenir, sans composer explicitement rotation et homothétie, consiste à reproduire le triangle rectangle de sommets O, x, M :
- en le posant sur le vecteur →OM′...
- ... mais en choisissant pour unité de référence la longueur OM′, ceci correspondant à un changement d'échelle...
ce que nous résumons dans le schéma très fonctionnel ci-dessous en figure 2.

La construction du produit P(p,q) des deux complexes M(x,y) et M′(x′,y′) utilise le point auxiliaire ~M′=rO,π2(M′). On notera que les triangles en surimpression, de sommets O, x, M d'une part et O, xM′, P d'autre part, sont semblables.
Quand M(x,0) et M′(x′,0) occupent l'axe des abscisses, cette version restitue bien le produit xx′ habituel, y compris dans les cas d'école où
- x serait nul. L'angle φ n'a pas de valeur précise mais, OM étant nul, la pondération du vecteur →OM′ par 0 ramène au point O;
- x serait négatif, dans la mesure où, dès lors, φ=π.
3. Expression algébrique du produit dans R2
Le calcul analytique de la somme S=M+M′ tombe immédiatement puisque pour M(x,y) et M′(x,y), M+M′(x+x′,y+y′).
Le calcul analytique du produit P=M×M′ est un peu plus délicat. Notons à cet endroit qu'une définition « naturelle » de ce produit, naïvement calquée sur l'addition, conduirait à poser M⋆M′(xx′,yy′) mais ôte à l'opération toute chance d'intégrité. Nous aurions par exemple I⋆J=O tandis que I≠O et J≠O, ce qui finalement ne serait pas si « naturel » que cela...
Revenons à notre produit P=M×M′ tel que défini géométriquement en section 2, et dont l'expression analytique dérive aisément de la figure 2. Le vecteur →O~M′ naît de la rotation d'angle droit et direct du vecteur →OM′(x′,y′), il a donc pour coordonnées (−y′,x′). Comme →OP|pq=x→OM′|x′y′+y→O~M′|−y′x′
Voilà qui légitime une formule surgissant parfois des livres comme par « magie ». En plus d'induire la multiplication usuelle sur R (confondu avec R×{0} ainsi qu'il a été expliqué plus haut), cette expression renoue sans surprise avec la loi dite du « produit externe » de multiplication par un scalaire où, quand λ=(λ,0) est un simple réel, λ×(x,y)=(λx,λy).
L'animation en JavaScript/JSXGraph réalisée pour la circonstance offre un rendu dynamique de la multiplication complexe. En option, on pourra assujettir multiplicande et multiplicateur à un axe ou à un cercle, ce qui revient à ne composer que par une rotation ou une homothétie.
4. Conjugaison et inverse
Si M est un point non nul, avec λ=OM et φ=(→ı,→OM) dans la lignée des conventions d'écriture ci-dessus, notons ¯M=r−2φ(M), l'image de M par la symétrie axiale selon l'axe des abscisses. Remarquons que ¯O=O. En termes de coordonnées, nous déduisons de M(x,y), ¯M(x,−y), ce qui implique ¯M+M′=¯M+¯M′.
Par ailleurs, ¯I=I, comme chez tout autre élément de l'axe des abscisses, si bien que ¯M×M′=¯rφ+φ′∘hλλ′(I)=r−φ−φ′∘hλλ′(I)=¯MׯM′
Par suite et pour M non nul, MׯM=hλ2(I)=OM2 si bien que : 1M=¯MOM2=(xx2+y2,−yx2+y2).
En découle la structure de corps du plan R2 muni des lois + et × qui lui sont dévolues.
5. L'ensemble C
L'ensemble C des complexes n'est jamais que le nom attribué au produit cartésien R2 structuré par les lois + et × ci-dessus.
Pour être (presque) tout à fait complet, il faut encore fixer une convention. Le complexe générique z=(x,y) se décompose en vertu de (1), de (3) et de la commutativité du produit en z=(x,y)=(x,0)+(0,y)=x(1,0)+y(0,1)=x(1,0)+(0,1)y
Refermons ce premier volet consacré aux complexes en signalant que leur ensemble C peut être muni d'une relation d'ordre totale. Pour classer (x,y) et (x′,y′), on peut comparer d'abord x à x′ et, en cas d'égalité, y à y′. Il s'agit là de l'ordre dit lexicographique, celui du dictionnaire réduit aux mots de deux lettres (ou digrammes). Cet ordre prolonge à C celui déjà en vigueur dans R. Il n'est cependant pas compatible avec la multiplication par des complexes positifs. Ainsi a-t-on 0<i