De la manière dont les nombres complexes sont généralement introduits, tout laisse à supposer qu'ils ont été découverts à l'occasion de l'étude des équations du deuxième degré. Rien n'est moins vrai! En effet quel inconvénient y a-t-il à travailler sur les réels ( sans faire de complexes! ) lorsque l'on se borne au second degré? Les équations ont 0, 1 ou 2 racines; une droite ne coupe-t-elle pas une conique en 0, 1 ou 2 points? Rien dans tout cela ne suggère une extension du corps des réels.

En fait c'est à l'occasion de l'étude des équations du 3e et 4e degré au XVIe siècle ( Cardan, Tartaglia, Bombelli,... ) que naquirent les nombres complexes. Bien plus tard Hamilton inventa les quaternions qui généralisent, d'une autre manière, les nombres complexes. Voyons la méthode qu'on utilisait à l'époque pour résoudre une équation du 3e degré ax³ + bx² + cx + d = 0.

Remarquons tout d'abord que a n'est pas nul ( sinon l'équation est du 2e degré! ) et que la somme des racines vaut -b / a; il suffit donc d'augmenter chaque racine de b / 3a pour que la somme soit nulle; on peut ainsi finalement se ramener à l'équation x³ + px + q = 0. Posons, sans grande justification, x = u + v; il vient:

Utilisons à présent la souplesse que nous avons introduite, en remplaçant l'inconnue x par les 2 inconnues u,v, pour simplifier cette équation; annulons le terme en u + v et il reste:

On obtient ainsi u³ et v³ comme solutions d'une équation auxiliaire du 2e degré:

Connaissant u³ ( par exemple ), chacune des racines cubiques correspondra à une racine cubique de v³, car uv = -p/3. On obtiendra ainsi les 3 racines de l'équation. Oui ! mais... nous avons parlé des 3 racines cubiques et cela implique l'utilisation des complexes, sinon on n'obtient qu'une seule racine et encore, pour cela, faut-il que u³ soit réel!

Pour mieux voir ce qui se passe nous allons choisir 3 exemples d'équations du 3e degré en partant de leurs racines. Tout d'abord une équation n'ayant qu'une racine réelle:

Ensuite une équation ayant une racine réelle et une deuxième racine réelle double

Enfin une équation ayant 3 racines réelles

Appliquons la méthode décrite plus haut à la première équation x³ - 2x + 4 = 0. On obtient u³ et v³ comme solutions de l'équation: t² + 4t + 8/27 = 0, d'où les 2 racines -2 ± 103 /9,dont les racines cubiques valent-1 ± 3 /3 , donnent pour somme -2, la racine réelle l'équation. Pas encore de raison de s'inquiéter.

Passons à l'équation x³ - 3x + 2 = 0. L'équation auxiliaire est t² + 2t + 1 = 0 qui possède -1 comme racine double u = v = -1 et x = -2. Mais où est passée la racine double x = l ? Bizarre !

Considérons finalement l'équation x³ - 7x + 6 = 0 qui possède 3 racines réelles x = -1, 3 et -2 . L'équation auxiliaire en t est: t² - 6t + 343/27 = 0, et cette équation n'a pas de racine réelle ! Pourtant l'équation du 3e degré possède 3 racines. Que se passe-t-il ? Si l'on résout l'équation en t on trouve les solutions t = 3 ± 10-3 /9 dont il faut extraire les racines cubiques. Calculons-les, mécaniquement, sans trop nous soucier du sens à attribuer à -3. On obtient pour u: 3/2 + -3 /6,-1/2 - 5-3/ 6 et -1 + 2-3 /3; en calculant les valeurs correspondantes pour v et en sommant on trouve bien les 3 racines 3, -1, -2.

Bien entendu il a fallu prendre des précautions, par exemple ne pas trop manipuler le symbole -1; chacun connaît le paradoxe:

Cela mis à part, les nombres complexes se manient comme les réels. Cependant, une propriété des réels disparaît: il n'y a plus d'ordre !
Avec deux réels a et b, on disait que a était supérieur à b si a - b > 0.
Cela n'a plus de sens avec les complexes; en effet prenons un exemple et calculons comme s'il s'agissait encore toujours de nombres réels.
Supposons que i soit positif: i > 0. Puisque i est positif, nous pouvons multiplier les deux membres de cette inégalité et nous obtenons i.i > 0 ou encore i² > 0 et -1 > 0. Donc nous nous sommes trompés et i < 0. Peut-être, mais...
Si i < 0, quand nous multiplions les deux membres de cette inégalité par i, il faut alors changer le sens de l'inégalité et nous obtenons i.i > 0 et à nouveau ce n'est pas possible. Il n'est donc pas possible d'établir sur les nombres complexes un ordre compatible avec les propriétés habituelles des réelles. Ce n'est pas un drame; nous perdons l'ordre mais en revanche nous gagnons bien d'autres facilités.

Il se fait que c'est la contradiction entre d'une part, l'existence des 3 racines, et d'autre part la non-existence des racines de l'équation auxiliaire, qui a conduit à la découverte des nombres complexes.

Remarquons que cette voie n'est pas un cas isolé dans l'histoire des sciences; que l'on songe au principe d'inertie de Galilée, à la relativité restreinte d'Einstein ( invariance de la vitesse de la lumière ), à la mécanique quantique ( seuils d'énergie ), à la théorie des ensembles ( hypothèses du continu ) etc.

Il semble, hélas, qu'à l'heure actuelle les mathématiciens évitent trop souvent de s'interresser aux contradictions; ils ont tendance à les rejeter. Pourtant elles sont génératrices de progrès et, heureusement, existeront toujours.