Une faute dans un programme informatique peut avoir des conséquences dramatiques

Si l’on devait décrire en détail la marche d’une entreprise en posant comme principe que les destinataires sont absolument stupides et absolument obéissants, cela supposerait des millions d’instructions ; mais personne ne fait l’hypothèse que cela pourrait être efficace. C’est pourtant de cette façon que fonctionne un ordinateur : à la différence de ce qui se passe généralement dans une entreprise, lorsqu’une instruction est mauvaise, l’ordinateur l’exécute avec une conscience professionnelle absolue.

Or si dans le domaine de la mécanique on admet des marges de tolérance, en informatique la moindre erreur peut avoir des conséquences incalculables : chez ATT, le mauvais placement d’une parenthèse a entraîné la panne de l’ensemble du téléphone longue distance américain pendant toute une journée.

Quant à l’explosion de la fusée Ariane V, qui a coûté 5 milliards de francs, elle est due à une banale anomalie dans un élément du programme parfaitement superflu. Le problème principal du lancement d’une fusée est la stabilisation de cet objet longiligne poussé du bas par un gros moteur ; les données, traitées informatiquement, sont fournies par des gyrolasers qui mesurent périodiquement l’angle de la fusée par rapport à la verticale. L’une des séquences du programme d’Ariane IV mesurait la vitesse horizontale de la fusée, nulle au sol, croissante au fur et à mesure du déplacement ; cette mesure avait été maintenue dans le programme d’Ariane V, bien que la procédure de lancement soit très différente et que cette mesure soit devenue totalement inutile ; mais la vitesse d’Ariane V était bien plus importante que celle d’Ariane IV, et la séquence spéciale n’était pas conçue pour enregistrer les données correspondantes ; l’ordinateur a considéré que les gyrolasers étaient en panne et la fusée a explosé.

A la suite de cet accident, la commission d’enquête a recommandé de ne plus faire fonctionner un logiciel qui ne sert à rien ; ceci paraît une lapalissade, mais c’est une habitude très répandue parmi les programmeurs que de "ne pas changer un logiciel qui marche ". La commission a recommandé également de faire des tests avant le lancement réel, tests qui sont souvent négligés pour des raisons de coût ; mais après des erreurs aussi catastrophiques, les données du calcul changent : la société Intel, depuis le bug du Pentium qui lui a coûté 300 millions de dollars, consacre désormais 75 pour cent de ses coûts à ces tests.

Quelle que soit la bonne volonté qu’on y met, une vérification totale paraît cependant largement utopique. En l’occurrence, le Centre National d’Etudes Spatiales (CNES)avait demandé, avant le lancement, une vérification de la séquence qui a causé l’accident ; la vérification avait été faite, mais une ligne avait malheureusement été oubliée. Il aurait fallu ne pas se contenter de vérifier que la vérification avait été faite, mais aussi vérifier ce qui avait été vérifié...

Dans ce cercle vicieux, la seule solution consiste à limiter les risques de défaillance humaine en recourant de plus en plus à des machines-outils qui écrivent elles-mêmes les lignes de code, plutôt que de passer par des programmeurs manuels. Par ailleurs, le problème majeur des logiciels est leur instabilité : la modification d’une petite partie du code se propage en chaîne avec des effets très difficiles à déterminer ; les vérificateurs formels déterminent si les formules logiques gigantesques ainsi obtenues sont vraies ou fausses, ce qui est hors de portée pour un homme. Mais ils ne sont utilisables, pour le moment, que dans des domaines limités.

Le coût de ces vérifications et leur difficulté (d’autant que beaucoup de bugs ne se produisent que dans un environnement très particulier, par exemple avec telle carte graphique implantée à mille exemplaires dans le monde)pousse les concepteurs de logiciels qui ne sont pas susceptibles d’entraîner de telles catastrophes, comme les traitements de texte, à mettre des logiciels remplis de bugs entre les mains des utilisateurs, et à se contenter d’attendre que ces derniers les détectent eux-mêmes. C’était le cas de la première version de Word, qui contenait 600 bugs répertoriés, dont 100 capables de "planter" les machines. Pendant longtemps encore, selon l’orateur, les ordinateurs seront des serviteurs parfaitement fidèles et tragiquement obéissants...