29 bugs terrifiants qui vont vous faire craindre l’informatique

Les bugs… vous les connaissez : il y a ceux qui provoquent le crash du navigateur de votre smartphone ou qui perdent votre adresse postale au moment de commander une paire de chaussure sur un site de vente…

Mais aujourd’hui, toute notre vie quotidienne est en passe d’être digitalisée : voiture, frigo, hôpitaux, avions… Et quand des bugs s’y glissent, les conséquences sont catastrophiques. Tour d’horizon avec 29 bugs particulièrement terrifiants.

bateau-princess-may-alaska-1910-naufrage

1. Toyota – 2009

200 à 400 morts et 2,3 milliards d’euros (2,4 milliards de dollars de 2009)

Telle la voiture Christine dans le film d’horreur de John Carpenter, la Lexus ES350 a tué nombre de ses propriétaires en enclenchant l’accélération jusqu’à 150 km/h tout en désactivant la pédale de frein.

Pourquoi ? L’analyse du code source effectuée par un expert lors du procès tenu aux Etats-Unis a fait ressortir que l’ordinateur de bord avait été conçu sans aucun contrôle global, comme un corps dont le cerveau aurait été dévoré par des zombies ! Pendant 2 ans, la défense de Toyota consista à accuser ses clients de confondre les pédales de frein et d’accélération.

Source : Washington Post

2. Service d’ambulances de Londres LAS – 1992

20 à 30 morts et 2,5 millions d’euros (1,5 millions de livres de 1992)

Plusieurs heures entre un appel aux urgences et l’arrivée d’une ambulance, c’est la situation qu’ont vécu les Londoniens lors de l’informatisation de leur centre d’appel, avant que le système soit finalement abandonné 2 semaines après son lancement.

Pourquoi ? Conçu sans concertation avec ses futurs utilisateurs, le système ne tolérait aucune erreur de saisie et ralentit peu à peu en raison de fuites de mémoire. Le problème s’aggrava en outre avec les personnes qui rappelaient parce qu’ils ne voyaient pas arriver leur ambulance.

Source : ErichMusick

3. Institut National du Cancer (Panama) – 2001

17 morts et 11 blessés

Surexposés aux radiations émises par la machine qui devait éliminer leurs cellules cancéreuses en quelques scéances, les patients panaméens ont en fait été victimes du logiciel gérant la machine.

Pourquoi ? Suivant l’ordre dans lequel les données du traitement étaient saisies par l’opérateur, la dose de radiation était calculée différemment. Les médecins furent traînés devant les tribunaux car la loi panaméenne impose une vérification du calcul par le corps médical. On comprend pourquoi.

Source : Baseline Mag

4. Etat de New York et nord-est des Etats-Unis – 2003

12 morts et 7,1 milliards d’euros (6 milliards de dollars de 2003)

55 millions de personnes furent plongées dans le noir pendant plusieurs jours et plusieurs moururent d’empoisonnement au monoxyde de carbone en utilisant des générateurs au diesel.

Pourquoi ? Deux logiciels du système de contrôle de la production tentèrent de modifier le même fichier en même temps, ce qui les paralysa tous les deux, et par effet domino paralysa le système entier.

Source : Wikipedia (en)

5. Energie atomique du Canada – 1987

5 morts et 1 blessé

20 fois la dose léthale, c’est la quantité de radioactivité qu’ont reçu les patients traités par la machine de radiothérapie Therac-25.

Pourquoi ? Un rayon était dirigé vers une plaque de métal qui était censée le filtrer et le concentrer. Malheureusement, le logiciel ne vérifiait pas le bon positionnement de cette plaque, ni même sa présence !

Source : Virginia Tech

6. General Motors – 2016

1 mort et 3 blessés

Lors d’un accident de voiture, on s’attend à ce que la ceinture se raidisse avant que notre tête aille faire un culbuto dans l’airbag. Ce n’est pourtant pas ce qui se produisait sur les voitures produites depuis 2014 par General Motors.

Pourquoi ? Dans certaines conditions, l’ordinateur considèrait que le crash était en fait un test : le tableau de bord affichait alors les actions à prendre, mais sans les réaliser. Ce qui est moins efficace en cas de véritable accident.

Source : Gizmodo

7. Département de la Défense américain DoD – 2016

18 à 92 milliards d’euros (20 à 100 milliards de dollars)

Informatisé jusqu’au bout de ses ailes, l’avion de combat américain F-35 coûte l’équivalent d’un Airbus de 400 sièges mais est capable de signaler lorsqu’un de ses ailerons doit être remplacé. En revanche, le radar crashe aléatoirement, le calcul des coordonnées de vol ne fonctionne pas et la gestion des appareils amis/ennemis est défectueuse.

Pourquoi ? Bien que l’ordinateur de bord soit devenu le coeur du système, le choix a été fait de lancer la production des appareils alors que le logiciel n’était pas terminé. Résultat, l’avion doit être patché régulièrement avec des CD d’installation envoyés par le constructeur. Mais au moins, on sait quand un aileron usé doit être remplacé.

Source : Extreme Tech

8. Agence Nationale de Santé NHS (UK) – 2011

13 milliards d’euros (12 milliards de livres)

Connecter les dossiers patients, leurs médecins et les hôpitaux, c’était l’objectif de l’ambitieux programme informatique lancé en grande pompe en 2002. Pourtant, après 10 ans de développement et des dépenses 6 fois supérieures au budget, il fut jugé impossible à terminer et abandonné.

Pourquoi ? L’armée de sociétés prestataires contractées pour l’occasion a travaillé sans objectifs, sans planning et sans supervision centralisée du gouvernement. Encore de l’argent public bien dépensé !

Source : Wikipedia (en)

9. Service des impôts américains IRS – 2002

10 milliards d’euros (8 milliards de dollars de 2002)

900 milliards de dollars, c’est ce que coûte chaque année au gouvernement des Etats-Unis la collecte des 2000 milliards de dollars d’impôts. Pour améliorer ce ratio peu flatteur, il fut décidé de remplacer par un système unique son mikado informatique constitué de 100 logiciels différents. Pharaonique, le logiciel engendra des retards dans le paiement des impôts pendant plusieurs années, avant de finalement être abandonné. Pourquoi ? Les sous-traitants furent dépassés par l’ampleur du projet et les bureaucrates de l’IRS firent tout pour ne pas adopter le logiciel.

Source : CIO

10. Agence de réglementation de l’aviation civile américaine FAA – 1996

2,1 milliards d’euros (1,5 milliards de dollars de 1996)

3 secondes par an, c’était le temps de panne maximal autorisé dans le cahier des charges du nouveau système de contrôle du trafic aérien. Pour atteindre cet objectif, IBM tenta de multiples approches, mais sans jamais arriver à livrer un système fonctionnel.

Pourquoi ? Complexité, ressources, gouvernance : tous les paramètres du projet furent systématiquement sous-estimés, jusqu’à ce qu’il soit finalement jugé impossible de le terminer.

Source : Baseline Mag

11. Child Support Agency (UK) – 2004

1,6 milliards d’euros (1,1 milliards de livres de 2004)

2,6 millions de personne, soit la population des 1842 communes de la région Centre, c’est le nombre de personnes qui ont reçu une pension alimentaire incorrecte en raison de bugs au Royaume-Uni.

Pourquoi ? L’agence gouvernementale a profité du déploiement d’un nouveau système informatique pour réorganiser complètement son fonctionnement opérationnel. C’est comme déménager et refaire la décoration en même temps : bonne chance pour retrouver les assiettes ! Résultat : plus de 500 bugs, avec pour chacun une solution de contournement.

Source : ZD net

12. Institut de recherche spatiale russe – 1988

1,2 milliard d’euros (1,5 milliard de roubles de 1988)

Ses panneaux solaires paralysés, la sonde Phobos 1 vida ses batteries puis devint un poids morts après seulement 26 jours de mission. Pourquoi ? Pour tenir le planning, une séquence de test avait été laissée dans le logiciel de la sonde, avec instruction de ne pas l’utiliser… ce qu’un technicien du centre spatial ignorait, visiblement.

Source : NASA

13. Ministère de l’intérieur britannique – 2014

1,15 milliards d’euros (1 milliard de livres)

Un logiciel de gestion électronique des frontières qui perd toute trace de 500 suspects de terrorisme et 50.000 demandeurs d’asile, le tout après plus d’un milliard d’euros et 10 ans de développement ? Ce sont les résultats sensationnels du programme britannique E-Border, qui devait en réalité unifier le suivi des entrées au Royaume-Uni entre 30 agences gouvernementales et plus de 600 compagnies aériennes et maritimes.

Pourquoi ? Grandement sous-estimée, la complexité du projet et le nombre d’acteurs a transformé sa réalisation en véritable cauchemar.

Source : Parlement britannique

14. Aéroport de Denver – 1995

809 millions d’euros (560 millions de dollars de 1995)

2 ans pour remplacer les 3 systèmes de tri des bagages par un seul système intégralement automatisé, dans un aéroport de la taille de celui de  Charles-de-Gaulle… c’est le défi qu’a tenté de relever BAE au service de l’aéroport de Denver. Crashes du système, embouteillages de bagages, voire carrément disparition pure et simple de bagages : quel que soit le bug, le système les avait tous.

Pourquoi ? La complexité du système avait été sous-évaluée, considérant que fusionner 3 systèmes en un seul signifiait simplement un système 3 fois plus complexe. Après 10 ans d’agonie à 1 million de dollars par mois, le système fut finalement débranché.

Source : Calleam Consulting

15. Nike – 2000

643 millions d’euros (500 millions de dollars de 2000)

Madame Irma, ç’aurait pu être le nom du logiciel que Nike a mis en place pour prédire les quantités de chaussures à produire dans 6 mois d’après les commandes passées. Mais le logiciel déclencha l’achat de modèles peu vendus pour 100 millions de dollars.

Pourquoi ? Pressé de mettre en place le logiciel d’analyse, Nike le connecta à son système de commandes obsolète, et les incohérences entre les deux systèmes génèrent des pertes et des doublons de commande. Just do it, mais des fois il vaut mieux réfléchir quand même un peu avant.

Source : CIO

16. Suède – 1980

776 millions d’euros (275 millions de dollars de 1980)

104 camions semi-remorques de 35 tonnes, c’est la cargaison que le Zenobia emporta par le fond lors de son naufrage, 1 mois seulement après son lancement inaugural.

Pourquoi ? Un bug dans le logiciel de contrôle des ballasts surremplissait les réservoirs par rapport aux indications qui lui étaient envoyées.

Source : Wikipedia (en)

17. Ministère de la Défense français – 2011

470 millions d’euros

S’endetter pour faire vivre leur famille, c’est ce que les militaires français ont dû faire à partir de 2011, lorsque le logiciel Louvois a été mis en place pour unifier le paiement des salaires et primes et tous les corps d’armées. 172 millions d’euros d’impayés et trop-perçus plus tard, le ministère de la Défense a dû mettre en place un fond spécial de compensation.

Pourquoi ces bugs ? La complexité des 174 régimes de primes (parfois interdépendantes) a été sous-estimée, dans un secteur, la Défense, traditionnellement peu propice à la cogérance et à l’échange d’informations.

Source : Wikipedia (fr)

18. SNCF – 1993

449 millions d’euros (2,1 milliards de francs de 1993)

2h de queue pour obtenir un billet de train dont on ne peut choisir ni l’horaire, ni le prix… Moscou pendant la guerre froide ? Pas du tout, Paris en 1993 grâce au logiciel Socrate !

Pourquoi ? Empêtré dans son choix d’un logiciel initialement conçu pour l’aviation, la SNCF a été incapable de le faire assimiler à ses équipes techniques et fonctionnelles, ce qui a généré bugs et incompréhensions d’utilisation. Pour nous faire préférer le train, l’entreprise a également profité de la mise à jour pour augmenter ses tarifs.

Source : Laurent Bloch

19. Knight Capital Group – 2012

410 millions d’euros (440 millions de dollars de 2012)

Acheter des actions à bas prix pour les revendre plus cher, c’est le principe de base de la Bourse, n’est-ce pas ? L’algorithme de trading de Knight Capital ne l’entendait pas de cete oreille et s’est mis à faire l’inverse. En 30 minutes, la société était devenue insolvable, et se déclara en faillite peu après.

Pourquoi ? Impossible de savoir ce qui s’est passé exactement ce jour-là, mais dans un secteur où deux tiers des échanges sont gérés par des algorithmes, le moindre grain de sable peut rapidement faire effet boule de neige.

Source : Bloomberg

20. Etat français – 2014

400 millions d’euros

1850 régimes de paie pour 2,4 millions de fonctionnaires français, c’est l’imbroglio que le logiciel ONP, pour Opérateur national de paie, devait démêler en économisant au passage 190 millions d’euros par an. Pourtant après 7 ans de développement, et un planning qui s’étendait jusqu’à 2024 pour finir le projet, l’Etat a décidé de jeter l’éponge.

Pourquoi ? Le chantier était pharaonique, les objectifs mal définis et la coordination entre les ministères conflictuelle : les germes rêvés pour un échec.

Source : L’Express

21. Etat de l’Oregon – 2014

279 millions d’euros (305 millions de dollars)

Zéro, c’est le nombre faramineux de dossiers que le nouveau site web d’adhésion à la couverture santé de l’Oregon a accepté comme valides avant de se mettre en carafe. L’Etat a dû se résoudre à gérer les 200.000 dossiers d’adhésion par la voie papier, avec 500 intérimaires.

Pourquoi ? Les causes du bug ne sont pas claires, et une enquête du FBI est en cours pour soupçons de malversation.

Source : Statesman Journal

22. EADS – 1996

266 millions d’euros (200 millions d’euros de 1996)

Lors de son premier vol, la fusée Ariane 5 s’est élevée jusqu’à la moitié du ciel, avant que son logiciel ne coupe les moteurs et que le lanceur explose en plein vol.

Pourquoi ? L’accélération maximale de la fusée a dépassé la valeur admissible par le logiciel, générant une erreur générale et donc l’autodestruction. Ces valeurs avaient été recopiées du programme Ariane 4, qui était moins puissante, et la simulation avait été annulée afin d’économiser 800.000 francs sur le programme.

Source : Libération

23. NASA – 1999

218 millions d’euros (165 millions de dollars de 1999)

La sonde Mars Polar Lander devait se poser à la surface de Mars, mais les vibrations de la haute atmosphère ont convaincu son logiciel embarqué qu’elle avait déjà touché le sol. Le logiciel a donc coupé les moteurs à 40 mètres du sol, et la sonde s’est écrasée.

Pourquoi ? Pour respecter le planning de lancement, les tests prévus n’avaient pas été menés à leur terme.

Source : Wikipedia (en)

24. FBI – 2005

193 millions d’euros (170 millions de dollars de 2005)

4 ans pour réaliser 10% des fonctionnalités demandées par le FBI, c’est le prodigieux bilan du projet de « dossier criminel virtuel » (Virtual Case File) avant qu’un audit indépendant ne préconise son abandon pur et simple.

Pourquoi ? Trop complexe et doté d’un cahier des charges construit sur des sables mouvants, le projet avait été accepté tel une vache à lait par le prestataire, qui prévoyait de continuer le développement aussi longtemps que le FBI paierait les factures.

Source : IEEE

25. ESA – 2005

157 millions d’euros (136 millions d’euros de 2005)

Le satellite Cryosat-1 devait observer la fonte des glaces, ce qu’il fit très rapidement après son lancement lorsque le second étage ne se détacha pas et que la fusée retomba dans l’océan Arctique sans avoir atteint l’espace.

Pourquoi ? La commande de séparation des deuxième et troisième étages avait été oubliée dans le logiciel pilotant la fusée.

Source : ESA

26. Aéroport de Los Angeles – 2007

107 millions d’euros (100 millions de dollars de 2007)

17.000 avions furent cloués au sol lorsque le système de contrôle aérien cessa de répondre.

Pourquoi ? Un avion espion U2 survolait alors l’espace aérien à une altitude 60.000 pieds (2 fois le plafond des avions de ligne) et en zigzag, deux paramètres qui ont généré une telle complexité dans les calculs anti-collisions que le système a crashé.

Source : Reuters

27. Greyhound – 1993

99 millions d’euros (66 millions de dollars de 1993)

2 heures de queue, 5 minutes d’impression d’un billet, tout ça pour se rendre compte que le logiciel a vendu plus de billets que de places à bord du bus.

Pourquoi ? Bien qu’ayant échoué lors des tests effectués entre quelques points de vente, le nouveau logiciel Trips de gestion des billets fut néanmoins déployé à travers tout le pays pour honorer la promesse faite aux investisseurs de Wall Street. Incapable de répondre à la charge, le système fut victime de nombreux crashes et produisit surtout de la frustration pour ses utilisateurs.

Source : Université de Baylor

28. Chrysler – 2015

64 millions d’euros (70 millions de dollars)

Des pirates informatiques ont réussi à prendre le contrôle d’une Jeep Chrysler qui circulait à 100 km/h et 15 km de distance.

Pourquoi ? Une faille dans la connexion avec le téléphone permettait d’accéder à toutes les commandes de la voiture : volant, accélérateurs, verrouillage des portières… 1,4 millions de véhicules ont dû être rappelés pour être corrigés.

Source : Rocket Projet

29. Starbucks – 2015

3,7 millions d’euros (4 millions de dollars)

2h durant, impossible d’encaisser le moindre cent dans les 14.000 points de vente nord-américains de Starbucks !

Pourquoi ? La liste des points de vente avait été supprimée lors de la mise à jour du logiciel de caisse : plus aucun d’entre eux ne pouvait donc se connecter au système.

Source : Geek Wire

Faut-il avoir peur de l’informatique ?

L’informatique apporte des solutions révolutionnaires, mais il ne faut pas lui faire une confiance aveugle. Et surtout, bien tester les systèmes et applications pour supprimer tous les bugs !

Gardons le contact !