Peut-on avoir confiance en l'informatique - LAMA - Univ. Savoie

Le revers de la médaille. La rançon de ce progr`es est élevée : la fiabilité des syst`emes informatiques a été négligée. Les ordinateurs se bloquent, les sites ...
4MB taille 3 téléchargements 71 vues
Peut-on avoir confiance en l’informatique ? Rene´ David et Christophe Raffalli www.lama.univ-savoie.fr

Mai 2007

Introduction

` de l’informatique Progres ´ e´ multipliees ´ Depuis 20 ans les performances des ordinateurs ont et ´ en 1983 est par 10.000. Un calcul qui aurait pris une annee maintenant effectue´ en moins d’une heure. ´ Le revers de la medaille ` est elev ´ ee ´ : la fiabilite´ des systemes ` La ranc¸on de ce progres ´ e´ neglig ´ ´ informatiques a et ee. ´ Les ordinateurs se bloquent, les sites Internet se deconnectent ... ´ Les budgets de maintenance, de reparation et de fonctionnement ´ ´ depassent les couts et logiciels. ˆ totaux en materiel Il y a des bugs !

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

2 / 78

Introduction

` de l’informatique Progres ´ e´ multipliees ´ Depuis 20 ans les performances des ordinateurs ont et ´ en 1983 est par 10.000. Un calcul qui aurait pris une annee maintenant effectue´ en moins d’une heure. ´ Le revers de la medaille ` est elev ´ ee ´ : la fiabilite´ des systemes ` La ranc¸on de ce progres ´ e´ neglig ´ ´ informatiques a et ee. ´ Les ordinateurs se bloquent, les sites Internet se deconnectent ... ´ Les budgets de maintenance, de reparation et de fonctionnement ´ ´ depassent les couts et logiciels. ˆ totaux en materiel Il y a des bugs !

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

2 / 78

Introduction

` de l’informatique Progres ´ e´ multipliees ´ Depuis 20 ans les performances des ordinateurs ont et ´ en 1983 est par 10.000. Un calcul qui aurait pris une annee maintenant effectue´ en moins d’une heure. ´ Le revers de la medaille ` est elev ´ ee ´ : la fiabilite´ des systemes ` La ranc¸on de ce progres ´ e´ neglig ´ ´ informatiques a et ee. ´ Les ordinateurs se bloquent, les sites Internet se deconnectent ... ´ Les budgets de maintenance, de reparation et de fonctionnement ´ ´ depassent les couts et logiciels. ˆ totaux en materiel Il y a des bugs !

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

2 / 78

Introduction

` de l’informatique Progres ´ e´ multipliees ´ Depuis 20 ans les performances des ordinateurs ont et ´ en 1983 est par 10.000. Un calcul qui aurait pris une annee maintenant effectue´ en moins d’une heure. ´ Le revers de la medaille ` est elev ´ ee ´ : la fiabilite´ des systemes ` La ranc¸on de ce progres ´ e´ neglig ´ ´ informatiques a et ee. ´ Les ordinateurs se bloquent, les sites Internet se deconnectent ... ´ Les budgets de maintenance, de reparation et de fonctionnement ´ ´ depassent les couts et logiciels. ˆ totaux en materiel Il y a des bugs !

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

2 / 78

Introduction

` de l’informatique Progres ´ e´ multipliees ´ Depuis 20 ans les performances des ordinateurs ont et ´ en 1983 est par 10.000. Un calcul qui aurait pris une annee maintenant effectue´ en moins d’une heure. ´ Le revers de la medaille ` est elev ´ ee ´ : la fiabilite´ des systemes ` La ranc¸on de ce progres ´ e´ neglig ´ ´ informatiques a et ee. ´ Les ordinateurs se bloquent, les sites Internet se deconnectent ... ´ Les budgets de maintenance, de reparation et de fonctionnement ´ ´ depassent les couts et logiciels. ˆ totaux en materiel Il y a des bugs !

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

2 / 78

Introduction

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

3 / 78

Introduction

Plan 1

` Breve histoire de l’informatique

2

Quelques exemples de gros « bugs »

3

Qu’est ce qu’un bug ?

4

Pourquoi traquer les bugs, c’est difficile ?

5

Qu’est ce que l’absence de bug ?

6

Les solutions actuelles

7 8

´ Logiciels et preuves mathematiques Conclusion

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

4 / 78

` Breve histoire de l’informatique

Plan 1

` Breve histoire de l’informatique

2

Quelques exemples de gros « bugs »

3

Qu’est ce qu’un bug ?

4

Pourquoi traquer les bugs, c’est difficile ?

5

Qu’est ce que l’absence de bug ?

6

Les solutions actuelles

7 8

´ Logiciels et preuves mathematiques Conclusion

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

5 / 78

` Breve histoire de l’informatique

(1) Les hommes Alan Turing (1912 - 1954) Angleterre

` theorique ´ Modele des ordinateurs ´ Logique Mathematique Machine de Turing R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

6 / 78

` Breve histoire de l’informatique

(1) Les hommes Alonzo Church (1903 - 1995) USA

` theorique ´ Modele de la programmation ˆ Le λ-calcul, ancetre des langages fonctionnels (Lisp, ML, ...) R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

7 / 78

` Breve histoire de l’informatique

(1) Les hommes John von Newmann (1903 - 1957) USA

Concepteur des ordinateurs modernes Un pionnier de l’informatique Il a aussi introduit les automates cellulaires et donc le calcul ` parallele. R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

8 / 78

` Breve histoire de l’informatique

´ (2) Le materiel ` ´ ´ Les premieres calculatrices mecaniques (elles font les 4 operations)

La machine de Pascal (1650)

La machine de Leibniz (1694) R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

9 / 78

` Breve histoire de l’informatique

´ (2) Le materiel ` machine programmable La premiere

La machine de Jacquard (1801), elle ne servait pas a` calculer !

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

10 / 78

` Breve histoire de l’informatique

´ (2) Le materiel ` machine (presque) programmable pour calculer des La premiere ˆ polynomes

La machine de C. Babbage (1833), elle n’a jamais vraiment fonctionne´ R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

11 / 78

` Breve histoire de l’informatique

´ (2) Le materiel ` machine electro-m ´ ´ La premiere ecanique

La machine de H. Aiken (1943), elle pesait 5 tonnes

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

12 / 78

` Breve histoire de l’informatique

´ (2) Le materiel ´ Les machines electroniques

(vers 1950)

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

13 / 78

` Breve histoire de l’informatique

´ (2) Le materiel ´ Les machines electroniques (suite)

´ (vers 1960) Machine utilisant des cartes perforees

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

14 / 78

` Breve histoire de l’informatique

´ (2) Le materiel Les machines modernes

´ es ´ ... Depuis 1980 les machines utilisent des circuits integr

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

15 / 78

` Breve histoire de l’informatique

(3) Le logiciel

Les programmes La notion de programme, d’algorithme existait bien avant que l’on ne sache construire des ordinateurs : algorithme d’Euclide (325 - 265 BC, Alexandrie), Al Khuwarizmi (780 - 850).

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

16 / 78

` Breve histoire de l’informatique

(3) Le logiciel Un ordinateur ne fait que manipuler des 0 et 1 ´ Dans les annees 40 : on programme avec des 0 et des 1 et le fer a` souder. ´ ´ Debut des annees 50 : on programme en « assembleur », les instructions ont un nom. ´ Depuis la fin des annees 50 : on utilise des langages de programmation. Les langages de programmation ˆ On utilise un langage lisible par l’etre humain et un « compilateur » pour traduire en langage machine.

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

17 / 78

` Breve histoire de l’informatique

Les langages de programmation (classement chronologique)

Avant 1950 : Algorithmes et machines a` calculer : pas de langage. 1950 - 1960 : Fortran, Lisp, Cobol, Algol. 1960 - 1970 : Apl, Basic, Pl/1, Logo. 1970 - 1980 : Pascal, Prolog, SmallTalk, C, Ada, ... 1980 - 1990 : Dbase, C++, Eiffel, Mathematica, Maple, ... 1990 - 2000 : VisualBasic, Java, Php, Mysql, ...

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

18 / 78

` Breve histoire de l’informatique

Les langages de programmation (classement par trait) ´ Langages imperatifs : APL - ASP - Assembleur - BASIC - C - Cobol Forth - Fortran - Limbo - Logo - Pascal - Perl PHP - ... Langages a` objets : 4D - C++ - D - Delphi - Eiffel - Groovy - Java Python - Ruby - Simula - Smalltalk - Visual Basic WinDev - ... Langages fonctionnels : Haskell - SML/OCaml - Lisp Common Lisp Scheme - XSLT - ... ´ Langages declaratifs : Clips - Prolog - Lambda-Prolog - ... Langages concurrents : Ada 95 - Erlang - ... Langage de balisage : TeX - LaTeX - HTML - SGML - XML - PHP - ...

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

19 / 78

` Breve histoire de l’informatique

Les programmes ont des bugs !

´ Maurice Wilkes, l’un des createurs des ordinateurs (1949) ` que nous avons commence´ a` programmer, nous avons « Des ´ ´ decouvert, a` notre grande surprise, qu’il n’etait pas aussi facile d’obtenir des programmes corrects que nous le pensions. J’ai alors ´ ´ a` decouvrir ´ realis e´ qu’une grande partie de ma vie serait consacree des fautes dans mes propres programmes. »

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

20 / 78

Quelques exemples de gros « bugs »

Plan 1

` histoire de l’informatique Breve

2

Quelques exemples de gros « bugs »

3

Qu’est ce qu’un bug ?

4

Pourquoi traquer les bugs, c’est difficile ?

5

Qu’est ce que l’absence de bug ?

6

Les solutions actuelles

7 8

´ Logiciels et preuves mathematiques Conclusion

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

21 / 78

Quelques exemples de gros « bugs »

Quelques exemples de gros « Bugs »

Il y en a des milliers ... ˆ ´ Il y a meme des journaux qui repertorient tous ces bugs : Risk Digest, ...

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

22 / 78

Quelques exemples de gros « bugs »

´ Ariane 5 L’explosion de la fusee

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

23 / 78

Quelques exemples de gros « bugs »

´ Ariane 5 L’explosion de la fusee

Le premier tir eut lieu le 4 juin 1996 a` Kourou. Le lanceur fut ´ ` approximativement 40 secondes de vol. detruit apres ´ L’echec est duˆ a` une erreur informatique : un programme d’un ´ e´ composant (un gyroscope) provenant d’Ariane 4 n’a pas et ´ re-teste.

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

24 / 78

Quelques exemples de gros « bugs »

´ Ariane 5 L’explosion de la fusee

´ Le programme etait destine´ a` recalibrer les gyroscopes. Ce cas ´ de figure, envisage´ initialement pour Ariane 3, etait depuis ´ longtemps exclu des procedures de tir. ´ e´ provoquee ´ par un programme qui ne servait a` rien. L’erreur a et C’est l’une des erreurs informatiques les plus couteuses de ˆ l’histoire.

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

24 / 78

Quelques exemples de gros « bugs »

` guerre d’Irak : bug d’un missile patriot Premiere

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

25 / 78

Quelques exemples de gros « bugs »

Bug d’un missile patriot

´ Dans la nuit du 25/02/91, un missile Patriot operant de Dhahran (en Arabie Saoudite) n’a pas pu intercepter un Scud. ´ Le missile iraquien a tue´ 28 soldats americains et en a blesse´ 98. ` ´ ` ´ Le probleme etait un probleme informatique : la place memoire ´ ´ prevue pour stocker la vitesse de la cible n’etait pas suffisante et cela a donne´ des erreurs d’arrondis ...

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

26 / 78

Quelques exemples de gros « bugs »

Mars Climate Orbiter a loupe´ sa cible

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

27 / 78

Quelques exemples de gros « bugs »

Mars Climate Orbiter a loupe´ sa cible

´ de mesure au sol et dans la sonde n’etaient ´ Les unites pas les ˆ ´ systeme ` ´ memes : anglaise d’un cote, metrique de l’autre. On avait repris un logiciel venant de Mars global Surveyor et pas ´ e´ la compatibilite. ´ verifi ´ ´ Ce genre de verification etaient faites pour des missions ´ edentes ´ ´ a` cause de coupures budgetaires. ´ prec mais supprimees

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

28 / 78

Quelques exemples de gros « bugs »

` ´ ´ Problemes medicaux avec le Therac-25

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

29 / 78

Quelques exemples de gros « bugs »

´ Bug du Therac-25

´ Le 3 juin 1985, en Georgie, une femme de 61 ans atteinte d’un ´ cancer du sein debuta un traitement avec le Therac-25, une ´ machine de radiotherapie. ` le traitement, la patiente souffrit de douleurs dans la Peu apres ´ ´ Elle continua a` souffrir de ses brulures region irradiee. et son bras ˆ ´ resta paralyse. Quelques mois plus tard, une autre personne mourut des suites ´ des blessures occasionnees.

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

30 / 78

Quelques exemples de gros « bugs »

´ Bug du Therac-25

´ ´ L’erreur etait un manque de fiabilite´ du logiciel gerant la machine. ´ Des depassements de capacite´ se produisaient et engendraient la ´ ´ ´ desactivation de certains tests de securit e. ´ L’ensemble etait programme´ en assembleur, un langage courant a` ´ ´ l’epoque mais difficile a` analyser et « debogguer » par rapport aux langages de plus haut niveau.

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

30 / 78

Quelques exemples de gros « bugs »

Machine a` voter en Belgique

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

31 / 78

Quelques exemples de gros « bugs »

Machine a` voter en Belgique

´ Le 18 mai 2003 a` Schaerbeek (Belgique), le decompte des voix ´ depasse ´ exprimees de plus de 4 000 le nombre d’inscrits dans la circonscription. ` probablement et ´ e´ Les experts concluent que « l’erreur a tres ´ par une inversion spontanee ´ et aleatoire ´ occasionnee d’un bit ». ´ ` ´ Ils ajoutent que « ce phenom ene est abondamment decrit dans la ´ ´ ´ litterature specialisee ». ´ Il ne l’est pas dans le code electoral ...

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

32 / 78

Quelques exemples de gros « bugs »

Machine a` voter en Belgique

´ Le 18 mai 2003 a` Schaerbeek (Belgique), le decompte des voix ´ depasse ´ exprimees de plus de 4 000 le nombre d’inscrits dans la circonscription. ` probablement et ´ e´ Les experts concluent que « l’erreur a tres ´ par une inversion spontanee ´ et aleatoire ´ occasionnee d’un bit ». ´ ` ´ Ils ajoutent que « ce phenom ene est abondamment decrit dans la ´ ´ ´ litterature specialisee ». ´ Il ne l’est pas dans le code electoral ...

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

32 / 78

Qu’est ce qu’un bug ?

Plan 1

` histoire de l’informatique Breve

2

Quelques exemples de gros « bugs »

3

Qu’est ce qu’un bug ?

4

Pourquoi traquer les bugs, c’est difficile ?

5

Qu’est ce que l’absence de bug ?

6

Les solutions actuelles

7 8

´ Logiciels et preuves mathematiques Conclusion

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

33 / 78

Qu’est ce qu’un bug ?

Qu’est ce qu’un bug ?

Il s’est passe´ quelque-chose de ´ non souhaite, ´ non prevu, ...

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

34 / 78

Qu’est ce qu’un bug ?

Qui est coupable ? ` A Fox et D Patterson - Pour la science 2003) (d’apres

Materiel : 15%

Logiciel : 34%

Humain : 51%

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

35 / 78

Qu’est ce qu’un bug ?

Les erreurs humaines

´ Mauvaise comprehension de la documentation Erreurs de manipulation ....

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

36 / 78

Qu’est ce qu’un bug ?

´ Les erreurs materiel

Panne d’un composant : un circuit a « grille´ » Erreur de communication, erreur de stockage : codes correcteurs d’erreurs. Les rayons cosmiques peuvent perturber le fonctionnement des machines. ˆ Erreur de conception : la puce ne fait pas ce qu’il faut ... meme si ` proche du bug on sait souvent « prouver » les circuits. Bug tres logiciel. ....

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

37 / 78

Qu’est ce qu’un bug ?

´ Les erreurs materiel Les rayons cosmiques

Les rayons cosmiques provoquent des erreurs dans les ordinateurs. ` Ce sont les neutrons qui posent probleme. ` A` 10 kilometres d’altitude, il y a 10.000 neutrons qui traversent ` chaque centimetre carre´ par heure. Un chercheur du CNRS estime qu’un PC portable, en avion, a un risque de planter toutes les 5 heures.

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

38 / 78

Qu’est ce qu’un bug ?

´ Les erreurs materiel Bug du pentium

´ En 1994, un chercheur decouvre un bug dans l’unite´ de valeur en virgule flottante du Pentium. ` Dans un premier temps, Intel nie le probleme mais ces erreurs ´ par d’autres dans les divisions sont rapidement confirmees personnes. ` (dans le silicium) L’erreur provient de l’initialisation incomplete d’une table de valeurs servant a` un nouvel algorithme plus rapide.

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

39 / 78

Qu’est ce qu’un bug ?

´ Les erreurs materiel Bug du pentium

Si x = 4195835, y = 3145727 et z = x − yx × y ´ On devrait trouver 0 mais la puce repond 256. ´ ` Des organismes independants montrerent cependant le peu ´ ´ d’importance des consequences du bug et que l’effet etait ´ negligeable dans la plupart des utilisations.

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

39 / 78

Qu’est ce qu’un bug ?

Les erreurs logiciel Les bugs logiciel Un programme qui ne fait pas ce que l’on veut.

Le reste de l’expose´ Qu’est ce que l’on veut ? Comment l’obtient-on ?

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

40 / 78

Qu’est ce qu’un bug ?

Les erreurs logiciel Les bugs logiciel Un programme qui ne fait pas ce que l’on veut.

Les erreurs logiciel classiques ´ Diviser par zero ´ Depassement des bornes d’un tableau ` memoire ´ Acces non autorise´ ´ Utilisation d’une variable non initialisee Les erreurs d’arrondis dans les calculs Erreur « logique » (on ne calcule pas ce que l’on veut) ... R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

40 / 78

Qu’est ce qu’un bug ?

Les erreurs d’arrondis

En math (1050 + 1) − 1050 = 1 Pour un ordinateur (1050 + 1) − 1050 = 0

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

41 / 78

Qu’est ce qu’un bug ?

Les erreurs d’arrondis

En math (1050 + 1) − 1050 = 1 Pour un ordinateur (1050 + 1) − 1050 = 0

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

41 / 78

Qu’est ce qu’un bug ?

Erreurs d’arrondis a` la bourse de Vancouver

En 1982, on introduit un indice initialise´ a` 1000. ` chaque transaction, il est reactualis ´ ´ Apres e. 22 mois plus tard, sa valeur est a` 525. ´ La vraie valeur etait de 1099. Les erreurs d’arrondis (allant ˆ ´ ´ toujours dans le meme sens) s’etaient cumulees.

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

42 / 78

Qu’est ce qu’un bug ?

Erreurs d’arrondis a` la bourse de Vancouver

En 1982, on introduit un indice initialise´ a` 1000. ` chaque transaction, il est reactualis ´ ´ Apres e. 22 mois plus tard, sa valeur est a` 525. ´ La vraie valeur etait de 1099. Les erreurs d’arrondis (allant ˆ ´ ´ toujours dans le meme sens) s’etaient cumulees.

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

42 / 78

Qu’est ce qu’un bug ?

´ Erreur logique dans les elections au parlement de Schleswig-Holstein en 1992

` En Allemagne, pour avoir des sieges, un parti doit avoir au moins 5% des voix. ´ es ´ de 5%, obtiennent donc des elus. ´ Les verts, credit ´ En fait le pourcentage etait de 4.97% ...

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

43 / 78

Qu’est ce qu’un bug ?

´ Erreur logique dans les elections au parlement de Schleswig-Holstein en 1992

` En Allemagne, pour avoir des sieges, un parti doit avoir au moins 5% des voix. ´ es ´ de 5%, obtiennent donc des elus. ´ Les verts, credit ´ En fait le pourcentage etait de 4.97% ...

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

43 / 78

Pourquoi traquer les bugs, c’est difficile ?

Plan 1

` histoire de l’informatique Breve

2

Quelques exemples de gros « bugs »

3

Qu’est ce qu’un bug ?

4

Pourquoi traquer les bugs, c’est difficile ?

5

Qu’est ce que l’absence de bug ?

6

Les solutions actuelles

7 8

´ Logiciels et preuves mathematiques Conclusion

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

44 / 78

Pourquoi traquer les bugs, c’est difficile ?

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

45 / 78

Pourquoi traquer les bugs, c’est difficile ?

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

45 / 78

Pourquoi traquer les bugs, c’est difficile ?

(1) Les limitations dues a` la vitesse Question : ´ ´ Combien d’operations un ordinateur qui fait 1014 operations a` la seconde qui calculerait depuis le Big Bang aurait-il fait ? ´ eralement ´ Il est gen estime´ que notre cerveau, avec ses 1011 neurones et 1015 ´ synapses, fait entre 1013 et 1019 operations a` la seconde.

´ Reponse : ´ ´ 1031 operations, c’est a` dire 1 suivi de 31 zeros ` grand ce qui est tres ˆ mais quand meme trop petit ...

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

46 / 78

Pourquoi traquer les bugs, c’est difficile ?

(1) Les limitations dues a` la vitesse Question : ´ ´ Combien d’operations un ordinateur qui fait 1014 operations a` la seconde qui calculerait depuis le Big Bang aurait-il fait ? ´ eralement ´ Il est gen estime´ que notre cerveau, avec ses 1011 neurones et 1015 ´ synapses, fait entre 1013 et 1019 operations a` la seconde.

´ Reponse : ´ ´ 1031 operations, c’est a` dire 1 suivi de 31 zeros ` grand ce qui est tres ˆ mais quand meme trop petit ...

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

46 / 78

Pourquoi traquer les bugs, c’est difficile ?

(1) Les limitations dues a` la vitesse Question : ´ ´ Combien d’operations un ordinateur qui fait 1014 operations a` la seconde qui calculerait depuis le Big Bang aurait-il fait ? ´ eralement ´ Il est gen estime´ que notre cerveau, avec ses 1011 neurones et 1015 ´ synapses, fait entre 1013 et 1019 operations a` la seconde.

´ Reponse : ´ ´ 1031 operations, c’est a` dire 1 suivi de 31 zeros ` grand ce qui est tres ˆ mais quand meme trop petit ...

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

46 / 78

Pourquoi traquer les bugs, c’est difficile ?

` ´ (2) Problemes indecidables ´ eme ` Theor ` ´ Il existe des problemes indecidables, c’est a` dire qu’il n’y a pas ´ eral ´ pour les resoudre. ´ d’algorithme gen

begin ... ... i := i + 1 ; ... ... end

R.David - C.Raffalli

ˆ ? Ce programme va-t-il s’arreter Ce programme va-t-il utiliser cette instruction ? ˆ Ce programme a-t-il exactement le meme comportement que tel autre ?

Avoir confiance en l’informatique ?

Mai 2007

47 / 78

Pourquoi traquer les bugs, c’est difficile ?

` (3) Complexite´ croissante des systemes

` ´ Taille des systemes : nombre de lignes de code (place memoire de Windows XP et Vista). ` ´ » (meme ˆ Systemes « distribues si ce n’est pas le cas des applications critiques).

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

48 / 78

Pourquoi traquer les bugs, c’est difficile ?

´ (4) Preciser « ce que l’on veut » n’est pas si simple

Quelques examples : le passage a` niveau, le bug de l’an 2000, ´ de mesure pour Mars voyager. les unites

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

49 / 78

Pourquoi traquer les bugs, c’est difficile ?

´ (5) Definir « ce que fait un programme » n’est pas si simple

´ On ne peut pas verifier qu’un programme fait « ce que l’on veut » si on ne sait pas ce que le programme fait. ´ Il faut donner un sens parfaitement precis aux programmes, ce ´ ´ qu’on appelle une « semantique mathematique ». ´ ´ De bons langages (avec une bonne « semantique ») reduisent le taux d’erreurs de fac¸on majeure.

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

50 / 78

Pourquoi traquer les bugs, c’est difficile ?

(6) Rigidite´ du monde industriel

´ ` de la recherche dans le monde Difficile d’integrer les progres industriel. Les choix technologiques du monde industriel sont trop souvent ´ »: « spontanes pourquoi C++ et pas objective C, pourquoi Java et pas ML, pourquoi Perl. Il faut souvent attendre d’avoir des bugs majeurs pour promouvoir la recherche dans ce domaine.

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

51 / 78

Qu’est ce que l’absence de bug ?

Plan 1

` histoire de l’informatique Breve

2

Quelques exemples de gros « bugs »

3

Qu’est ce qu’un bug ?

4

Pourquoi traquer les bugs, c’est difficile ?

5

Qu’est ce que l’absence de bug ?

6

Les solutions actuelles

7 8

´ Logiciels et preuves mathematiques Conclusion

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

52 / 78

Qu’est ce que l’absence de bug ?

´ e´ L’absence de bug est parfois une propriet indispensable

´ dans les avions, les voitures ou les Pour les logiciels embarques ´ ´ appareils medicaux, la securit e´ est absolument fondamentale. Il n’est pas question de diffuser des versions plus ou moins ´ en demandant aux utilisateurs de tel ´ echarger ´ buggees les ` nouvelles versions quand on trouve un probleme.

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

53 / 78

Qu’est ce que l’absence de bug ?

La norme ISO/CEI 9126

´ Elle decrit les exigences qualite´ des logiciels ´ Capacite´ fonctionnelle : Est-ce que le logiciel repond aux besoins ´ ? fonctionnels exprimes Fiabilite´ : Est-ce que le logiciel maintient son niveau de service ´ ´ dans des conditions precises et pendant une periode ´ ´ ? determin ee Facilite´ d’utilisation : Est-ce que le logiciel requiert peu d’effort a` l’utilisation ? ...

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

54 / 78

Qu’est ce que l’absence de bug ?

´ ´ es ´ Absence de bugs = presence de propriet

ˆ pas de maniere ` inattendue. Ne plante pas = ne s’arrete Le logiciel a un comportement correct : certaines situations sont impossibles ; ´ enements ´ certains ev vont se produire.

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

55 / 78

Qu’est ce que l’absence de bug ?

´ ´ es ´ Absence de bugs = presence de propriet

Solution ´ ´ ˆ aux M ATH EMATIQUES On decrit tout cela grace . ´ Les specifications ´ es ´ mathematiques ´ C’est le nom que l’on donne aux propriet qu’un ˆ programme doit satisfaire pour etre correct (sans bug). R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

55 / 78

Qu’est ce que l’absence de bug ?

Un exemple : le passage a` niveau

` ´ depuis N minutes. Si un train passe : les barrieres sont fermees ` Les barrieres sont parfois ouvertes ! Au moins P minutes entre une ouverture et une fermeture et un signal P minutes avant la fermeture !

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

56 / 78

Qu’est ce que l’absence de bug ?

Un exemple : le passage a` niveau

` ´ depuis N minutes. Si un train passe : les barrieres sont fermees ` Les barrieres sont parfois ouvertes ! Au moins P minutes entre une ouverture et une fermeture et un signal P minutes avant la fermeture !

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

56 / 78

Qu’est ce que l’absence de bug ?

Un exemple : le passage a` niveau

` ´ depuis N minutes. Si un train passe : les barrieres sont fermees ` Les barrieres sont parfois ouvertes ! Au moins P minutes entre une ouverture et une fermeture et un signal P minutes avant la fermeture !

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

56 / 78

Qu’est ce que l’absence de bug ?

´ ˆ Les specifications sont utiles en elles memes

´ Les specifications formelles sont un cahier des charges fiable pour le logiciel. Bug de l’an 2000 ´ ` Les specifications ont mis (auraient du mettre ?) le probleme en ´ evidence. Mars orbiter ´ ` ´ e´ les unites. ´ Des specifications completes auraient precis

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

57 / 78

Les solutions actuelles

Plan 1

` histoire de l’informatique Breve

2

Quelques exemples de gros « bugs »

3

Qu’est ce qu’un bug ?

4

Pourquoi traquer les bugs, c’est difficile ?

5

Qu’est ce que l’absence de bug ?

6

Les solutions actuelles

7 8

´ Logiciels et preuves mathematiques Conclusion

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

58 / 78

Les solutions actuelles

Le test du logiciel

On produit un vecteur de tests : ´ une liste d’entrees, les sorties correspondantes.

´ ´ du vecteur. On verifie la sortie du programme sur chaque entree ˆ Les tests peuvent etre ´ ecrits a` la main, ´ er ´ es. ´ gen

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

59 / 78

Les solutions actuelles

Exemple de l’ascenseur

´ Un immeuble de 9 etages + RDC ´ : etage ´ ´ Entree + boutons appuyes. Sortie : monte, descend, ne fait rien. ´ possibles. Il y a 10 × 220 ∼ 10 millions d’entrees Conclusion Le test complet est impossible.

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

60 / 78

Les solutions actuelles

Exemple de l’ascenseur

´ Un immeuble de 9 etages + RDC ´ : etage ´ ´ Entree + boutons appuyes. Sortie : monte, descend, ne fait rien. ´ possibles. Il y a 10 × 220 ∼ 10 millions d’entrees Conclusion Le test complet est impossible.

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

60 / 78

Les solutions actuelles

Les limites du test

Test exhaustif presque toujours impossible. Test partiel ⇒ risque de bugs. ´ er ´ es ´ a` la main ⇒ risque de bugs. Tests gen ´ er ´ es ´ automatiquement ⇒ un programme de plus avec Tests gen ses bugs !

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

61 / 78

Les solutions actuelles

Le « model checking »

´ ´ 80. Introduit au debut des annees ` utilise´ pour la preuve de circuits. Tres ´ Ameliorations du test : ´ ´ Specification pour verifier le vecteur de tests. On ne teste pas tous les cas. Pour le passage a` niveau a` 2 voies : 2 cas au lieu de 4.

´ ` ´ Repose sur la theorie des modeles ⇒ fondement mathematique fiable.

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

62 / 78

Les solutions actuelles

Le « model checking »

´ ´ 80. Introduit au debut des annees ` utilise´ pour la preuve de circuits. Tres ´ Ameliorations du test : ´ ´ Specification pour verifier le vecteur de tests. On ne teste pas tous les cas. Pour le passage a` niveau a` 2 voies : 2 cas au lieu de 4.

´ ` ´ Repose sur la theorie des modeles ⇒ fondement mathematique fiable.

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

62 / 78

Les solutions actuelles

´ ´ Les langages plus evolu es

´ Les langages ne sont pas tous egaux : Assembleur < C < C++ < Java < ML Pourquoi ? 1 + "toto" : possible en C, pas en ML ! ´ eme, ` En ML ceci est un theor pas en Java !

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

63 / 78

Les solutions actuelles

Les contraintes du langage augmentent la fiabilite´ ` memoire ´ ´ Acces illegal : ´ ´ Solution : entier different de adresse memoire. Une chaˆıne a` la place d’un entier : Solution : typage statique. ´ On utilise un objet que l’on a detruit : Solution : « garbage collector ». Nouveaux paradigmes programmes plus courts et plus clairs, moins de bugs, ´ ´ ´ reutilisation de codes eprouv es ⇒ programmes plus surs. ˆ Mais plus de contraintes ! R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

64 / 78

Les solutions actuelles

Comparaison C - OCaml En C

En OCaml

int valeur(expr e) { switch(e->tag) { constante : return valeur(e->u.cst) ; somme : return valeur(e->u.args.arg1) + valeur(e->u.args.arg2) ; ... }

R.David - C.Raffalli

let rec valeur = function | constante(n)-> n | Somme(e1,e2)-> valeur(e1) + valeur(e2) | ...

Avoir confiance en l’informatique ?

Mai 2007

66 / 78

´ Logiciels et preuves mathematiques

Plan 1

` histoire de l’informatique Breve

2

Quelques exemples de gros « bugs »

3

Qu’est ce qu’un bug ?

4

Pourquoi traquer les bugs, c’est difficile ?

5

Qu’est ce que l’absence de bug ?

6

Les solutions actuelles

7 8

´ Logiciels et preuves mathematiques Conclusion

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

67 / 78

´ Logiciels et preuves mathematiques

´ Necessit e´ de prouver les programmes ´ Exigence de securit e´ Depuis 1995, en Europe, les ITSEC (Information Technology Security ´ Evaluation Criteria) exigent l’usage de methodes formelles a` partir ´ ´ Transports, medecine ´ d un certain niveau de securit e. Banques, ´ ecommunications, ´ Tel ... ´ Les « methodes formelles » comprennent ´ Specification Test Model-Checking Preuve de logiciel

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

68 / 78

´ Logiciels et preuves mathematiques

´ Specification et preuves

Question ´ ´ Puisque specifications = formules mathematiques, pourquoi ne pas faire des preuves ?

Oui mais : ˆ ´ Meme en mathematiques on fait des erreurs dans les preuves. ´ ´ En mathematiques, la « communaute´ »verifie les preuves. En informatique, personne ne relira une preuve d’un programme !

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

69 / 78

´ Logiciels et preuves mathematiques

´ Specification et preuves

Question ´ ´ Puisque specifications = formules mathematiques, pourquoi ne pas faire des preuves ?

Solution : ´ On peut verifier une preuve a` l’aide d’un ordinateur. ` tres ` elev ´ e´ (mais pas 100%). Degre´ de fiabilite´ tres

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

69 / 78

´ Logiciels et preuves mathematiques

Correspondance de Curry-Howard

´ ´ eme. ` Specification = Theor Preuve = Programme. On prouve : ∀e ∃s Specif(e, s) De la preuve, on extrait un programme correct calculant la sortie s ´ e. en fonction de l’entree Limitations peu efficace, ` dur d’ecrire ´ tres le programme que l’on veut.

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

70 / 78

´ Logiciels et preuves mathematiques

Correspondance de Curry-Howard

´ ´ eme. ` Specification = Theor Preuve = Programme. On prouve : ∀e ∃s Specif(e, s) De la preuve, on extrait un programme correct calculant la sortie s ´ e. en fonction de l’entree Limitations peu efficace, ` dur d’ecrire ´ tres le programme que l’on veut.

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

70 / 78

´ Logiciels et preuves mathematiques

Correspondance de Curry-Howard

´ ´ eme. ` Specification = Theor Preuve = Programme. On prouve : ∀e ∃s Specif(e, s) De la preuve, on extrait un programme correct calculant la sortie s ´ e. en fonction de l’entree Limitations peu efficace, ` dur d’ecrire ´ tres le programme que l’on veut.

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

70 / 78

´ Logiciels et preuves mathematiques

Preuve de programmes

Qu’est ce que c’est ? ´ On prouve que le logiciel satisfait ses specifications.

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

71 / 78

´ Logiciels et preuves mathematiques

Preuve de programmes

´ Deux methodes principales : ´ Programmes imperatifs : logique de Hoare ´ ´ Methode B : Ligne de metro 14 a` Paris, ... Approche fonctionnelle Boyer-Moore : preuve d’un micro processeur, d’un compilateur Pascal, ... Plus de limites ... en principe

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

71 / 78

´ Logiciels et preuves mathematiques

Logique de Hoare (methode B)

´ aux programmes imperatifs ´ Appliquee : Affectation, Boucles (invariants ...). ´ ´ ere ` des A` partir du programme et des specifications on gen « obligations de preuves ». ´ ´ La theorie mathematique sous jacente a` la logique de Hoare assure que cela suffit.

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

72 / 78

´ Logiciels et preuves mathematiques

Logique de Hoare (exemple) X := a ; while (|X 2 − a| ≥ e) do 1 a X := (X + ) ; 2 X done ; return(X) ; Preuve : Invariant de boucle : X > 0 (non nul). √ Post-condition : |X − a| < e.

(e est la marge d’erreur)

Obligations de preuve : a > 0, X > 0 ⇒ 12 (X +

a X)

> 0.

rappel : attention aux erreurs d’arrondis. R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

73 / 78

´ Logiciels et preuves mathematiques

Langage fonctionnel Remarque : ´ Les fonctions existent en mathematiques. Exemple : f (X ) = X si |X 2 − a| < e et f (X ) = f ( 12 (X +

a X ))

sinon

Preuve ˆ Meme contenu que pour la logique de Hoare. ´ Mais proche d’une preuve mathematique usuelle. ´ Justification de la methode un peu plus simple.

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

74 / 78

´ Logiciels et preuves mathematiques

Limitation de la preuve de programme

´ Demande du temps, mais pas forcement plus que la recherche et la correction des bugs. On doit le faire avant de vendre le produit. Les industriels actuels n’ont pas fait assez de maths. Les industriels changent difficilement de langage de programmation.

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

75 / 78

Conclusion

Plan 1

` histoire de l’informatique Breve

2

Quelques exemples de gros « bugs »

3

Qu’est ce qu’un bug ?

4

Pourquoi traquer les bugs, c’est difficile ?

5

Qu’est ce que l’absence de bug ?

6

Les solutions actuelles

7 8

´ Logiciels et preuves mathematiques Conclusion

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

76 / 78

Conclusion

Peut-on avoir confiance en l’informatique ? Bureautique et informatique courante ` Les industriels ont conscience du probleme. ´ Pression economique encourageant les bugs ! ´ Outils peu ou pas utilises. Des bugs, encore des bugs, ... ` Systemes critiques ` Les industriels ont conscience du probleme. ´ ´ ´ Pression economique encourageant la securit e. ` constant. Outils en progres On peut avoir confiance ... R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

77 / 78

Conclusion

Peut-on avoir confiance en l’informatique ? Bureautique et informatique courante ` Les industriels ont conscience du probleme. ´ Pression economique encourageant les bugs ! ´ Outils peu ou pas utilises. Des bugs, encore des bugs, ... ` Systemes critiques ` Les industriels ont conscience du probleme. ´ ´ ´ Pression economique encourageant la securit e. ` constant. Outils en progres On peut avoir confiance ... R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

77 / 78

Conclusion

Peut-on avoir confiance en l’informatique ? Bureautique et informatique courante ` Les industriels ont conscience du probleme. ´ Pression economique encourageant les bugs ! ´ Outils peu ou pas utilises. Des bugs, encore des bugs, ... ` Systemes critiques ` Les industriels ont conscience du probleme. ´ ´ ´ Pression economique encourageant la securit e. ` constant. Outils en progres On peut avoir confiance ... R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

77 / 78

Conclusion

Fin

R.David - C.Raffalli

Avoir confiance en l’informatique ?

Mai 2007

78 / 78