Décidabilité

En logique mathématique, le terme décidabilité recouvre deux concepts liés : la décidabilité logique et la décidabilité algorithmique.

L'indécidabilité est la négation de la décidabilité. Dans les deux cas il s'agit de formaliser l'idée qu'on ne peut pas toujours conclure lorsque l'on se pose une question, même si celle-ci est sous forme logique.

Décidabilité, indécidabilité d'un énoncé dans un système logique

Une proposition (on dit aussi énoncé) est dite décidable dans une théorie axiomatique, si on peut la démontrer ou démontrer sa négation dans le cadre de cette théorie. Un énoncé mathématique est donc indécidable dans une théorie s'il est impossible de le déduire, ou de déduire sa négation, à partir des axiomes. Pour distinguer cette notion d'indécidabilité de la notion d'indécidabilité algorithmique (voir ci-dessous), on dit aussi que l'énoncé est indépendant du système d'axiomes. Exemples : c'est le cas notamment du célèbre postulat de Parallèles d'Euclide^[1], ou encore de « l'hypothèse du continu », selon laquelle dont Paul Cohen a démontré, en 1963, qu'elle était indécidable.

En termes plus concrets, cela veut dire qu'on demande au système de fournir une conclusion sans lui avoir fourni suffisamment d'hypothèses. Pour prendre une image, l'âge du capitaine d'un bateau est « indécidable » en fonction du tonnage et de la vitesse du navire. Mais cela peut être plus subtil, cet âge est aussi « indécidable » quand on connaît celui de sa mère. En revanche, l'ajout de l'information, supplémentaire, indiquant l'âge qu'avait la mère lors de la naissance de son fils permet de rendre l'énoncé « le capitaine a quarante-deux ans » décidable (il suffit de faire la soustraction : "âge de la mère actuellement" - "âge de la mère lors de la naissance de son fils"). La question est donc de savoir : y a-t-il assez d'hypothèses pour démontrer l'énoncé en question?

En logique classique, d'après le théorème de complétude, une proposition est indécidable dans une théorie s'il existe des modèles de la théorie où la proposition est fausse et des modèles où elle est vraie. On utilise souvent des modèles, pour montrer qu'un énoncé est indépendant d'un système d'axiomes (dans ce cadre on préfère employer indépendant plutôt qu'indécidable). La propriété utilisée dans ce cas n'est pas le théorème de complétude mais sa réciproque, très immédiate, appelée parfois fidélité. Probablement est-ce là d'ailleurs la première apparition de la notion de modèle, avec la construction au XIX^e siècle de modèles des géométries non classiques, ne vérifiant pas l'axiome des parallèles. Si l'on admet le fait assez intuitif que la géométrie euclidienne est cohérente — la négation de l'axiome des parallèles ne se déduit pas des autres axiomes — l'axiome des parallèles est bien alors indépendant des autres axiomes de la géométrie, ou encore indécidable dans le système formé des axiomes restants.

Une théorie mathématique pour laquelle tout énoncé est décidable est dite complète, sinon elle est dite incomplète. Beaucoup de théories mathématiques sont naturellement incomplètes, parce qu'il y a évidemment des énoncés qui ne sont pas déterminés par les axiomes (théorie des groupes, des anneaux, ...) . Certaines théories, comme la théorie des corps algébriquement clos, celle des corps réels clos, ou encore l'arithmétique de Presburger sont complètes. Le théorème d'incomplétude de Gödel nous garantit que toute théorie axiomatique cohérente, et suffisamment puissante pour représenter l'arithmétique de Peano (l'arithmétique usuelle), est incomplète, pourvu qu'elle soit axiomatisée de façon que l'on puisse décider au sens algorithmique (voir ci-dessous) si un énoncé est ou non un axiome. Cette dernière hypothèse qui semble un peu compliquée à énoncer est très naturelle et vérifiée par les théories axiomatiques usuelles en mathématiques.

Décidabilité, indécidabilité algorithmique d'un problème de décision

Définition

Un problème de décision est dit décidable s'il existe un algorithme, une procédure mécanique qui termine en un nombre fini d'étapes, qui le décide, c'est-à-dire qui réponde par oui ou par non à la question posée par le problème. S'il n'existe pas de tels algorithmes, le problème est dit indécidable. Par exemple, le problème de l'arrêt est indécidable. On peut formaliser la notion de fonction calculable par algorithme, ou par procédure mécanique de diverses façons, comme par exemple en utilisant les machines de Turing. Toutes les méthodes utilisées se sont révélées équivalentes dès qu'elles étaient suffisamment générales, ce qui constitue un argument pour la thèse de Church : les fonctions calculables par une procédure mécanique sont bien celles qui sont calculées selon l'un de ces modèles de calcul. La thèse de Church est indispensable pour interpréter de la façon attendue une preuve d'indécidabilité.

En cas d'ambiguïté possible, on peut parler d’indécidabilité algorithmique, pour distinguer cette notion de l’indécidabilité logique exposée dans le paragraphe précédent (ou parfois de décidabilité au sens de Turing pour la décidabilité algorithmique, et de décidabilité au sens de Gödel pour la décidabilité logique).

Dire qu'un problème est indécidable ne veut pas dire que les questions posées sont insolubles mais seulement qu'il n'existe pas de méthode unique et bien définie, applicable d'une façon mécanique, pour répondre à toutes les questions, en nombre infini, rassemblées dans un même problème.

Ensembles décidables et indécidables

Un sous-ensemble des entiers naturels est dit décidable, quand le problème de l'appartenance d'un entier quelconque à cet ensemble est décidable, indécidable sinon. On généralise directement aux n-uplets d'entiers. On dit aussi d'un ensemble décidable qu'il est récursif. Le complémentaire d'un ensemble décidable est décidable. On montre en théorie de la calculabilité qu'un ensemble récursivement énumérable dont le complémentaire est récursivement énumérable est récursif (c'est-à-dire décidable).

On généralise ces notions aux langages formels, par des codages « à la Gödel ». Il est possible aussi de les définir directement. Dans le cas des théories logiques (closes, donc par déduction), on parle alors de théorie décidable, ou de théorie indécidable. Ces notions ne doivent pas être confondues avec celles de théorie complète et théorie incomplète vues au paragraphe précédent. Quand on parle d'une théorie décidable ou indécidable, il s'agit forcément de décidabilité algorithmique et jamais de décidabilité logique. A contrario, quand on parle d'énoncé ou de proposition décidable ou indécidable, c'est forcément de décidabilité logique qu'il s'agit.

Exemples d'ensembles et de problèmes décidables

Tous les sous-ensembles finis des entiers sont décidables (il suffit de tester l'égalité à chacun des entiers de l'ensemble). On peut construire un algorithme pour décider si un entier naturel est pair ou non (on fait la division par deux, si le reste est zéro, le nombre est pair, si le reste est un, il ne l'est pas), donc l'ensemble des entiers naturels pairs est décidable ; il en est de même de l'ensemble des nombres premiers. Notons qu'un ensemble peut être théoriquement décidable sans qu'en pratique la décision puisse être faite, parce que celle-ci nécessiterait trop de temps (plus que l'âge de l'univers) ou trop de ressources (plus que le nombre d'atomes de l'univers). L'objet de la théorie de la complexité des algorithmes est d'étudier les problèmes de décision en prenant en compte ressource et temps de calcul.

Le problème de savoir si une proposition est vraie dans l'arithmétique de Presburger, c'est-à-dire dans la théorie des nombres entiers naturels avec l'addition mais sans la multiplication, est décidable.

Exemples de problèmes indécidables

• L'indécidabilité du problème de l'arrêt a été démontrée par Alan Turing en 1936. Il n'existe pas d'algorithme qui permette de décider si, étant donnée une machine de Turing quelconque et son état initial, le calcul de celle-ci s'arrête ou non. Du fait de la thèse de Church, ce résultat est très général. Depuis l'apparition de l'informatique, on peut l'interpréter ainsi : il n'existe pas de programme permettant de tester n'importe quel programme informatique d'un langage suffisamment puissant, tel que tous ceux qui sont utilisés en pratique, afin de conclure dans tous les cas s'il s'arrêtera en un temps fini ou bouclera à jamais.
• Plus généralement le théorème de Rice énonce que toute question sur les programmes informatiques qui ne dépend que du résultat du calcul (terminer ou non, valeur calculée etc.) est indécidable ou triviale (ici, « trivial » s'entend par : la réponse est toujours oui ou toujours non).
• La question de savoir si oui ou non un énoncé de la logique du premier ordre est universellement valide (démontrable dans toute théorie), dépend de la signature du langage choisie (les symboles d'opération ou de relation ...). Ce problème, parfois appelé problème de la décision, est indécidable pour le langage de l'arithmétique, et plus généralement pour n'importe quel langage égalitaire du premier ordre qui contient au moins un symbole de relation binaire (comme < ou ∈). Pour un langage égalitaire du premier ordre ne contenant que des symboles de prédicat unaires (calcul des prédicats égalitaire monadique), il est décidable.
• La question de savoir si oui ou non une proposition énoncée dans le langage de l'arithmétique (il faut les deux opérations, + et ×) est vraie dans le modèle standard de l'arithmétique est indécidable (c'est une conséquence du premier théorème d'incomplétude de Gödel, ou du théorème de Tarski).
• La prouvabilité d'un énoncé à partir des axiomes de l'arithmétique de Peano est indécidable (voir problème de la décision). Gödel a montré que cet ensemble est strictement inclus dans le précédent. Comme l'axiomatique de Peano a une infinité d'axiomes, cela ne se déduit pas directement de l'indécidabilité du problème de la décision dans le langage, énoncée précédemment. Les deux résultats se déduisent d'un résultat général pour les théories arithmétiques qui satisfont certaines conditions. L'arithmétique de Peano vérifie ces conditions, mais aussi l'arithmétique Q de Robinson, qui a un nombre fini d'axiomes.
• La prouvabilité d'un énoncé à partir des axiomes d'une théorie des ensembles cohérente, et plus généralement de toute théorie cohérente qui permet d'exprimer « suffisamment » d'arithmétique formelle est indécidable (voir problème de la décision).
• La question de savoir si oui ou non une équation diophantienne a une solution. La preuve de son indécidabilité est le théorème de Matiyasevich (1970)
• La question de savoir si oui ou non deux termes du lambda-calcul sont β-équivalents, ou de façon similaire, l'identité de deux termes de la logique combinatoire. Son indécidabilité a été prouvée par Alonzo Church.

Théories décidables

Une théorie axiomatique est décidable s'il existe un algorithme qui réponde toujours par oui ou non à la question de savoir si un énoncé donné est démontrable dans cette théorie. Un tel algorithme peut être facilement étendu en un algorithme de recherche de démonstration formelle (sous la condition, vérifiée par les théories « usuelles », que le fait d'être un axiome soit décidable) : une fois que l'on sait qu'un énoncé est démontrable, il suffit d'énumérer toutes les démonstrations bien formées jusqu'à trouver une démonstration de cet énoncé. Cet algorithme de recherche n'a bien sûr qu'un intérêt théorique, sauf dans des cas particulièrement simples.

Même si une théorie est décidable, la complexité algorithmique de sa décision peut être rédhibitoire.

Exemples de théories décidables :

• la théorie des corps réels clos, avec des algorithmes basés sur l'élimination des quantificateurs, qui produisent au vu d'un énoncé un énoncé équivalent sans quantificateurs ∀ou ∃ ; les énoncés sans quantificateurs de la théorie sont trivialement décidables ; la complexité des algorithmes connus est élevée et ne permet que la décision d'énoncés très simples ;
• l'arithmétique de Presburger (arithmétique entière sans multiplication, ou, ce qui revient au même, avec multiplication restreinte au cas où l'un des opérandes est une constante)^[2].

Décidabilité logique et décidabilité algorithmique

Les deux notions de décidabilité interprètent chacune la notion intuitive de décision dans des sens clairement différents. Elles sont cependant liées. En effet, on considère en mathématiques qu'une démonstration, si elle peut être difficile à trouver, doit être « facile » à vérifier, en un sens très informel (et discutable — mais ce n'est pas l'objet de cet article). Quand on formalise, on traduit ceci en demandant que le problème de reconnaître si un assemblage de phrases est une démonstration formelle, est décidable. Pour que ceci soit exact, il faut supposer que l'ensemble des axiomes de la théorie est décidable, ce qui, on l'a déjà mentionné, est très naturel.

Sous cette hypothèse, l'ensemble des théorèmes d'une théorie devient récursivement énumérable ; une telle théorie, si elle est complète, est alors décidable (voir article théorie axiomatique pour des justifications et détails supplémentaires). Par contre une théorie décidable, n'est pas nécessairement complète. Ainsi, la théorie des corps algébriquement clos n'est pas complète, puisque la caractéristique n'est pas précisée^[3]; elle est pourtant décidable. La théorie des corps algébriquement clos d'une caractéristique donnée est, elle, complète et décidable.

Bibliographie

• O. Carton, Langages formels, calculabilité et complexité, Paris, Vuibert, coll. « Capes-agrég », 28 octobre 2008, 1^re éd., 17 x 24, 240 p. (ISBN 978-2-7117-2077-4, 9782711720774 et 2-7117-2077-2) [lire en ligne (page consultée le 16 juin2011)] [présentation en ligne] 
• (fr) J.-M. Autebert, Calculabilité et décidabilité. Dunod 1992, (ISBN 978-2225826320)
• (fr) P. Wolper. Introduction à la calculabilité. 3-ième édition, Dunod 2006, (ISBN 978-2100499816)

Références et notes

Liens externes

• « Les limites théoriques de l'informatique. Les problèmes indécidables » Cycle de trois leçons dispensées par Jean-François Raskin, Samuel Fiorini et Gilles Geernaerts au Collège Belgique.

• Portail de la logique
• Portail de l'informatique théorique