Les sciences de l’artificiel selon Herbert Simon

Salut les internautes. L’une des classifications les plus communes des sciences est celle d’Auguste Comte, le père du positivisme, qui avait classifié les sciences en 4 catégories, les sciences logico-formelles (mathématique, logique et informatique théorique), les sciences physico-chimiques, les sciences du vivant et les sciences humaines. Aujourd’hui, nous nous penchons sur la philosophie d’un économiste et sociologue américain, Herbert Alexander Simon.

Commençons par présenter Herbert Simon. Il s’agit d’un économiste et sociologue du XX°s, né en 1916 et mort en 2001. Il est à l’origine du concept de rationalité limitée. La théorie d’Herbert Simon est que les êtres humains ne sont pas tout à fait rationnels, qu’ils n’agissent pas de façon optimale afin d’atteindre leurs buts. Notons au passage que cette théorie a été introduite par d’autres économistes sous le nom d’homo œconomicus. Cette dernière est considérée comme une théorie correcte par nombre d’économiste, ou tout le moins comme un modèle acceptable, sur lequel il est possible d’élaborer des théories économiques plus complexes, soit qu’on considère que les hommes ont véritablement cette capacité ou qu’ils agissent de cette façon sans faire les calculs explicitement. Simon, lui, s’oppose à cette théorie. Pour lui, les hommes ne raisonnent pas de cette façon, ni consciemment, ni inconsciemment. Et cela pour plusieurs raisons. Tout d’abord, les capacités du cerveau humain ne sont pas illimitées, et elles sont même assez limitées lorsqu’il s’agit de faire des calculs. Ensuite, les buts même des humains ne sont pas toujours clairs à leur esprit. Ils sont à la merci de leurs sentiments, de leurs émotions. Ils se fixent parfois des buts contradictoires. Toutes ces limites à la rationalité des êtres humains impliquent qu’ils sont incapables de raisonner parfaitement. Ils peuvent ainsi agir en suivant des heuristiques, mais aussi – et c’est ce que suppose Simon – de façon “procédurale”: tout d’abord, un être humain ne recherchera pas une solution parmi toutes les solutions possibles. Il déterminera un ensemble de solutions qui lui paraissent arbitrairement acceptables et fera sa recherche dans cet espace réduit. Il ne recherchera donc pas la solution optimale à son problème mais une solution acceptable parmi les solutions qu’il a envisagées. D’autre part, il générera à tout moment un certain nombre d’alternatives parmi lesquelles il choisira jusqu’à ce qu’il arrive à une nouvelle situation où de nouvelles alternatives seront à nouveau produites et parmi lesquelles il devra choisir.

Du point de vue d’Herbert Simon, l’intellect humain peut donc être décrit et modélisé par l’intelligence artificielle (étant tous deux des systèmes de manipulations de symboles “physiques”), et il est également explicable, compréhensible. L’intelligence artificielle peut permettre d’une part de modéliser l’intelligence de l’être humain, mais aussi, une fois ce processus cognitif découvert, de l’analyser et donc de l’améliorer. Simon pense donc que l’ordinateur est parfaitement capable de penser et de créer, y compris de réaliser des œuvres d’arts. Il suppose qu’à son époque, les programmes et les ordinateurs sont simplement trop peu avancés pour être en mesure de faire des œuvres figuratives.

En tant qu’économiste, Simon s’est aussi intéressé à la problématique du fonctionnement des organisations. L’une des questions qu’il s’est posées est la façon dont les organisations s’assurent leur fonctionnement d’une part, et la loyauté de ses membres d’autre part. Et l’explication que donne Simon est multiple. Il explique tout d’abord que les êtres humains sont d’une certaine façon altruistes (au moins pour une partie d’entre eux) et que cela leur vient de l’évolution. Si cela peut paraître contre-intuitif – il peut paraître logique que les êtres égoïstes survivent plus facilement que les altruistes – cet argument n’est valable que tant qu’on reste à l’échelle de l’individu. D’un autre côté, lorsqu’on se place à l’échelle des sociétés ou des organisations, celles qui comportent des êtres altruistes en leur sein auront une plus grande facilité à survivre, ce qui signifie que les individus altruistes sont eux aussi nécessaires et donc qu’ils auront tendance à survivre eux aussi. La seconde justification que donne Simon est que l’organisation trompe les humains qui la composent de façon à ce que ceux-ci la servent (ce qu’il appelle la docilité). Ces organisations permettent de faire en sorte que plusieurs humains orientent leurs actions dans la même direction. Pour cela, elles utilisent des routines à travers lesquelles les individus agissent dans le sens des organisations. Les organisations permettent aussi de diviser les tâches d’un même objectif afin qu’elles soient accomplies par plusieurs individus. Enfin, la division des tâches permet d’éviter de faire des erreurs.

Comme on peut le voir, Simon s’intéresse aux sociétés, aux hommes et à la façon dont ils interagissent. C’est dans ce cadre qu’il va définir le concept qui va constituer le reste de ce post: les sciences de l’artificiel. Cette notion a une place particulière dans la hiérarchie des sciences. Elle permet, selon Herbert Simon, d’unifier les sciences naturelles avec les sciences humaines.

Les sciences naturelles ont ceci de particulier qu’elles sont généralement considérées comme précises, très précises même. Les sciences humaines, qui utilisent des méthodes jugées moins exactes, sont souvent considérées avec mépris par les tenants des sciences naturelles (il faudra par exemple attendre 1970 pour que la première chaire de sociologie soit créée au Collège de France, alors que les œuvres de Durkheim datent de plus de 70 ans à ce moment-là). Pour Herbert Simon, il est possible de changer la manière dont nous abordons les sciences humaines, en tentant de les analyser d’une manière plus systématique, tout en gardant à l’esprit que ces sciences ne sont pas des sciences naturelles et qu’elles ont donc leurs propres spécificités. En particulier, elles prennent en compte une partie de nécessité (il y a une partie de ces sciences qui est “précise”), mais aussi une partie de contingence, qui est, elle, arbitraire et particulière à chaque individu. Cette partie de contingence est liée au fait que les individus, pour résoudre leurs problèmes, ne peuvent pas et donc ne cherchent pas à optimiser, mais à trouver, comme nous l’avons dit plus haut, une solution acceptable dans un sous-ensemble de solutions préalablement choisi. La façon dont les individus réduisent l’ensemble de départ et quelle solution satisfaisante y est choisie sont à l’origine de cette contingence.

Malgré tout, Simon considère qu’il est possible d’étudier formellement les créations humaines, qu’il s’agisse de la façon dont ils forment des organisation ou de ce qui sort de leur esprit, et la façon dont ils résolvent leurs problèmes. Il peut être compliqué d’étudier de tels phénomènes, car les théories reposent en général sur des expériences simples, et sur des présuppositions qui sont difficilement testables, et seulement à petite échelle. Et c’est là que l’intelligence artificielle entre en jeu. En effet, pour Simon, l’intelligence artificielle est une formidable opportunité d’observer et de simuler le fonctionnement de l’esprit humain. Simon défend une thèse forte en ce qui concerne l’IA. Il soutient que l’IA dite “forte”, celle qui est capable d’imiter la pensée humaine, est possible. Pour lui, l’ordinateur, tout comme le cerveau humain, sont des systèmes capables de manipuler des symboles physiques. Ainsi, l’ordinateur, parce qu’il est capable, tout comme le cerveau, de manipuler ces symboles, est capable de comprendre une situation, ou encore un texte (c’est à dire une suite de symboles). Comprenez qu’il est non seulement capable d’interpréter une grammaire afin de savoir si un texte répond à ses contraintes, mais aussi d’en comprendre le contenu. Pour Simon, l’ordinateur est capable d’interprétation, tant syntaxique que sémantique. Notons qu’il est loin d’être le seul dans ce cas-là, et qu’il est tout aussi loin d’être le seul à avancer ces arguments.

Là où Simon se distingue d’autres théoriciens de l’IA, c’est dans sa volonté d’ériger ce système en science, et une science qui permette à la fois de concevoir de tels systèmes, mais aussi une science qui permette de les tester, en utilisant la simulation. Pour lui, les sciences cognitives notamment se doivent de travailler étroitement avec l’Intelligence Artificielle, et ces deux domaines doivent interagir, afin de s’influencer l’un-l’autre. Les sciences cognitives peuvent par exemple influencer la manière dont les programmes sont conçu. L’intelligence Artificielle, de don côté, permettrait de valider lesdites théories en les simulant, et en travaillant sur ces processus de les préciser. En outre, et c’est un des objectifs de l’IA, un second but est d’améliorer ces processus humains grâce à l’aide de la machine. Dans cette optique, Simon ne demande donc pas à l’ordinateur d’optimiser, mais de satisfaire. Le fait de créer un ordinateur qui suive un cheminement identique à celui de l’humain est complexe. Il ne constitue pas l’objectif de l’IA dite faible (qui cherche à résoudre des problèmes au mieux), et on voit bien, dans les problèmes qui sont résolus, que l’ordinateur ne procède pas toujours de la même façon que l’humain. C’est par exemple le cas d’AlphaGo, qui a certes récemment battu le Coréen Lee Sedol, mais dont un certain nombre de coups ont paru “étrange” aux experts¹. Il constitue cependant un pan de l’IA qui, bien que peu étudié, est très intéressant. C’est dans cette optique que Simon a créé un programme d’échecs qui ne cherche pas à être précis mais plutôt à jouer à la façon d’un humain².

La notion de sciences de l’artificiel me paraît intéressante parce qu’elle permet de classifier l’informatique, à un autre titre qu’avec les mathématiques dans les sciences logico-formelles et auprès de la physique en ce qui concerne l’électronique et sa partie expérimentale. L’informatique est avant tout l’étude d’un domaine créé entièrement par l’homme, et en tant que telle, elle se rapproche davantage des sciences humaines que des sciences naturelles. D’un autre côté, ses méthodes s’approchent, elles, davantage des sciences “exactes” (naturelles et logico-formelles) que des sciences humaines. Cette classification, en réunissant ces deux aspects, me paraît plus satisfaisante que la classification canonique. Elle fait présuppose cependant un certain nombre de choses sur les ordinateurs, comme leur capacité à “penser” à la façon d’un être humain. C’est un vaste sujet, qui a été abordé par d’autres grands esprits du siècle dernier, notamment par Alan Turing et John Searle (je ne manquerai pas de vous parler de son article sur la “Chambre chinoise”). D’ici-là, renseignez-vous, réfléchissez, et surtout, n’oubliez pas de rêver.

Références:

Parthenay, Claude. “Herbert Simon: rationalité limitée, théorie des organisations et sciences de l’artificiel.” Les grands auteurs en économie des organisations (2004): 1-28.
Le Moigne, J-L., et Herbert A. SIMON. Sciences des systèmes, sciences de l’artificiel. Dunod, 1991.
Herbert A. SIMON Les Nouvelles sciences : Comprendre les sciences de l’artificiel Conférence aux « Débats de l’AFCET » Paris, Maison des Ingénieurs et Scientifiques de France, 6 février 1984