Nous avons vu lors de l’épisode précédent que l’apprentissage vit une nouvelle révolution, réussissant à résoudre des problèmes toujours plus complexe, l’amenant presque à “rêver”. Cela a suffit a provoquer la frayeur de plusieurs personnes quant à une intelligence artificielle arrivant à grand pas.

Cette croyance dans une intelligence artificielle arrivant à grand pas est même une des bases du courant transhumanisme dont… nous ne parlerons pas ici! J’ai décidé pour cet épisode de naviguer de sources en sources pour essayer de trouver des arguments concrets quant aux limites humains/machines, en essayant d’écouter pour une fois des personnes hors du monde de l’apprentissage, de la technologie, de la Silicon Valley en somme! Je vous propose donc de voyager avec moi au sein de ces voix. L’occasion de réfléchir, d’apprendre, sans avoir de réponse claire pour commencer la saison, c’est cela aussi PodcastScience!

Limites théoriques

Avec mon passif de matheux et les nombreuses heures que je vous ai imposé sur le sujet, les premières limitations qui me viennent en tête sont bien sur les limites théoriques. Les “cerveaux” machines sont faites des mêmes choses depuis leur début : des mathématiques et de l’algorithmique. Or, vous devez savoir maintenant que plein de choses sont inaccessibles au mathématiques et au algorithmes.

On commence alors par les infinis de Cantor tous plus grand les un que les autres qui permettent de découvrir des nombres qui ne seront calculables par aucun algorithmes. Puis on passe au théorème de Godel et ses propositions indécidables pour finir sur le problème de l’arrêt et découvrir que même certains algorithmes sont indécidables! La plupart de ces résultats font appel à des concepts auto-référent, ce qui fout le bordel. La phrase auto-référente la plus simple est :

Cette phrase est un mensonge.

Mais en fait, comme vous pourrez le découvrir dans l’un des livres dont je me suis servi dans ce dossier, il y en a plein d’autres aussi amusantes que douloureuses pour la tête :

La première règle du groupe est qu’il n’y a pas de règle

ou encore, vous connaissez les “nombres inintéressants”? Ce sont des nombres qui n’ont aucune propriété intéressante. Prenons le plus petit des nombres inintéressants, il semble avoir une propriété intéressante : être le plus petit des nombres inintéressants…. Bref on tourne en rond et on se casse la tête. Avec ce genre de concepts, il a été prouvé que certains algorithmes ne seraient jamais possible.

En fait, les ordinateurs sont même moins bons que ça, on sait aussi que certains algorithmes prennent tellement de temps que même avec l’age de l’univers et des ordinateurs quantiques ils ne s’arrêteraient jamais… Donc finalement on tombe très vite sur des limitations de ces impressionnants machines.

Pour autant, cela convainc peu. En fait on n’est même pas sur que les humains sont capables de faire tout cela… On est même plutôt convaincus du contraire : les ordinateurs sont capables de faire aujourd’hui des choses qu’aucun humain n’a jamais su et ne saura jamais faire :

• Compter toutes les occurences d’un mot dans tous les bouquins sortis depuis 1800 (Google ngram viewer)
• Calculer plusieurs milliers des millards de décimales de pi
• Nous donner l’itinéraire le plus court entre n’importe quel point de France en quelques secondes…

Mais nous sommes blasés, toutes ces prouesses ne nous impressionnent pas. Si la machine veut la qualification d’“intelligente” il va falloir faire plus!

Attaque frontale

Le fil des lectures se poursuit donc avec le test de Turing et assimilés. Devant ces critiques d’humains présomptueux expliquant que ces prouesses hors du domaine de l’humain ne justifient pas de l’intelligence, certains chercheurs ont essayé de définir des tests précis qui permettront de conclure à l’intelligence.

Le plus célèbre est bien sur le test de Turing. Ce fameux test dit en gros que si l’on arrive à faire croire à un humain qu’il discute avec un autre humain lorsqu’il discute avec une machine, alors on pourra considérer cette machine intelligente…

… alors les machines ont passées le test de Turing. Par exemple en se faisant passer pour un enfant parlant mal anglais mais surtout en ne pouvant que parler, est-ce vraiment ça être intelligent?

En fait des test de ce type ne cessent de fleurir :

On a demandé aux machines de battre les humains aux echecs…
… alors les machines ont battu les humains aux echecs.

On a demandé aux machines de décrire des images…
… alors les machines ont décrit des images.

On a demandé aux machines de savoir cuisiner de manière inventive…
… alors les machines ont cuisiné de manière inventive.

Vous commencez à percevoir le schéma? A chaque fois qu’on demande à une machine de faire une chose précise, tôt ou tard elle y arrive et même mieux qu’un humain. Pourtant, à la vue du résultat, on est chaque fois peu convaincu par son intelligence…

D’abord, les machines ne fonctionnent pas comme nous. Elles sont une sorte d’extra-terrestre avec un autre système de pensée, chez elles, ce qui prime c’est la mémoire et la capacité de calcul. Ainsi, pour nous battre aux échecs, elles n’ont pas cherché à inventer, à raisonner… Elles ont appris par coeur des milliers de partie et leur issue et grâce à leur puissance de calcul elles testaient un nombre de combinaisons inimaginable!

Mais ce n’est pas la seule raison. On n’aime pas non plus le test de QI pour mesurer l’intelligence. L’humain raisonne rarement en test exact, réfléchissez à la manière dont vous parlez, dont vous vous exprimez, vilous y verrez beaucoup de flou :

“Mon voisin est un grand chauve” : Quel voisin? Grand c’est a partir de quelle taille? Chauve c’est à partir de combien de cheveux?

Ce flou n’est pas insurmontable. En fait, mes pérégrination m’ont amené à découvrir la logique floue. Une branche mathématique qui pose justement ces bases sur ce genre de concepts flous (grand, chauve, etc.) pour construire toute une logique, des théorèmes et même des systèmes de décision basés sur le flou. Imaginez rencontrer à l’école des problèmes flous dans les manuels :

“Si un individu a plus de 18 ans il a le droit de voter. Or on sait que pierre a environ 18 ans, A-t-il le droit de voter?
Bonne réponse : C’est tout a fait possible mais pas certain.” (tiré de Que sais-je? La logique floue)

Ce n’est donc pas suffisant pour poser une différence entre la machine et l’humain.

Où l’on est revenu des machines intelligentes

Il y a une chose qu’aujourd’hui on vit bien mieux que les machines : les contradictions. Il a du vous arriver, à un moment où à un autre que votre professeur vous dise

la semaine prochaine vous aurez un test surprise

Etudions cela : le dernier jour de la semaine est vendredi, si le test n’est pas arrivé avant vendredi, il n’y a plus d’autre option, donc ce ne sera plus une surprise, vendredi est donc exclu. On peut alors raisonner de la même manière pour éliminer jeudi, puis mercredi, puis mardi, puis lundi (ça s’appelle le paradoxe de l’interrogation surprise).

Cette simple phrase ne vous pose aucun problème, une classe de machines rationnelles vous répondrait probablement : Non, ce n’est pas possible. Bien qu’aimant, surtout entre amateur de sciences, nous définir comme des animaux rationnels, on est en fait largement irrationnels. Tout comme les concepts flous, réfléchissez un peu à votre vie de tous les jours et vous ne cesserez de trouver des contradictions :

• Vous voulez être maigre mais manger des bonbons
• Tout le monde a déjà réussi à détester une personne qu’elle adore en même temps
• Vous croyez probablement en l’égalité et la liberté, retirant ainsi la liberté d’être inégal.

Le cerveau humain n’est pas une machine parfaite au sens rationnel, il est rempli de contradiction. Pire, ce sont ces contradictions même qui nous on construit et qui continuent à nous faire vivre.

C’est à ce moment là que j’ai rencontré un joli argument de différentiation de l’humain et de la machine.

Les histoires…

C’est S. Wolfram qui m’a le premier poussé vers cette piste en déclarant que ce sont nous qui fixons les objectifs, pas les machines. Puis, alors que je lisais deux livres n’ayant apparement rien à voir, ils racontaient la même chose : celle de l’importance des histoires pour l’homme.

Le premier est “Sapiens, a brief history of Humankind”. L’auteur de ce livre raconte l’histoire de l’humanité, tout simplement. Il se dit inspiré de Jared Diamond qui a écrit sur l’inégalité des société, on vous en avait déjà parlé ici. L’histoire de l’humanité telle que la raconte Yuval Noah Harari, c’est l’histoire des légendes et mythes que l’on se raconte.

Cela commence avec la révolution cognitive, ce moment ou notre cerveau a subi une transformation qui nous a justement permis de se raconter des histoires. Ce n’est pas du tout anodin, si vous regardez un groupe d’une centaine de singes et un groupe d’une centaine d’humains, leur comportement est très différents : les mythes nous permettent de coopérer en groupes énormes. Regardez autour de vous, réfléchissez à votre vie, il y a plus d’histoires que de choses concrètes. Qu’est-ce qu’une ville? Qu’est-ce qu’une loi? Qu’est-ce qu’une entreprise? Tout cela n’“existe” pas, ce sont des légendes sur lesquels les humains s’accordent.

Plus fort encore, c’est aussi cette capacité à raconter et croire aux histoires qui nous a permis de changer nos attitudes sans avoir besoin d’évoluer du point de vue biologique. Une formule de l’auteur qui résume cela est :

“The coginitive revolution is accordingly the point when history declared its independance from biology” – Yuval Noah Harari,

Puis vient une suite interrompues de croyances, de guerres pour des croyances jusqu’à une croyance sur lesquelles l’humanité entière se sont mises d’accord : l’argent. Ne tombez pas ici dans une critique du consumérisme qui n’aurait pas de sens au vu du sujet mais réfléchissez plutôt au fait que cette croyance en l’argent permet à des milliards d’humain de cohabiter et de collaborer. La collaboration à cette échelle et surtout cette étendue géographique ne s’est jamais vue dans le monde animal.

Viennent ensuite d’autre révolutions, comme la révolution scientifique que je n’ai pas le temps de développer ici. Lisez donc le livre, le voyage en vaut le coup et il est maintenant traduit en Français.

Des humains pour les humains

Le deuxième livre sans rapport qui se mit à raisonner est “Human are underrated” cherchant justement à répondre à la question de ce qui caractérise l’humain et le rendra encore utile vis a vis de la machine.

Ce deuxième livre en arrive aux mêmes conclusions. Les humains racontent des histoires, se donnent des objectifs et le font aujourd’hui mieux que des machines. Alors bien sur, après ce que je vous ai dit sur les “tests de Turing”, cela n’est pas très intéressant : ce que l’on pointe aujourd’hui sera fait demain par les machines.

On trouve même déjà des machines capable de raconter des histoires, de créer de la musique, des peintures et l’on se demande si elles ne sont pas derrière les scénari des feux de l’amour… Nul doute qu’elles seront un jour capable de raconter des histoires au moins aussi bonnes que la plupart des romanciers d’aujourd’hui.

Le livre met en avant l’importance de la communication d’humain à humain, plus que l’histoire, l’humain s’attache à la façon de la raconter, le storytelling, et à qui la raconte. Lorsqu’un conteur raconte une histoire, des études ont montré que les cerveaux pouvaient se synchroniser celui de la personne conte l’histoire : les mêmes régions s’allument en même temps. Alors on en vient à une différence de taille, l’humain raconte des histoires et aime se les faire raconter par d’autres humains.

A PodcastScience, on essaie d’épisodes en épisodes de trouver la bonne histoire à raconter pour présenter des idées scientifiques. Les grand scientifiques que l’on a pu recevoir nous parlaient aussi de la “bonne histoire à raconter”, celle-ci étant souvent à la base de révolutions scientifiques. Cette approche a pour moi commencé dès ma première apparition, j’y ai choisi le nom de scène Nicolas Tupégabet comme on choisi un nom de personnage.

Alors la machine?

Arrivé à ce stade, on voit que ce qui caractérise l’humain face à la machine est… très humain. Finalement demander à la machine de devenir un humain est un but qui ne sera probablement jamais atteint. Par contre, la machine est déjà capable de beaucoup, de plus que nous dans bien des domaines. Je pense que notre rôle futur sera de réussir à conserver ce qui fait la spécificité de l’humain et d’en tirer parti.

Considérez les machines intelligentes comme des alien. Leur cerveau n’est pas fait comme le notre. Pour vous donner un exemple pour finir ce dossier, essayons ensemble d’imaginer cette révolution de l’apprentissage à l’époque de Ptolémée. Ptolémée avait proposé un système pour modéliser les mouvements des planètes à base de cercles. Ce système était très précis et pouvait être affiné en ajoutant toujours plus de cercles à sur les premiers cercles.

On pourrait imaginer mettre en place un système d’apprentissage qui prendrait comme hypothèses ce systèmes de cercles avec la possibilté d’en ajouter autant qu’il le souhaite pour coller au mieux aux données d’observations. Pour sûr, on obtiendrai un système aussi efficace que complexe. Le système de Ptolémée à l’époque était déjà très efficace. On aurait alors pas eu “besoin” de définir le système de Newton, la mécanique relativiste, etc. On aurait échangé ces histoires contre une grande efficacité de calcul couplée à une grande mémoire.

Chaque algorithme d’apprentissage efficace pose cette question : est-on toujours intéressé par comprendre et modéliser ou veut-on seulement résoudre?  Et pour sûr, si nous humains ne nous intéressons pas à comprendre, ce ne seront pas les machines qui le feront pour nous.

Biblio

• Wolfram : https://gigaom.com/2015/07/27/interview-with-stephen-wolfram-on-ai-and-the-future/
• La logique floue – Collection Que Sais-je?
• Sapiens, a brief history of mankind
• The outer limits of reason
• Superintelligence : Paths, Dangers, Strategies
• Humans are underrated