HOP #5 - Si l'intelligence m'était comptée (3/3)

L'IA du futur

La voiture autonome ? Elle circule déjà.

Non, le futur de l'IA, c'est tout le reste. Tout ce qui reste. Atteindre avec la machine le potentiel de l'humain, pour certains c'est dans deux siècles (une paille à l'échelle de l'humanité), pour d'autres 2050.

Aucun domaine, aucun métier n'est à l'abri. Le chirurgien sera plus vite remplacé que le couvreur. L'IA sera une révolution sociale d'une ampleur sans précédent.

Or, comment répartir la richesse, si on ne travaille plus ? Elon Musk, Bill Bates, Hawkings ont tiré le signal d'alarme. C'est maintenant que nous devons nous pencher sur ces problèmes de société.

En machine learning, la qualité du résultat dépend des données de base et des biais qu'elles contiennent (qui reflètent les nôtres, bien sûr). Ainsi, un robot de conversation lâché sur les réseaux pour son apprentissage a fait les frais des trolls du web, qui se sont empressés, comme on apprend volontiers des bêtises aux enfants qui ne sont pas les nôtres, de l'encourager à tenir certains discours plutôt que d'autres. En quelques heures et quelques millions d'ajustements de son circuit d’apprentissage, l'interlocuteur non humain est devenu un vrai petit militant du FN...
Il s'agit ici d'une malveillance mais qui met en lumière l'importance de la sécurité et de la protection contre le hacking.

En dehors de toute malveillance consciente, nos données sont déjà, en elles-mêmes, des sources de danger. Ainsi, un algorithme qui devait assister la justice dans l'évaluation des risques de récidive a surestimé ce risque chez des détenus noirs et l'a sous-évalué pour des blancs. Un autre chargé de reconnaître des êtres humains sur des images n'y est pas parvenu quand il s'est trouvé confronté à une personne noire.

Car si les données d'apprentissage sont biaisées, la machine arrive aux même conclusions déformées qu'un être humain qui ne prend pas le temps de réfléchir sur les chiffres dont il dispose et de s'interroger sur leur représentativité, par exemple.

Un petit programme d'orientation professionnelle conseillera ainsi à un jeune homme qui s'intéresse aux soins à la personne une carrière de médecin. A une femme, une école d'infirmière...

Cette question du choix des données pertinentes et de la gestion des inévitables biais est un champ de recherche complet en math/statistique. Là encore, je renvoie à Science4All. Je n'ai pas tout compris, mais c'était fascinant.

Autre problème, une nouvelle fracture numérique est en vue, avec le développement d'une médecine high-tech. Il y aura bientôt d'un côté les humains dits « augmentés », bardés de capteurs et de prothèses coûteuses qui tendront vers la machine et de l'autre, les pauvres qui devront faire avec la chair fragile et périssable.

J'ai lu quelque part la description d'une performance artistique : dans une maison, l'artiste mime le « job » d'un programme de domotique. Régler la température, mettre en marche une playlist, faire le café, programmer la machine à laver... l'IA est l'esclave d'hier. On s'en servira jusqu'à épuisement bien avant de s'interroger sur la moralité de cet usage.

On connaît tous les « lois de la robotique » associées à Asimov :

1. un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu'un être humain soit exposé au danger ;

2. un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi ;

3. un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la première ou la deuxième loi.

La philosophe Susan Anderson s'interroge : aura-t-on le droit moral d'imposer des lois de ce genre à des intelligences qui s'approcheront de la nôtre ? Un être humain est libre d'en tuer un autre. Il sera puni, mais la chose est possible, elle relève de la liberté individuelle. La question de l'intelligence artificielle n'est plus seulement technologique. Un·e ado passionné·e par ce domaine aurait tout intérêt à étudier le droit ou la philo.

On en revient toujours à cet « objectif » qui guide l'IA, cet indicateur de réussite qui guide l'apprentissage. Si votre IA pilote une voiture et qu'un gamin surgit, entre continuer tout droit ou dévier dans un mur, il faudra bien que quelque chose, dans la machine, fasse le choix. C'est pourtant le même choix que celui que vous feriez, vous. Vous avez une fraction de seconde. Qu'est ce qui vous guide ? Quel « instinct » ? La machine n'a pas d'instinct, seulement une série de calculs et d'instructions qui découlent de l'objectif de départ. Chaque fracture a un prix, chaque vie a un prix, comme au tribunal. La machine visera à réduire le coût de l'accident. Ce n'est pas « mal », ce sera juste connu, alors que la nébuleuse de votre réaction humaine, qui n'est pourtant pas si différente, qui effectue elle aussi une estimation des risques, échappe à votre conscience. Pour être exacte j'aurais dû écrire " l'humain pense avoir un instinct. Il n'a qu'une série de décharges synaptiques."

Un excellent épisode de Science4All montre que le plus anodin des objectifs, comme produire et vendre des trombones, peut conduire par la pure logique une IA à décider que l'humanité est un obstacle à son accomplissement. Imaginez que son objectif programmé soit la préservation de la nature. Alors ? On ne dirait pas qu'une petite extermination de l'humain serait fort bénéfique ?

Quel que soit le problème qui lui sera soumis, si le cadre n'est pas bien pensé, l'IA partira sûrement dans une direction que nous n'avions pas imaginée. C'est même le but : faire mieux que notre esprit limité ! Autrement dit, c'est un gosse de CP qui posera une question mathématique à un prix Nobel. Nous ne serons probablement pas en capacité de comprendre les implications de la réponse.

Chargée de calculer l'équilibre et le déplacement optimal d'un petit robot araignée, le mouvement qui soumettrait les pattes à la contrainte la plus faible, l'IA a décidé... de retourner le robot et de le faire ramper sur le dos avec les "épaules". Bah oui... on ne peut pas moins solliciter les pattes qu'en ne les utilisant pas du tout. La machine a parfaitement répondu. C'est la question, qui était mal posée par l'humain imbécile.

 

Voici un problème célèbre, que vous avez probablement croisé sous cette forme ou une de ses variantes :

Dans un étang pousse une espèce de nénuphar qui a la particularité de doubler de surface chaque jour. Sachant qu'il faudra 283 jours pour que l'étang soit entièrement recouvert, combien de temps faudra-t-il pour que l'étang soit à demi recouvert ?

Le problème ne demande aucune compétence en calcul. Ceux qui n'ont pas immédiatement la bonne réponse cherchent en général à diviser 283 par deux, ou se creusent la tête sur la taille de l'étang et d'un nénuphar. Or, plus simplement, si chaque jour la surface couverte double, la veille du jour où il est recouvert, il était à demi recouvert. Soit 282 jours.

Je ne me suis pas égarée avec mes nénuphars, il est fort probable qu'en intelligence artificielle, entre le jour où on se dira « on y est presque » et le jour où les machines nous auront de très très loin distancé·es, il n'y aura guère d'écart de temps. Nous serons la veille pour le lendemain. Il sera trop tard alors pour lancer des consultations et se pencher sur les questions morales et les limitations à imposer.

Je sais, l'alarmisme est déplaisant, alors comment faire pour que le public ne se défasse pas de ces questions en les déposant entre de mauvaises mains?

 

Pour finir sur une note optimiste, de grands pontes de l'IA conseillent par exemple de forcer la communauté à rester sur de l'open source. Afin qu'on puisse à tout moment regarder de près la finalité de ces programmes.

 

Mes sources préférées :

Youtube  - Science étonnante (grand public mais de grande qualité, thèmes variés)

Youtube - Science4all ( plus pointue, mathématiques ++) a fait une très longue série de vidéos sur l'intelligence artificielle.

Magazine science et vie

Émission radio La méthode scientifique (thèmes variés - médecine, physique, chimie, histoire des sciences...)

HOP #5 - Si l'intelligence m'était comptée (2/3)

Si vous pensez qu'on parle du futur...

On peut disserter des heures sur le concept d'intelligence, on voit quand même tous à peu près de quoi on parle et on connaît, au moins à travers les films de SF, le fameux test de Turing qui consiste à déterminer au terme d'une conversation si on parle ou non à un humain.

Ce fantasme de l'IA « entière » indiscernable d'un esprit humain a tendance à détourner notre attention : bien avant que l'humain ne soit remplacé par une IA unique et parfaite, il pourrait bien l'être par la somme de plusieurs IA spécialisées, qui, chacune dans leur domaine, le surpasseront.

Une goutte d'exemples dans l'océan de ce qu'on fait déjà accomplir à des machines aujourd'hui :

Quelques diagnostiques médicaux. Ex : prédire mieux que des dermatologues un cancer de la peau à partir de photos.

Jouer à des jeux vidéos tels que Mario Kart. Sans la règle du jeu bien sûr. On donne au réseau en données d'entrée la couleur des pixels, en sortie la possibilité d'agir sur les commandes et pour objectif de maximiser le score. Je ne sais pas si comme moi vous trouvez ça incroyable... le réseau va tout seul, à un moment, réussir à repérer des blocs de pixels et à se dire « voilà, ça, c'est un personnage ». Tout seul. A partir de rien de pré-programmé.

Vous conseiller juridiquement pour faire annuler vos amendes ( Robot DoNotPay)

Coloriser des images ( Un exemple ici mais j'ai perdu mon véritable site source) https://cheese.konbini.com/orange/application-coloriser-noir-blanc-temps-record/
Là encore, ça n'a peut-être l'air de rien mais c'est incroyable. Ça signifie que d'un tas de pixels noir ou blancs, l'IA tire assez de « concepts » pour dissocier les différents objets et donner à chacun une couleur réaliste.

Quel intérêt prendra-t-on bientôt à un jeu ou à un sport dans lequel la machine gagnera systématiquement, ou saura vous assister pour gagner à coup sûr ? Imaginez un billard contre un robot... Or, l'IA a déjà résolu (au sens ou la méthode est 100% gagnante) les échecs, mais aussi le jeu de go, plus complexe, ou encore certaines variantes de... poker ! Vous jouez ce que l'ordi vous dit et vous gagnez. L'IA joue à présent à des jeux vidéos en réseau qui demandent de la coopération avec des joueurs humains et l'anticipation de leurs actions.

Aucun domaine n'est épargné, on commence à obtenir de très beaux résultats dans des disciplines qu'on voudrait réservées à l'humain, en reconnaissance d'émotions ou dans le domaine artistique. Certaines IA écrivent, ou composent de la musique. Elles créent des pochettes de CD, ou encore des images complètement artificielles qui ressemblent à des photos mais ont été inventées par la machine. A partir de rien ? Oui et non. A partir de la même chose qu'un peintre ou un musicien. A partir de l'expérience et de l'expérimentation.

Que reste-t-il  alors du « propre de l'homme »? L'éducation ? La justice ?

Il a été prouvé que la qualité du repas pris par le juge influence son verdict... et que d'une région à l'autre au sein d'un même pays, vous ne recevez pas la même amende ou la même peine de prison pour le même délit. L'intelligence artificielle pourrait ajouter de l'objectivité à la justice.

Il n'est pas besoin d'attendre qu'un système soit sans erreur pour l'utiliser. Il suffit qu'il commette moins d'erreurs qu'un être humain. Et les erreurs... c'est un peu notre spécialité.

C'était un petit aperçu exotique de l'état actuel des choses. Mais l'IA d'aujourd'hui, pour nous, ce sont surtout les gros brasseurs de données, les moteurs de recherche, les réseaux sociaux. Tout ce qui, à notre place, trie, sélectionne, archive nos données, ce que nous ne pouvons plus faire sans la machine car le volume est trop important. Il faut compiler les publications médicales, modérer les forums, transcrire en direct des discours. Nous nous reposons sur la machine. Soyons honnêtes, nous ne pourrions plus vivre sans.

Quelle serait alors la place dans notre société d'une machine intelligente ? Ferait-elle peur ? Loin de nous inquiéter de cette évolution, nous l'admirons. La relation de l'humain à la machine est déjà complètement surréaliste. Je pense que certains préféreraient que leur chien passe sous une voiture plutôt que leur portable. Des soldats assistés par des robots développent une empathie et un attachement qui deviennent parfois contre-productifs ! On lui donne un nom, on lui décerne des médailles, on essaie de le « sauver » en cas d'attaque . On refuse alors qu'il est à moitié détruit de l'envoyer à l'usine ou à la décharge et d'en recevoir un neuf à la place.

Sauf que derrière l'outil, rappelez-vous, il y a toujours l'objectif fixé à l'outil. Celui qui lui permet d'évaluer et d'affiner son action. Si le but du GPS est de me faire passer aussi souvent que possible près des centres commerciaux, ce n'est pas la même chose que si son but est de me faire économiser de l'essence. Or la plupart du temps nous ignorons la finalité des IA qui gèrent nos ordis, nos recherches sur Google, nos affichages sur Facebook. La finalité « garder l'utilisateur connecté sur le site le plus longtemps » implique en général de lui donner du contenu qui l'intéresse. Or, l'humain aime par dessus tout ce qui va dans son sens. Sans ce système, si j'adorais torturer des chatons, j'avais très peu de chance de tomber sur des publications du genre, dans la masse du contenu disponible. Mais une IA qui me connaît mieux que ma mère va non seulement me trouver ce contenu, mais rien qu'en m'en proposant trois exemples, elle va me pousser à surestimer la présence de cette pensée dans le reste du groupe. Je vais avoir l'impression qu'il y en a plein. Qu'on est toute une communauté. Et que si les bourreaux de chatons sont si peu présents dans les médias, c'est qu'on les écarte, qu'on les persécute. Je ne plaisante qu'à peine. Il n'y a qu'à regarder les anti-vaccinations pour les enfants.

Bref. Vous savez qui sont les gros investisseurs dans l'IA, en dehors de l'informatique et des réseaux sociaux ? Les assureurs. Vous fumez ? Vous avez bien marché vos trente minutes aujourd'hui ?

Si vous refusez de laisser l'application mesurer votre hygiène de vie, c'est que vous avez quelque chose à cacher, non ? Vous n'auriez pas mangé un Mc Do le weekend dernier ? Vous risquez de coûter cher, ça mériterait une sur-prime.

 

Là encore, pour rendre compte de l'importance et de l'urgence de ces questions, je renvoie aux travaux du mathématicien Lê Nguyên Hoang, vulgarisés sur sa chaine Science4All.

A suivre

3e partie : demain... l'avenir bien sûr !

 

HOP #5 - Si l'intelligence m'était comptée (1/3)

Je n'ai pas perdu mon thème de vue, je lis, je regarde souvent des vidéos. Je pensais la discipline assez récente pour m'en faire rapidement une idée assez nette et une petite fiche bien propre. En réalité j'arrive trop tard, les bases théoriques de l'IA sont déjà si complexes et d'un niveau mathématique si élevé que je ne peux pas suivre.

Pour des notions sérieuses, je vous invite à écouter la chaîne YouTube Science4All. Vraiment ! Je milite mais personne n'a le courage de s'y mettre ! Il faut accepter de ne pas tout comprendre. Essayez.

Programme vs IA

On commence à nous vendre de l'intelligence artificielle partout y compris sur l'étiquette de produits qui semblent n'être que des algorithmes élaborés.
Si vous vous demandez quelle est la différence entre une IA et un programme prenons un exemple simple, une grille avec des cases noires et d'autres blanches.
Objectif : savoir si c'est un damier.

Un programme va regarder la couleur de la première case, puis avancer sur la ligne en se demandant si la case suivante a la même couleur. Si oui, c'est terminé, ce n'est pas un damier. De la même façon, à chaque changement de ligne on vérifie que la couleur est différente de celle du dessus. Si on arrive au bout de la grille sans rencontrer d'anomalie, c'est un damier.

En résumé, un programme, c'est une suite d'instructions qui, mises bout à bout, retournent le résultat attendu. Manipuler un robot d'usine, envoyer une fusée dans l'espace, calculer une racine carrée. On peut faire des choses très complexes sans aucune intelligence, pour peu qu'on puisse décrire petit bout par petit bout l'ensemble des étapes.

Là où les choses se compliquent, c'est quand cette description devient difficile. Une des premières applications de l'IA a été de lire les montants inscrits à la main en chiffres sur les chèques.

Reprenons notre grille de cases noires ou blanches. On cherche à savoir si les cases noires forment le chiffre « 1 », écrit à la main. Un programme peut tester si plusieurs cases se suivent à la verticale. Et vérifier qu'à partir de la case du haut, on part en diagonale vers le bas/gauche. Mais combien de cases dans chaque direction? Les chiffres ne sont pas toujours écrits de la même taille. Et si le chiffre n'est pas écrit parfaitement droit ? Si la diagonale n'est pas pile à 45° ? Et comment être sûre que ça n'est pas un 7 ?

Vous arrivez à envisager les tailles, les angles et à décrire toutes les combinaisons de cases noires pour faire un « 1 ». Parfait, vous avez un programme qui fonctionne (et bcp de patience). Ce n'est toujours pas une intelligence mais l'important, c'est que la tâche soit accomplie.

Je vous engage pour la tâche suivante. Je vous donne encore une grille. Terminé le noir et blanc. C'est une photo couleur numérique prise dans la rue, et je vous demande, toujours à partir de l'unique information de la couleur des « cases » (les pixels), de me trouver une règle qui me dira s'il y a ou non un vélo sur l'image. Facile non ? Notre œil et notre cerveau le font en continu, des dizaines de milliers de fois par jour, sans effort. Prendre des informations lumineuses, en extraire des concepts.

Pourtant... Si la tâche est simple à comprendre elle est impossible à décrire. Le vélo peut être de toutes les couleurs, de plusieurs couleurs, même. Il n'a pas toujours la même forme de guidon. Il peut y avoir une poubelle devant. Il peut être vu de face ou sous n'importe quel angle.

On ne traite plus avec une trentaine de cases, mais avec des millions de pixels. Trop de données, trop de possibilités. Si on ne peut pas décrire la résolution de la tâche, on ne peut pas la programmer.

C'est là qu'intervient l'IA.

Le « machine learning » (apprentissage machine), consiste pour une machine à répéter un très grand nombre de fois une tâche, à comparer sa réponse à une "bonne réponse" pré-enregistrée et à corriger ensuite sa méthode pour s'approcher de cette réponse.

Le Deep learning (apprentissage profond) est une technique de machine learning, qui manie de plus grandes quantités de données. Cette méthode cherche en quelque sorte elle-même son chemin vers la résolution de problèmes complexes.

Les modèles actuels copient un peu le principe du réseau de nos neurones. Les données d'entrées passent successivement par des couches de "neurones", qui sont comme de petits thermostats qui amplifient ou réduisent le signal reçu. Le transmettent à la couche suivante ou le bloquent tant qu'un certain seuil n'est pas atteint. Au premier "tour", le résultat est aléatoire, puis, à partir de l'écart entre cette réponse et la bonne, la machine fait bouger les thermostats pour voir si en recalculant, elle s'approchera ou s'éloignera du résultat. Et ainsi de suite, essai après essai.

Rien ne dit que cette technologie sera celle dont découlera l'IA du futur, qui concurrencera notre cerveau. Le biomimétisme est une piste de recherche parmi d'autres. L'avion ne bat pas des ailes.

L'explication la plus claire que j'ai trouvée pour l'instant est celle de Science Étonnante .

A suivre dans les prochains jours :

Partie 2 : Petit tour des stupéfiantes applications de l'IA aujourd'hui

Partie 3 : Et demain ?

 

Un peu d'ordre et de hasard

Tirage au sort pour novembre

 

Deux de mes choses préférées en ce monde : les listes et les dés.

J'ai plus de 175 livres à lire.
Alors hop, un tableau et chaque mois, un tirage au sort pour chaque colonne. Deux livres à lire par mois. On va vider cette liste en... 90 mois... quoi???!

Faut que j'en efface, ms lesquels ? Toute suggestion de titre à conserver ou à dégager est la bienvenue !

Extrait alphabétique de ce qui reste sur la liste :

Adams, Le guide du voyageur galactique

Bacigalupi, La fille automate

Carey, Les ferailleurs

Du Maurier, la maison sur le rivage

Everett, Desert Americain

Foster, la fonction du balai

Garat, nous nous connaissons déjà

Hawthorne, contes et récits

Ishiguro, les vestiges du jour

Jaenada, la serpe

King, le fléau

Lemaitre, Trois jours et une vie

Monfils, vacances d'un serial killer

Nohant, la part des flammes

Oates, chutes (ou autre?)

Pedrosa, trois ombres

Revah, Manhattan

Stalesen, L'écriture sur le mur

Tolstoï Guerre et Paix

Van Cauwelaerts, un aller simple

Wingfield, les ailes de l'ange

Yamazaki, ne riez pas de mon histoire d'amour

Zeniter, l'Art de perdre

Un vendredi soir sur la Terre

Je suis prête !  Je commencerai à 19h pile, par Casus Belli, roman dont je ne sais rien - pas même la provenance - et n'attend rien. J'ai prévu ma boisson favorite de l'hiver, citron chaud au miel, un peu de jambon blanc et du pain frais. J'ai bien l'intention de le finir avant la nuit. Aurais aimé être dès ce soir en charmante compagnie, mais je vais devoir patienter ! ^^

Bon challenge à tous