Il y a parfois des rencontres qui ouvrent des perspectives, remettent de l’ordre dans un chaos informationnel. J’ai récemment écouté Daniel Andler parler de son dernier livre, « Intelligence artificielle, intelligence humaine, la double énigme« . Je n’ai pas encore lu le livre (il a l’air assez costaud) mais le propos de l’auteur était limpide et fait grandement progresser mon appréhension de l’intelligence artificielle.
Il commence par exposer que le concept, et la promesse « politique » derrière, n’a rien de nouveau. Dans les années 60-70, certains en rêvaient, avant que les échecs techniques ne mettent fin aux financements. Mais l’utopie d’arriver à égaler, voire dépasser l’intelligence humaine, est toujours là, prête à resurgir, car elle questionne notre humanité. Nous ne sommes pas dans la pure technique, mais davantage dans le questionnement philosophique et éthique, voire anthropologique.
Il pose ensuite quelques concepts et constats assez simples. Ce que l’on appelle « Intelligence artificielle » peut être de deux formes. C’est soit une reproduction exacte, par des voies technologiques, d’un cerveau humain, tel qu’il fonctionne, soit un développement technologique, qui permet d’obtenir un même résultat, mais par des processus radicalement différents. Il fait une comparaison éclairante, avec les hormones et enzymes. On en trouve dans la nature, que l’on peut synthétiser, et reproduire, mais dans beaucoup de cas, on ne fait que produire des substances qui se contentent d’avoir les mêmes effets.
Ce que nous appelons actuellement « intelligence artificielle » n’est en rien une reproduction, à l’identique, d’un cerveau humain. C’est juste un produit de substitution, qui permet d’obtenir le même résultat qu’un cerveau humain, sur des secteurs très particuliers. Il reconnait volontiers que pour la résolution de problèmes mathématiques ou les synthèses documentaires, les résultats sont épatants, et dépassent les capacités du cerveau humain.
Mais ces « exploits » sont limités et ne sauraient prétendre occuper le même espace que l’intelligence humaine. Il note par exemple que l’intelligence artificielle est bien incapable de faire face à une situation inédite, sans entrainement, là où l’homme y arrive plutôt bien, grâce à d’autres ressources que l’intelligence pure. Une intelligence artificielle n’aura jamais d’intuition ni d’émotions, qui sont pourtant des composantes essentielles de l’intelligence humaine. L’intelligence humaine a une conscience de lui-même et une capacité de réflexivité que n’aura jamais une machine. On est devant deux phénomènes, à qui on donne le même nom « intelligence », mais qui n’ont finalement pas grand à voir.
Il résume très bien la limite, en indiquant qu’une intelligence artificielle est très forte pour résoudre un problème dont les termes sont posés et clairs, mais qu’elle est incapable de poser les termes d’un problème. Tout simplement parce que la définition d’une question, les termes d’un problème, sont avant tout une construction subjective et sociale. La bonne photographie n’est pas dans la nature ou le modèle, mais dans l’œil du photographe.
Il en conclut que ce que l’on appelle actuellement « Intelligence artificielle » ne rattrapera jamais l’intelligence humaine, et ne prendra pas sa place. C’est juste un outil, superpuissant, qui peut grandement aider sur certaines tâches, à condition d’être bien paramétré, et utilisé à bon escient. C’est juste un effet multiplicateur d’une action pensée et voulue par les hommes. C’est bien pour cela que les questions éthiques et philosophiques ne peuvent pas, et de doivent pas être écartées, car elles sont fondamentales, vu la puissance de l’outil.
Cette vision en surplomb m’a offert un grand bol d’air intellectuel, et surtout, relativise beaucoup de discours « bullshit » sur l’IA, que l’on entend un peu partout. Non, l’IA n’est pas un clone de l’humain, et vouloir le faire croire, en lui donnant par exemple la voix de Scarlett Johansson, ne fait que mettre du trouble, et brouille la compréhension de la réalité de l’IA. Il faut absolument en finir avec le délire quasi-religieux autour de l’IA. ChatGPT n’est qu’un supercalcultateur qui parle !
Cela m’a aussi fait prendre conscience de l’immense irresponsabilité de certains chefs d’entreprise et start-uppers. En créant une bulle médiatique et un sentiment d’urgence à acheter leurs produits, ils ont précipité la mise sur le marché d’outils qui ne sont pas aboutis. Cela ne pourra que provoquer des dégâts, comme si on vendait massivement au public, un prototype de voiture à peine sorti du labo, et qui n’a même pas encore passé le moindre test de résistance au choc.
J’ai acquis la conviction que l’IA peut être un formidable outil, mais qu’il est surtout urgent d’attendre que le produit soit fiable avant de l’utiliser dans la vie courante. Exactement le contraire de ce que l’on est en train de faire, sous le coup d’un emballement hallucinatoire, dont on se demandera, plus tard, comment on a fait pour y succomber.