Catégories
Non classé

Faut-il avoir peur de ChatGPT ?

L’intelligence artificielle vient de franchir un nouveau palier, non pas tellement technique (encore que…) mais psychologique, avec ChatGPT. Ce programme est une IA conversationnelle, qui répond aux questions et est capable d’écrire des textes, avec des résultats assez bluffants. Dernier « exploit » en date, l’IA a obtenu, avec un très classement, un MBA du Wharton College.

L’utilisation de l’IA pour un certain nombre de tâches « mécaniques » n’est pas nouveau. Dans le journalisme, cela fait quelques temps que des articles comme les résultats sportifs ou les cours de bourse sont écrits par une IA, avec moins d’erreurs que lorsque c’est traité par un humain. En médecine, le métier de radiologue est appelé à disparaitre (ou à changer radicalement à court terme) car une IA est bien meilleure qu’un regard humain pour décrypter des images de scanners ou un fond d’oeil.

Le vrai choc, c’est que l’IA soit désormais à la portée du grand public, et que celui-ci prend conscience que cela va avoir des effets pour de nombreux usages, et donc sur de nombreuses professions. On est probablement au début d’une accélération de l’utilisation « courante » de l’intelligence artificielle.

Très rapidement, les recherches documentaires vont passer par ce canal. Les bibliothécaires et documentalistes vont devoir changer radicalement leur pratique professionnelle. Pareil pour les notaires, où les actes seront rédigés en mode semi-automatique, car il suffira de brancher l’IA sur un certain nombre de bases de données (celle de l’Etat-civil ou de la publicité foncière, par exemple). Et je ne parle même pas du métier d’enseignant, quand les élèves ont accès à un outil qui réussit mieux qu’eux les exercices demandés à la maison. Les exemples sont légion.

Il faudra quelques mois/années pour que les applications et modifications techniques permettent une fluidité d’utilisation, et cela viendra peut-être plus vite qu’on ne pense. Les modèles économiques sont là et la technologie vient de montrer qu’elle est globalement à la hauteur pour un certain nombre de tâches.

Est-ce un bien ou un mal ? C’est toujours la question qui se pose, quand on est saisi par le vertige en prenant conscience qu’un changement technologique aussi radical est désormais opérationnel et efficace à grand échelle.

La question est à la fois importante, mais également assez théorique. C’est désormais une règle connue : « tout ce qui est technologiquement possible sera mis en œuvre » et il faut des résistances et des refus éthiques et sociétaux très forts pour bloquer des usages. L’accueil fait à ChatGPT montre qu’il n’y a pas de refus, mais plutôt un enthousiasme, qui rendra toute diabolisation totalement inaudible.

Plutôt que de rester sur ce débat philosophique et déjà tranché, mieux vaut se pencher sur des sujets plus concrets, mais encore plus cruciaux, à savoir le contrôle technologique du fonctionnement (les biais, les sources d’information, les failles de sécurité) et la régulation des usages, profession par profession (la question est immédiate et brulante pour les enseignants).

Le premier sujet est de comprendre comment fonctionnent ces IA (il y en aura plusieurs), ce qu’elles peuvent bien faire, et les tâches qu’il est délicat de leur confier. Ces logiciels sont de fabrication humaine, avec des biais, en fonction de leur programmation initiale, des données qu’on leur a fournit pour s’entrainer. Leur utilisation dans une chaîne de valeur implique une confiance qui reste à construire. Se pose aussi le bon équilibre homme/machine : qu’est-ce qui doit rester dans le champ d’une décision humaine ? Qu’est-ce qui peut être délégué à la machine ? Cela pose des questions passionnantes, mais avec des enjeux sociaux cruciaux, car derrière, ce sont des fonctions et des professions qui vont être bouleversées, avec un risque très réel « d’uberisation » des plus précaires et des moins formés, dans les tâches où l’IA sera plus performantes que l’humain.

Viendra ensuite le moment où il faudra « réguler » et où le législateur va se mêler de poser des interdictions ou des contrôles. C’est là que ça risque de devenir « sportif », car les changements apportés par l’utilisation massive des IA va faire des gagnants et des perdants. La régulation politique risque d’être, non pas une réponse aux enjeux technologiques (comme posés ci-dessus), mais une réponse à la détresse de perdants qui pèsent électoralement, et vont chercher une régulation qui soit avant tout un protectionnisme, pour conserver leurs emplois, ou éviter d’avoir à se former plus vite qu’ils ne le peuvent ou ne le souhaitent.

Connaissant le « législateur » français, c’est de cette deuxième étape que j’ai un peu peur, davantage que de ChatGPT…

8 réponses sur « Faut-il avoir peur de ChatGPT ? »

Peut être que chatpgt fera mieux que certains cabinets pour la rédaction d’amendements….

Au delà de la pointe d’ironie. La question de la régulation doit passer par une analyse de la répartition des gains, et de la valeur… Que fera-t-on du temps libéré de tâche automatisées, et qui prendra les bénéfices de ces tâches. Pour reprendre votre exemple, est-ce que l’on va laisser à Microsoft la pluvalue générée par l’automatisation de la rédaction d’actes notariés ? Et qui sera responsable en cas de « bug », Microsoft ou l’office ?

Mais en toute logique, on devrait comme d’hab, garder nos chasses gardées et les privilèges des différents corps de la société française 🙂

Enfin une autre angle, je ne suis pas sûr que seuls les plus précaires et les moins formés soient en danger d’uberisation. Pour travailler avec un collectif de développeurs (Bac +5), chat gpt est déjà capable de pondre des bouts de codes honorables avec des cas complexes…. La vraie question restera comment organiser le travail avec chat gpt pour garder des programmes maintenables dans le temps… Chose qu’une IA n’est pas encore capable de faire car il faut faire des choix qui relèvent du non calculable.

Bonjour,
pour ce qui est de la régulation, c’est déjà en cours, et même très avancé, au niveau européen, dans le projet de directive « pour une IA de confiance ». Le texte préliminaire précise déjà tout un tas d’applications de l’IA qui seront « interdites ».

Par rapport au législateur français, le plus gros problème ne vient pas de sa volonté de régulation, mais de son incapacité à comprendre qu’une IA n’a aucune valeur, mais qu’en revanche les données utilisés pour l’entrainer en ont. Ainsi, la France possède une base de données qui fait saliver les industriels du monde entier. C’est celle des « actes de soins ». Du fait de la centralisation de notre système de santé, elle contient une mine d’informations qui vaut largement une bonne centaine de milliards d’euros. Tant qu’elle est hébergée par une société européenne, sur des serveurs européens, elle reste globalement protégé. Mais il avait été question de la faire héberger par Microsoft. Or du fait de la législation américaine cela aurait « open bar gratuit » pour les sociétés américaines pour exploiter ces informations.

Si chatGPT est impressionant, elle n’est pas encore au niveau. Elle permet effectivement l’équivalent de copier/coller wikipedia pour répondre à un question d’un prof, mais elle fait suffisement d’erreur pour ne pas etre fiable. Et sur les autres sujets, elle n’est pas assez fiable – l’exemple des notaires est frappant : elle est moins efficace que les ‘trames’ déjà fourni par les logiciels de notaire actuels.

On a l’impression que le dernier pas est le plus facile, que le plus gros est fait. N’étant pas expert du domaine, c’est possible, mais dans le passé, le ‘dernier pas’ des IA a toujours été infiniment plus compliqué (et long !) qu’on ne le pensait – avec, en revanche, des débloquages soudain assez imprévu.

Je serais donc prudent sur la transformation ‘imminente’ de la société. Les ‘il suffit de/il ne manque plus qu’à’ sont souvent bien plus complexes que prévues, dans ce domaine.

Le pas qui a été franchi est avant tout psychologique. Le grand public a pris conscience du potentiel de l’IA, avec un rendu qui reste perfectible, mais qui n’a rien à voir, en qualité, avec ce qui était possible avant. Sur la rapidité des évolutions, je ne suis pas expert non plus, mais parfois, cela va bien plus vite qu’on ne pourrait le penser. Pour rappel, le ChatGPT sur lequel tout le monde s’extasie, c’est une version beta, pas un produit abouti. En revanche, le « grand remplacement » des humains par des IA, c’est pas pour tout de suite. On a juste, pour l’instant, une meilleure automatisation de tâches assez simples, qui nécessite juste de brasser beaucoup d’informations, bien plus que ce qu’est capable un cerveau humain.

bonjour,
Intéressant comme d’habitude.

Mais je note une utilisation à mon avis inapproprié de l’uberisation : « risque très réel « d’uberisation » des plus précaires ».
Ils seront déclassés, inutiles… mais pas « utilisés par les plateformes, sans marge de manœuvre (pour être payés au rabais) et en prenant toutes les responsabilités… » comme le sens habituellement utilisé.

Je dirais même que Chat GPT ne remplace pas les petits boulots manuels (ce qu’on considère en général pour les précaires et peu formés) mais risque plutôt de remplacer des acteurs travaillant actuellement avec leur matière grise et parfois dotés d’une solide formation : vous nommez les documentalistes, les enseignants ou les notaires, d’ailleurs. J’ajouterai aussi les rédacteurs de courriers ou d’une grande partie des articles d’information (hors éditos ou polémique) et même certains discours (je ne citerai pas de candidats…)

Benoît

Il y aura bien uberisation, les botsIA serviront de moyen de pression pour faire baisser les salaires, augmenter les cadences, car il y aura toujours des humains employés dans ces professions, les bots n’étant que des auxiliaires. Je crois peu au « grand remplacement » à court terme, du fait des imperfections de l’IA, pas encore au point pour tout faire sans contrôle humain. Et effectivement, ça va précariser les moins bien qualifiés au sein de ces professions intellectuelles, qui se pensaient protégées. D’où des problèmes politiques, quand ils vont s’organiser et exprimer leur colère auprès des élus.

merci. Je comprends bien votre propos.
Je souligne simplement que je trouve que ça a peu à voir avec Uber (en dehors de faire baisser les salaires encore que ça risque plus de faire disparaitre les emplois, ce que n’a pas – encore – fait Uber puisqu’il en a créé plein, que de les précariser). Je trouve dommage d’utiliser Uber pour ce cas : cela en affaiblit le sens. Mais c’est ma version.
Et je ne veux pas polluer les commentaires surtout que vous avez repris une cadence de publication intense ;o)

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *