Le gouvernement américain vient de répliquer au pape, en ordonnant à Anthropic de ne plus ouvrir ses modèles les plus performants à d’autres qu’aux américains. Et le patron d’Anthropic, qui était à la tribune aux cotés du pape, pour la présentation de l’encyclique Magnifica humanitas, s’est immédiatement exécuté.
La force brutale et l’impérialisme se sont rappelés au bon souvenir du monde. Et au passage, cela a permis de voir que les bons sentiments et l’éthique plient souvent devant l’expression de la force et que l’ordre des priorités reste inchangé pour les patrons de grosses boites.
Cette coupure de service, le « kill switch » n’est pas tellement une surprise, tout le monde savait qu’avec Trump, cela allait finir par arriver. Et là, ce n’est pas encore trop grave, cela aurait été bien pire si cela avait été un service essentiel qui avait été brutalement arrêté. Imaginez une « panne » d’AWS qui dure plusieurs jours. C’est aussi le signe que notre monde technologique est certes très performant, mais aussi très fragile, et donc vulnérable.
En ce moment, tout le monde nous parle de souveraineté, de la nécessité de ne pas dépendre d’une autre puissance pour des services essentiels. Mais le véritable enjeu, c’est la dépendance de notre société et de notre économie à la technologie. Il faut se préparer à des défaillances (quelle qu’en soit la cause) et prévoir des scénarios alternatifs pour survivre. Nous sommes entrés dans un monde qui sera plus dur et plus sauvage, la page de la coopération internationale, du multilatéralisme et de l’intelligence coopérative est en train de se tourner. Trump au pouvoir (et sa manière de l’exercer) est une préfiguration de ce qui pourrait nous arriver à l’échelle européenne. Le prochain premier britannique est probablement Nigel Farage, la France n’est pas à l’abri du RN. En Italie, ils y sont déjà mais Meloni se sachant isolée, à la tête d’un pays fragile, elle reste prudente. Nul doute qu’elle se lâchera davantage si d’autres pays européens basculent. La dérive actuelle des institutions européennes n’est pas très rassurante.
Cela provoquera une régression mondiale, économique et culturelle. Toutes les activités qui sont plus performantes avec une coopération mondiale fluide, risquent de morfler, à commencer par la Recherche et la Finance. L’IA sera donc touchée à plusieurs titres. Même si les États-Unis sont devant en termes de développement, toutes les ressources ne sont pas aux États-Unis, que ce soit les terres rares, les chercheurs ou les datacenters. Sur le plan économique, les États-Unis n’ont pas intérêt à un fractionnement du monde, car ils importent beaucoup de biens et aspirent une partie des ressources financières avec leur déficit budgétaire. Réduits à leurs propres ressources, ils seront très affaiblis et ne pourront plus investir autant. Malgré cela, Trump persiste à se tirer des balles dans le pied, et sape consciencieusement les bases de la puissance des États-Unis.
Finalement, nos débats actuels pourraient apparaitre comme futiles et purement académiques, tant le développement de l’IA repose sur des fragilités, et parce que d’autres choses sont bien plus importantes. La bulle capitalistique autour de l’IA peut s’écrouler, les chiffres autour du storytelling d’Elon Musk sont délirants et n’ont plus de sens. L’insécurité et les guerres peuvent mettre à mal l’infrastructure physique dont l’IA a besoin, comme les datacenters ou les câbles sous-marins. Il suffit d’une attaque de Taïwan par la Chine, pour provoquer un grave défaut d’approvisionnement en semi-conducteurs, et que plusieurs industries (aéronautique, automobile…) soient à l’arrêt au niveau mondial. La simple fermeture du détroit d’Ormuz a eu des conséquences énormes, et ce n’est peut être que le début.
6 réponses sur « La réplique à l’encyclique »
Je me demande jusqu’à quel point l’adoption de l’IA ne pourrait pas conduire à une malédiction du vainqueur. Il y a des expériences historiques dans lesquelles les « early adopters » ont été coincés dans des technologies sous optimales (cf. Be-bop, premières liseuses françaises, premières pompes à chaleur). Peut être que cette fois ci, c’est différent et qu’il faut arriver premier dans la course.
Effectivement mais je le verrais plus sous l’angle financier. Les chinois font presque la même chose que les us en matière d’IA mais avec 10 x moins de ressources. Et ils sont en opensource. Tout ce capital engagé pour très peu de profit ! Beau gaspillage et il va bien falloir passer les pertes. Le danger est à ce niveau et quelque part ne nous concerne pas.
Le principal problème de l’IA, c’est qu’actuellement, il existe une grosse bulle spéculative autour de cette activité qui devrait finir par exploser, et on commence à voir certains signes. Cette année, on a vu plusieurs entreprises revenir en arrière par rapport à l’IA. Certaines ont même fait remarqué que le temps passé à débugger un code source écrit par IA pouvait être largement supérieur au temps de développement humain. En conséquence, elles ont baissé leurs investissement dans ce domaine, et certaines ont même réembauché des développeurs qu’elles avaient virés.
Après, la bonne nouvelle par rapport à cette bulle, c’est que les banques ont été plus prudentes par rapport à cette nouvelle technologie et n’ont pas directement investi massivement dans ce domaine. La crise devrait donc se limiter surtout aux entreprises informatiques, un peu comme l’explosion de la bulle internet au début des années 2000. Par contre, certaines entreprises comme Microsoft ayant fortement privilégié ce secteur d’activité pourraient avoir très mal aux fesses, et on pourrait voir des géants qu’on pensait invincibles disparaître.
Oui, à mon sens, c’est plus de savoir quand la bulle va exploser que si elle va exploser.
Les banques ont prêté de l’argent à des sociétés dont le gagne pain est de prêter de l’argent à des entreprises qui ne peuvent plus avoir accès à l’argent des banques. Et ces entreprises sont en train de faire défaut…
Il y a un vrai sujet de coût.
L’IA demande des ressources colossales et le vrai prix n’est pas payé par les utilisateurs.
Beaucoup d’entreprises ont déployé massivement l’IA parce que ce n’était pas cher et qu’elles pensaient faire d’énormes gains de productivité (et virer des gens).
Les entreprises d’IA ont voulu inonder le marché et se rendre indispensables, avant de présenter la facture.
Sauf que la bulle d’argent magique n’est pas infinie et si elles doivent devenir rentables avant d’avoir pu ferrer le poisson, les entreprises utilisatrices vont revenir en arrière. Et tout va s’effondrer.
Le quidam lambda qui demande des trucs à ChatGPT n’est pas le marché, ce sont les entreprises.
Et la facturation au token, c’est un trop gros risque financier.
Tout à fait d’accord. J’ai le sentiment qu’un hiver technologique est pour bientôt, paradoxalement à ce que les new tech nous montre. Autre élément sous-estimé : la mariage de l’IA et du piratage informatique. Cette union va faire de très gros dégâts. Un exemple : aujourd’hui, s’inscrire sur Linked In, s’est s’afficher une cible sur la tête, un cadeau pour les pirates. Avec l’IA et l’automatisation que ça apporte, les réseaux sociaux deviennent le buffet à volonté pour organiser des attaques et des manipulations diaboliques. Je préssens que les sociétés les plus sensibles interdirons les réseaux à leurs employés. Beaucoup de canaux, aujourd’hui publiques, vont se refermer.