Le secteur de l’IA prend de plus en plus d’importance, à tous les niveaux. Les très grosses entreprises (OpenIA, Anthropic, Google et consorts) mènent le bal, manipulant les médias, les marchés et les politiques, au gré de leurs intérêts. Cela en devient inquiétant.
Le premier problème est l’aspiration du financement par les entreprises d’IA. Les chiffres de levées de fonds sont astronomiques voire délirants, et ce n’est peut être pas fini. Après avoir asséché le marché du financement privé, avec des levées de fonds énormes, ils s’apprêtent aussi à assécher les marchés boursiers. Résultat, il ne reste rien ou presque pour les autres, or d’autres secteurs ont aussi besoin d’investissements. Cet assèchement est aussi visible sur les marchés de composants dont ont besoin les entreprises d’IA, comme les micro-processeurs. Il n’y en a plus que pour eux, et tant pis pour le reste de l’industrie. Cet assèchement commence à avoir des conséquences pour les États, qui voient les taux d’intérêts monter dangereusement, tout simplement parce que les fonds partent ailleurs, et comme les investisseurs ont le choix, ils font les difficiles sur les dettes souveraines.
Le deuxième problème est l’emprise sur le récit médiatique. Depuis plusieurs années, on entend beaucoup de discours sur l’IA, dont une grande partie sont émis soit directement par les entreprises d’IA, soit par des consultants et organismes qui ont des intérêts dans le secteur. Les « vrais » experts, qui ne sont pas en conflit d’intérêts, voient leur parole noyée dans le flot, avec des médias qui ne font pas leur travail de décryptage. C’est pour cela que l’encyclique du pape était salutaire. Outre son contenu, intellectuellement intéressant, ce texte a permis de poser le débat autrement que par les biais recherchés par les entreprises d’IA, avec des préoccupations commerciales et financières. Mais il a fallu un poids lourd médiatique comme le pape, pour que cette parole « autre » soit audible. Par la suite, le troupeau de moutons a repris ses bonnes vieilles habitudes, de reprise sans recul des moindres annonces des patrons ou employés de boites d’IA. La dernière en date remonte au week-end dernier, où un ex-employé d’Anthropic a cherché à suscité la peur de manière assez grossière, avec des reprises qui sentent à plein nez l’opération de communication.
Le troisième problème est la mainmise des patrons de ces entreprises d’IA, sur la régulation politique et règlementaire de leur activité. Du fait de leur puissance financière et leur contrôle du débat médiatique, ils sont en capacité d’imposer leur loi aux politiques. Il ne faut pas réguler quand cela les arrange, puis plus tard, il faut le faire, parce que c’est leur intérêt. Je lis la dernière « panique » autour des dangers de l’IA, et de la nécessité de ralentir son développement, comme un souhait des grandes entreprises de fermer la porte derrière eux. Comme pour l’arme nucléaire, une fois que les grandes puissances l’on eu, elles ont lancé un vaste traité de désarmement, afin d’empêcher d’autres de l’avoir. On apprend à présent que ces patrons de grosses boites seraient favorables à une gouvernance mondiale de l’IA, mais sur la base d’une forme d’auto-régulation, sous leur contrôle. Aux États-Unis, ils ont fait allégeance à Trump, qui n’ira jamais contre leurs intérêts. En France, c’est Mistral qui a complètement marabouté Macron, qui est devenu leur lobbyiste en chef. Les mécanismes démocratiques ordinaires de décision publique sont déconnectés dès qu’il s’agit d’IA.
Cela ouvre la porte à des dérives (elles sont déjà entrées d’ailleurs) qui heurtent notre culture démocratique. Autant les dépenses fastueuses des « ultra-riches » me laissent totalement indifférent, autant leur pouvoir politique me dérange quand il atteint un tel niveau. Sur l’IA, c’est eux qui dictent tout, en manipulant le débat public et en imposant leurs solutions à des décideurs vassalisés. Et je pense qu’on n’est pas au courant de tous les détails. Cela pourrait provoquer un backlash monstrueux, si jamais la bulle financière de l’IA éclate, et que tous se rendent compte que les promesses mirifiques (comme l’IA générale) n’étaient que des illusions qui ne se réaliseront pas.
4 réponses sur « L’IA serait-il le cancer de l’économie ? »
La situation actuelle rappelle effectivement – probablement en pire – celle des « barons voleurs » de l' »âge doré » américain. A l’époque, la politique avait su reprendre ses droits; aujourd’hui, ça parait moins certain.
Avez vous des indicateurs factuels montrant qu’il y a une pénurie d’investissements ces dernières années ?
Parceque moi j’y vois l’inverse : cela fait longtemps qu’il y a beaucoup plus d’épargne que de possibilités d’investissement ce qui fait que des sommes énormes sont dirigées vers, un jour des emprunts d’états très peu rémunérés, l’autre jour des entreprises IA au rendement futur très incertain.
Mais jamais on n’entend de difficultés de financement du reste de l’économie.
Je dois m’opposer à l’idée selon laquelle les dirigeants des entreprises à la pointe de l’IA, lorsqu’ils parlent des risques associés et du besoin de régulation, servent avant tout leur intérêt financier. Celle-ci me semble une erreur sérieuse, quelles que soient les autres critiques qu’on puisse adresser à ces dirigeants.
Vous direz peut-être que cela révèle un manque de cynisme, ou une naïveté de ma part.
Mais considérez : que l’idée que la production industrielle d’intelligence pose des risques graves, et doive être encadrée, n’émane pas de ces labos. Elle est théorisée sérieusement depuis les années 2000, par des experts qui peinent à se faire entendre. Nick Bostrom publiait Superintelligence en 2014, et ne vendait pas de processeurs. Vous avez salué l’encyclique parce qu’elle posait le débat hors des préoccupations commerciales : il en va de même de ces experts-là. Les dirigeants ne font que reprendre ces idées, qu’une partie du public se trouve entendre, par leur bouche, pour la première fois.
Considérez : que la dernière formule reprise par Dario Amodei, « Pacing the frontier », consiste à réguler en premier lieu ces mêmes labos les plus avancés, donnant plutôt à leurs concurrents un avantage pour les rattraper. Une idée qui était avancée il y a quelques mois dans https://ai-2040.com/ comme moyen d’éviter justement une trop grande concentration des pouvoirs. À rebours, donc, des traités anti-prolifération nucléaire.
Considérez : les divers individus qui prennent ces risques au sérieux et pensent, ou ont pensé, utile d’avoir un rôle dans ces entreprises à la pointe de cette technologie, pour en influencer le devenir. Est-il surprenant que certains, Jacob Coxon ce mois-ci, comme d’autres avant lui, reviennent sur leur décision, et en partent désabusés ?
Considérez : la curiosité d’opérations marketing vantant la dangerosité majeure d’un produit, dans un monde où de plus en plus de gens s’en méfient. D’autres dirigeants, tels que Jensen Huang (Nvidia) ou Mark Zuckerberg, avec des intérêts commerciaux proches, ne s’embarrassent pas de tels doutes et précautions.
Considérez enfin que les récentes annonces d’auto-régulation des labos sont faites en l’absence d’une régulation d’ordre gouvernementale ou internationale, demandée depuis plusieurs années par différentes organisations. Sur ses modalités (qui contrôle l’organisme de normalisation, quel périmètre il se donne) votre méfiance me paraît entièrement fondée.
Le parallèle avec l’aspiration de financement par les géants de l’IA est frappant — on voit bien comment cela assèche d’autres secteurs en quête de capitaux. Cela mériterait d’être creusé avec des chiffres précis sur le détournement des flux.