Écoutez la version audio de cet article (générée par l'IA).
L'histoire de l'infrastructure IA qui a dominé les marchés au cours des deux dernières années avait une fin supposée : éventuellement, chaque entreprise migrera ses charges de travail IA vers le cloud des hyperscalers. AWS, Azure, Google Cloud, Oracle (ORCL) — choisissez votre plateforme, payez par jeton, et laissez quelqu'un d'autre s'occuper du matériel.
JPMorgan Chase (JPM) vient d'ajouter un astérisque important.
Cette semaine, SambaNova Systems — une entreprise de puces IA qu'Intel (INTC) aurait essayé d'acquérir pour environ 1,6 milliard de dollars il y a moins d'un an — a levé 1 milliard de dollars avec une valorisation de 11 milliards de dollars.
Le client qui a rendu cette annonce si intéressante était JPMorgan Chase, qui a sélectionné SambaNova comme partenaire d'infrastructure d'inférence, déployant ses systèmes pour alimenter une inférence IA sécurisée et sur site au sein de la banque.
La rapidité de la réévaluation de la startup — et le fait que ce client ait signé en tant que client principal — n'est pas un hasard.
JPMorgan vient de mettre un bémol à la thèse du tout-cloud pour l'IA
La thèse dominante sur l'infrastructure IA suppose que la demande d'inférence — la charge de travail créée chaque fois qu'un modèle IA répond à une requête, écrit du code ou accomplit une tâche — transite principalement par les plateformes cloud des hyperscalers.
Cela a été vrai jusqu'à présent, et cela restera vrai pour la majeure partie du marché.
Mais la décision de JPMorgan met en lumière un segment sous-estimé par le récit favorable au cloud : les entreprises et institutions qui ne peuvent tout simplement pas envoyer leurs données les plus sensibles à un serveur tiers.
Les banques détiennent des données clients et des stratégies de trading propriétaires qu'elles ne peuvent pas exposer. Les hôpitaux gèrent des dossiers patients que la loi fédérale les oblige à protéger. Les entrepreneurs de la défense et les agences gouvernementales font souvent face à des restrictions absolues concernant l'exécution de charges de travail sensibles sur des infrastructures cloud commerciales.
Pour ces organisations, l'économie du cloud est séduisante sur le papier. Mais cette architecture comporte un risque d'exposition des données qu'elles ne peuvent accepter.
Le PDG de SambaNova a présenté la victoire chez JPMorgan comme un signal adressé à toute l'industrie bancaire : les banques veulent contrôler leur inférence la plus sensible, et elles commencent à se préparer en conséquence. Et les fournisseurs qui leur offrent ce contrôle vont vivre quelques années très intéressantes.
Pourquoi l'inférence IA en entreprise diffère des chatbots
Nous avons longuement écrit sur le supercycle de l'inférence — le passage d'une IA centrée sur l'entraînement à une IA fonctionnant comme une charge de travail persistante et toujours active au sein des opérations d'entreprise. L'IA agentique accélère ce changement, les flux de travail basés sur des agents consommant plus de puissance de calcul que les requêtes ponctuelles.
Ce que montre la levée de fonds de SambaNova, c'est que le supercycle de l'inférence possède une niche que le marché n'a pas pleinement prise en compte.
Une part significative de la demande d'inférence en entreprise ne passera pas par les API des hyperscalers. Elle s'exécutera sur site, derrière le pare-feu, sur du matériel détenu et exploité par l'entreprise elle-même.
Liang a noté que les entreprises et les gouvernements ne font que commencer leur parcours IA, la plupart de la croissance étant jusqu'à présent concentrée chez les créateurs de modèles technologiques et les laboratoires de pointe — laissant ainsi d'importants revenus potentiels inexploités. Dans les industries réglementées en particulier, ces revenus reviennent à ceux qui vendent le matériel, le réseau, le stockage et la pile logicielle permettant à l'inférence sur site de fonctionner.
Mais la prochaine phase de l'investissement IA comporte plus de variables que la plupart des investisseurs ne le réalisent. Si vous voulez savoir où, selon moi, l'argent le plus avisé de l'IA se dirige ensuite — mes idées les plus convaincantes, en direct et en personne — je serai à la Conférence Stansberry & Alliance Meeting à Las Vegas plus tard cette année. Intéressé ? Réservez votre place à tarif réduit avant qu'elles ne soient toutes vendues.
L'investissement dans l'infrastructure IA se divise entre Cloud et On-Prem
La thèse des « pics et pelles » pour l'infrastructure IA reste intacte. Le marché mondial de l'inférence IA est évalué à environ 120 milliards de dollars en 2026 et devrait atteindre plus de 300 milliards de dollars d'ici 2034. Cette demande doit bien se loger quelque part.
Or, ce « quelque part » semble désormais plus bifurqué.
Le cloud des hyperscalers en capture la majorité. Au sein des industries réglementées, l'inférence sur site se constitue comme un marché distinct. Les banques, les systèmes hospitaliers et les agences gouvernementales peuvent construire un argumentaire économique convaincant pour posséder leur propre matériel. Le coût par jeton favorise le sur site à condition d'une utilisation suffisante. Et lorsque les contraintes réglementaires sont réelles, l'économie importe peu. Le cloud n'est tout simplement pas une option viable pour leurs charges de travail les plus sensibles.
Les acteurs bien positionnés pour cela sont les mêmes dont nous parlons régulièrement. L'AI Factory de Dell (DELL) compte déjà plus de 4 000 clients entreprises. Everpure (P) — anciennement Pure Storage — a reconstruit sa plateforme spécifiquement pour rendre les données d'entreprise accessibles aux charges de travail IA sans la surcharge de la réplication.
La décision de JPMorgan vient de faciliter grandement leur argumentaire auprès de la prochaine banque.
En résumé
Le passage de SambaNova d'une cible d'acquisition rumorée à 1,6 milliard de dollars à une levée de fonds valorisée à 11 milliards de dollars en moins d'un an reflète une réalité : le capital privé a décidé que l'inférence IA d'entreprise sécurisée et sur site est un marché durable, et le prix d'entrée a changé en conséquence.
Les laboratoires de pointe et les hyperscalers ont conduit la première phase de cet investissement. La vague de déploiement en entreprise et souverain constitue la deuxième phase — et au sein des industries réglementées, elle obéit à des règles différentes. Les banques, les systèmes hospitaliers et les agences gouvernementales ne bougent pas vite. Mais quand ils le font, ils le font à grande échelle, sous des contrats à long terme, avec des budgets d'infrastructure qui ont tendance à être stables.
D'autres banques observent probablement le mouvement de JPMorgan. Certains secteurs de la santé et du gouvernement font de même. Pour les organisations sensibles aux données, cela pourrait devenir le nouveau modèle.
Le supercycle de l'inférence est réel, et le cloud des hyperscalers en capturera la majeure partie. Mais au sein des secteurs sensibles, un marché structurellement distinct se forme pour une infrastructure d'inférence sécurisée et sur site. Pour les entreprises les mieux placées pour le servir, c'est un marché durable.
Et les dépenses durables en infrastructure sont exactement ce autour de quoi le capital privé le plus sophistiqué se positionne… non pas au niveau de la couche application ou de la couche modèle, mais en dessous de tout cela.
Les systèmes énergétiques, la capacité nucléaire et la fabrication physique qui rendent possible le calcul IA persistant — qu'il s'exécute dans un centre de données d'hyperscaler ou derrière le pare-feu de JPMorgan — sont sécurisés via des fonds privés et des accords bilatéraux que la plupart des investisseurs ne voient jamais.
Et bien que la plupart de ces positions ne soient pas accessibles publiquement, il existe sept actions cotées en bourse qui reflètent presque exactement ces mêmes paris — l'épine dorsale d'actifs tangibles d'une construction d'infrastructure qui ne ralentit pas, peu importe où les entreprises décident d'exécuter leurs charges de travail.
Voici comment entrer par la « porte dérobée ».
