← Accueil actu | Salle du marché

Un débit d’inférence multiplié par 14 en lisant moins, pas plus vite : Galahad de Corbenic transforme les SSD en mémoire pour l’IA

2026-10-18 · Source:TechRadar

Un débit d’inférence multiplié par 14 en lisant moins, pas plus vite : Galahad de Corbenic transforme les SSD en mémoire pour l’IA

La startup belge promet une réutilisation exacte et chiffrée du cache KV pour vLLM, SGLang et Llama.cpp — mais LMCache, Nvidia et Phison ont déjà pris place à la table.

Quatorze fois plus vite : c’est le chiffre que Corbenic met en avant. Le logiciel Galahad de la startup belge transforme le SSD d’un serveur en mémoire pour l’IA au service des grands modèles de langage, et l’entreprise se montre limpide sur l’origine réelle de son accélération d’un facteur 14 : il ne s’agit pas de lire les données plus vite, mais d’en lire moins.

La maxime de Corbenic résume le mécanisme — le GPU ne lit jamais deux fois le même texte. Galahad est bâti autour de la réutilisation du cache KV : capturer l’état intermédiaire qu’un modèle produit en digérant un prompt, le persister sur SSD, puis le recharger plutôt que de le recalculer. Lorsque les entrées se répètent ou se chevauchent, l’accélérateur saute entièrement le travail redondant. Cette nuance compte pour quiconque évalue le caching au niveau SSD, car la promesse de performance repose sur du calcul évité, et non sur une bande passante de stockage qui battrait la DRAM.

Le produit promet une réutilisation exacte et chiffrée du cache KV sur trois des piles d’inférence les plus déployées : vLLM, SGLang et Llama.cpp. L’exactitude renvoie à la fidélité — l’état en cache est réutilisé verbatim plutôt qu’approximé — tandis que le chiffrement répond à la question de confidentialité qui surgit dès que le contenu des prompts est écrit dans un stockage persistant.

Corbenic n’est toutefois pas le premier arrivé à la table. LMCache, Nvidia et Phison occupent déjà la table ronde du déchargement du cache KV.

L’étagement de la concurrence est en soi révélateur. LMCache aborde le problème côté logiciel de cache, Nvidia depuis la couche accélérateur, et Phison depuis les contrôleurs de stockage — ce qui signifie que le nouvel entrant belge affronte des rivaux potentiels postés à chaque saut entre GPU et disque. Sa différenciation repose sur l’association d’une réutilisation exacte et du chiffrement, appliquées à des frameworks open source que nombre d’opérateurs font déjà tourner en production.

Pour les acheteurs d’infrastructure IA, Galahad est un point de donnée dans un repositionnement plus large des SSD : du stockage de masse à l’étage mémoire qui façonne l’économie de l’inférence. L’honnêteté de Corbenic sur l’origine de son facteur 14 est un étalon utile pour toute la catégorie. Tout opérateur qui pèse ici les promesses des fournisseurs devrait appuyer sur la même question — quelle part de l’accélération vient d’un caching plus malin, et quelle part du matériel lui-même ?

Mots-clés: Corbenic · Galahad · KV Cache · SSD Storage · vLLM · Nvidia


À lire aussi


萬安算交所 AIXX · AIXX · Bourse compute vérifiée · Accéder à la salle