À retenir

  • FuriosaAI a déployé des serveurs RNGD dans le data center Equinix LS2 à Lisbonne, offrant un accès local européen pour l’inférence en colocation.
  • Chaque puce RNGD fournit 512 TFLOPS FP8 à 180 W de TDP; un serveur NXT RNGD atteint ~4 pétaFLOPS FP8 avec 384 Go HBM3 et consomme environ 3 kW.
  • Dans une baie de 15 kW, cinq serveurs RNGD peuvent être installés, comparé à un seul serveur DGX H100, augmentant significativement la densité d’inférence par rack.
  • L’approche optimise les tokens-par-watt et vise à réduire le coût énergie + refroidissement pour l’IA générative dans des baies à air-cooling sans réaménagement majeur.

Contexte : pourquoi Lisbonne devient une plaque tournante de l’inférence IA en Europe

FuriosaAI déploie ses serveurs RNGD dans le data center Equinix LS2 à Lisbonne, offrant un premier accès local européen à son accélérateur d’inférence pour tester des modèles avancés en conditions quasi production.[1][2]

Objectifs principaux :

  • mesurer latence, throughput et stabilité dans un environnement de colocation réel,
  • réduire le délai d’accès à une capacité d’inférence spécialisée sans construire de nouveaux centres.[2][5]

Ce site est la première étape d’un déploiement RNGD plus large chez Equinix en Europe, soutenu par un bureau régional dédié.[2][5]

Contexte infrastructure :

  • la demande en calcul IA croît plus vite que la capacité électrique et la densification possible des salles serveurs ;
  • de nombreux data centers approchent leurs limites de puissance par baie, rendant l’ajout de clusters GPU très énergivores complexe sans travaux lourds.[5][6][7]

Le choix d’Equinix et d’un site dans l’UE répond aussi aux priorités :

  • d’autonomie technologique européenne et de souveraineté,
  • de diversification des chaînes d’approvisionnement en calcul IA,
  • de soutien à des projets d’IA souveraine, notamment en France, en complément d’initiatives comme le Projet d’infrastructure dédié à l’intelligence artificielle à Borlänge.[6]

💡 À retenir
Lisbonne devient un point d’entrée concret pour tester une infrastructure d’inférence spécialisée dans un cadre de colocation existant, compatible avec les contraintes énergétiques et réglementaires européennes.[2][5]


RNGD chez Equinix Lisbonne : architecture, performances et efficacité énergétique

RNGD est un accélérateur d’inférence pour LLM et charges agentiques, basé sur une architecture propriétaire Tensor Contraction Processor (TCP) en 5 nm, délivrant 512 TFLOPS FP8 pour 180 W de TDP par puce.[2][3][5] Il cible l’ère de l’inférence massive plutôt que l’entraînement.[7]

Caractéristiques des serveurs NXT RNGD :[3][6]

  • jusqu’à 8 accélérateurs par châssis,
  • ~4 pétaFLOPS FP8, 384 Go de HBM3, 12 To/s de bande passante mémoire agrégée,
  • consommation d’environ 3 kW par serveur, compatible baie standard à air-cooling, sans refroidissement liquide ni réaménagement majeur.[5][6]

📊 Donnée clé
Dans un rack de 15 kW, cinq serveurs RNGD peuvent être déployés là où un seul serveur DGX H100 de Nvidia tiendrait, transformant la densité d’inférence par baie.[6][7]

Comparaison énergétique :

  • les GPU d’entraînement récents montent à ~1 300 W par carte, soit plus de 7× la consommation d’un accélérateur RNGD ;[7]
  • pour l’IA générative, le coût énergie + refroidissement devient aussi critique que le prix des serveurs.[7][10]

Spécificités de l’architecture TCP :[6][7]

  • contractions de tenseurs traitées en matériel plutôt que via des multiplications matricielles fixes,
  • poids maintenus plus longtemps en mémoire haut débit,
  • réduction des mouvements de données,
  • amélioration de la performance par watt et des tokens-par-watt sur LLM et agents IA, confirmée par des validations tierces.[6][7]

Ce développement est piloté par les équipes de FuriosaAI (June Paik, Jeehoon Kang, Baek Jun-ho, Tobias Mann, Hanjoon Kim) et un écosystème incluant Broadcom, TSMC, Supermicro.[2][3][5]

Combiné à l’infrastructure efficace et durable d’Equinix, RNGD permet une inférence soutenue dans des enveloppes de puissance limitées, tout en conservant le modèle de colocation classique (baies, air-cooling).[2][3][5]

⚠️ Point clé
L’enjeu n’est pas seulement la puissance brute, mais le nombre de jetons inférés par kilowatt, alors que la puissance disponible par rack devient le goulot d’étranglement principal.[6][7]


Cas d’usage, écosystème européen et prochaines étapes pour les entreprises

Les serveurs RNGD à Lisbonne offrent un bac à sable quasi production pour mesurer latence p95, throughput et coût par requête sur :[2][4][9]

  • assistants conversationnels LLM multi-tour,
  • agents autonomes orchestrés (CrewAI, LangGraph, etc.),
  • RAG intensif avec forte simultanéité de requêtes.

Possibilités pour les équipes techniques :

  • tester des stacks comme Ollama,
  • évaluer des modèles européens comme Mistral sur RNGD,
  • comparer coûts et performances avec les offres Google, OpenAI, Meta, Anthropic.

Exemple typique :

  • une fintech d’environ 30 personnes déploie son orchestrateur d’agents back-office sur quelques nœuds RNGD,
  • compare temps de réponse et facture énergétique à un cluster GPU existant,
  • décide workload par workload de la plateforme la plus adaptée.

Le bureau FuriosaAI de Lisbonne joue un double rôle :[2][4][5][6]

  • hub commercial pour les clients européens,
  • centre R&D pour compilateurs, design de puces et PCB, créant un écosystème local pour optimiser en continu la pile matérielle / logicielle RNGD.

À l’horizon 2026, cette approche doit contribuer à l’autonomie technologique et au leadership IA européens.[6]

Pour DSI et responsables infrastructure, trajectoire recommandée :[2][7][10]

  1. Lancer un POC chez Equinix Lisbonne avec 1–2 workloads GenAI représentatifs (chatbot client, moteur RAG interne).
  2. Comparer le coût total d’inférence (infra + énergie + licences + opérations), avec un focus sur le coût par 1 000 jetons générés.[7][10]
  3. Planifier une migration progressive des charges les plus intensives en jetons vers RNGD pour réduire les coûts d’exploitation sur 12–24 mois.[7][10]

💼 À retenir
RNGD à Lisbonne n’est pas un simple site vitrine, mais un environnement d’essai pour dimensionner une future architecture d’inférence européenne — du pilote à la montée en charge multi-racks — en complément des grandes plateformes opérées par Nvidia, Google, OpenAI, Meta, Anthropic et leurs partenaires.[2][5]

Questions fréquentes

Que permet de mesurer le déploiement RNGD à Lisbonne ?
Le déploiement RNGD à Lisbonne permet de mesurer en conditions quasi production la latence p95, le throughput et le coût par requête d’inférences avancées. Les équipes peuvent exécuter tests multi-tour sur assistants LLM, charges RAG à forte simultanéité et agents autonomes pour obtenir métriques réelles d’end-to-end (réseau, serveur, compilation modèle). Le site Equinix LS2 reproduit les contraintes énergétiques et de colocation européennes, ce qui permet d’évaluer non seulement les performances brutes mais aussi la stabilité, la consommation par 1 000 jetons et l’impact opérationnel (refroidissement, densité par baie) avant une montée en charge multi-racks.
Quel gain énergétique et de densité obtient-on par rapport aux GPU d’entraînement ?
Les accélérateurs RNGD consomment environ 180 W par puce et ~3 kW par serveur, ce qui est jusqu’à 7× moins par accélérateur comparé aux cartes GPU d’entraînement récentes (~1 300 W). Cela permet de déployer cinq serveurs RNGD dans une baie 15 kW là où un seul DGX H100 tiendrait, augmentant nettement la densité d’inférence et les tokens-par-watt.
Comment une entreprise doit-elle procéder pour tester RNGD à Lisbonne ?
Lancer un POC sur 1–2 workloads représentatifs (chatbot, RAG) chez Equinix Lisbonne, mesurer latence p95, throughput et coût par 1 000 jetons, puis comparer avec l’existant. Planifier une migration progressive des charges à forte consommation de jetons en s’appuyant sur les résultats du POC.

Sources & Références (10)

Entités clés

💡
LLM
Concept
💡
RNGD
Concept
💡
Tensor Contraction Processor
Concept
💡
agents (agentiques)
Concept
📍
Equinix LS2
Lieu
📍
Lisbonne
Lieu
🏢
TSMC
Org
🏢
FuriosaAI
Org
👤
Jeehoon Kang
Person
👤
Baek Jun-ho
Person
👤
Tobias Mann
Person

Généré par CoreProse in 14m 51s

10 sources vérifiées et recoupées 841 mots 0 fausse citation

Partager cet article

X LinkedIn
Généré en 14m 51s

Quel sujet voulez-vous couvrir ?

Obtenez la même qualité avec sources vérifiées sur n'importe quel sujet.