Un GPU inactif coûte autant à faire fonctionner qu’un GPU occupé.

Alors, nous ne les laissons pas inactifs.

Louez un cluster pendant 10 heures. Une fois votre tâche terminée, les mêmes GPU passent directement à l’inférence LLM.

TechArena s’est entretenu avec Ilkhom Sidikov, de @ionet — @ilkh0m — pour expliquer son fonctionnement.