[ Stack technique ]
ONNX Runtime
Le moteur d'inférence portable qui exécute un même modèle ONNX du serveur au navigateur.
ONNX Runtime, développé par Microsoft, charge un modèle au format ONNX exporté depuis PyTorch, TensorFlow ou scikit-learn et l'exécute à travers des execution providers interchangeables : CPU, CUDA, TensorRT, OpenVINO, DirectML, CoreML, NNAPI, ou WebAssembly et WebGPU dans le navigateur. Le graphe est optimisé au chargement (constant folding, fusion d'opérateurs) et peut être quantifié en INT8 ; les API couvrent Python, C++, C#, Java et JavaScript. C'est notre choix quand un même modèle doit tourner sur des cibles hétérogènes sans être recompilé pour chacune.
[ Pourquoi ONNX Runtime chez Dexon ]
Ce que cette techno fait bien, et pourquoi nous la mobilisons.
Usage typique : Inférence sur serveur CPU, application desktop Windows ou macOS, modèle embarqué dans le navigateur.
- 01
Execution providers CPU, CUDA, TensorRT, OpenVINO, DirectML, CoreML : un même modèle, plusieurs accélérateurs.
- 02
Optimisations de graphe au chargement et quantification INT8 statique ou dynamique.
- 03
onnxruntime-web : inférence dans le navigateur via WebAssembly ou WebGPU, sans backend.
- 04
Licence MIT, API Python, C++, C#, Java et JavaScript, extension GenAI pour les LLM.
[ Technologies complémentaires ]
Les briques que nous mobilisons souvent en parallèle.
Une stack existe rarement seule. Voici les technologies que Dexon associe le plus souvent à celle-ci, par habitude de pipeline, similarité d'usage ou maîtrise interne. Cliquez sur une brique pour voir son périmètre.
[ Réassurance ]
- 0+
- projets livrés sur mesure
- 30
- ingénieurs, designers, chefs de projet
- 80 %
- issus des meilleures écoles FR
- 24 h
- délai moyen de réponse
[ Ils nous font confiance ]
Plus de 100 entreprises françaises et européennes nous accordent leur confiance.
[ Presse ]
Ils parlent de nous.
Couverture nationale par BFM Business, Le Figaro, Challenges, La Tribune et CNews. Une lecture extérieure de notre travail et de nos innovations.
