ONNX Runtime은 마이크로소프트가 개발한 크로스 플랫폼 머신러닝 추론·학습 가속기로, PyTorch·TensorFlow/Keras 같은 딥러닝 프레임워크는 물론 scikit-learn·LightGBM·XGBoost로 만든 모델까지 폭넓게 실행한다. 다양한 하드웨어·드라이버·운영체제와 호환되며, 그래프 최적화와 변환을 거쳐 실행 프로바이더(Execution Provider)로 하드웨어 가속기를 활용해 최적의 추론 성능을 끌어낸다. 학습 측면에서는 멀티노드 NVIDIA GPU 환경에서 기존 PyTorch 학습 스크립트에 한 줄만 추가해도 트랜스포머 모델 학습 속도를 높일 수 있다. QNN 플러그인 등으로 확장 가능한 아키텍처를 갖췄으며, MIT 라이선스로 공개된다.