Inference Optimization
DeepInfer: Marco de trabajo de inferencia de alto rendimiento y gran escala para modelos…
·1178 palabras·6 mins
GitHub
Framework
LLM
Foundation Model
Natural Language Processing
Inference Optimization
Python
PyTorch
Open Source
Machine Learning