dustynv/optimum
by dustynv
适用于Jetson设备的Optimum Docker镜像，集成Hugging Face Optimum库，支持CUDA、TensorRT加速，用于优化和运行Transformer模型，兼容JetPack 4.6+及更高版本。
0 星标420 次下载
上次更新：2 年前
huggingface/optimum-nvidia
by huggingface
使用NVIDIA TensorRT-LLM和Hugging Face加速大型语言模型推理的Docker镜像，提供高性能、低延迟的LLM部署解决方案。
2 星标10K+ 次下载
上次更新：11 个月前
getoptimum/p2pnode
by getoptimum
暂无描述
0 星标10K+ 次下载
上次更新：22 小时前
第 1 页