NV
产品介绍
NIM 把主流开源模型打包成可直接调用的推理微服务，支持本地/云端部署与 TensorRT 加速。
企业可在自有 GPU 上获得较高吞吐。
主要功能
- 预打包模型服务
- TensorRT 加速
- 本地/云端部署
- 兼容 OpenAI 接口
- 企业支持
是否收费
免费+付费
有免费额度；企业按部署规模计费
同类产品
模型与开发平台 分类下的其他选择