(资料图片)

金山办公与英伟达团队合作，通过英伟达 Tensor Core GPU、TensorRT 提升图像文档识别与理解的推理效率 ... 借助英伟达 Triton 推理服务器的部署，成功优化 GPU 利用率，提供高推理吞吐量 ... 采用英伟达 Triton 推理服务器部署，其部署成本节省了 23%。