(資料圖片僅供參考)
南方財經6月30日電,據金山辦公官微30日消息,金山辦公與 NVIDIA 團隊合作,通過 NVIDIA Tensor Core GPU、TensorRT 提升圖像文檔識別與理解的推理效率;借助 NVIDIA Triton 推理服務器的部署,成功優化 GPU 利用率,提供高推理吞吐量。相比于 CPU 其 pipleline 耗時共下降 84%;采用 NVIDIA Triton 推理服務器部署,其部署成本節省了 23% 。
(文章來源:南方財經網)
關鍵詞:
(資料圖片僅供參考)
南方財經6月30日電,據金山辦公官微30日消息,金山辦公與 NVIDIA 團隊合作,通過 NVIDIA Tensor Core GPU、TensorRT 提升圖像文檔識別與理解的推理效率;借助 NVIDIA Triton 推理服務器的部署,成功優化 GPU 利用率,提供高推理吞吐量。相比于 CPU 其 pipleline 耗時共下降 84%;采用 NVIDIA Triton 推理服務器部署,其部署成本節省了 23% 。
(文章來源:南方財經網)
關鍵詞: