金山辦公與NVIDIA團(tuán)隊(duì)合作 加速WPS AI落地

日期:2023-06-30
瀏覽:
10
每經(jīng)AI快訊,據(jù)金山辦公官微,金山辦公與NVIDIA團(tuán)隊(duì)合作,通過NVIDIA Tensor Core GPU、TensorRT提升圖像文檔識(shí)別與理解的推理效率;借助NVIDIA Triton推理服務(wù)器的部署,成功優(yōu)化GPU利用率,提供高推理吞吐量。相比于CPU其pipleline耗時(shí)共下降84%;采用NVIDIA Triton推理服務(wù)器部署,其部署成本節(jié)省了 23%。(每日經(jīng)濟(jì)新聞)
特別提示:本信息由相關(guān)企業(yè)和個(gè)人自行提供,真實(shí)性未證實(shí),僅供參考。請(qǐng)謹(jǐn)慎采用,風(fēng)險(xiǎn)自負(fù)。