支持所有RTX显卡!NVIDIA TensorRT带来性能翻倍提升

内容摘要快科技5月20日消息,NVIDIA宣布,TensorRT AI推理加速框架现已登陆GeForce RTX显卡,性能比DirectML直接翻倍。TensorRT是NVIDIA推出的一种推理优化器,能够显著提升AI模型的运行效率,此次,NVID

联系电话:400-962-3929

快科技5月20日消息,NVIDIA宣布,TensorRT AI推理加速框架现已登陆GeForce RTX显卡,性能比DirectML直接翻倍。

TensorRT是NVIDIA推出的一种推理优化器,能够显著提升AI模型的运行效率,此次,NVIDIA将TensorRT引入RTX平台,使得所有RTX显卡的用户都能享受到更快的AI性能。

根据NVIDIA的介绍,TensorRT不仅支持原生Windows ML,还能够自动选择合适的硬件来运行每个AI功能,并下载相应的执行提供程序,极大地简化了开发流程。

在性能方面,NVIDIA展示了TensorRT与DirectML的对比数据:在ComfyUI中,使用TensorRT的用户可以获得高达2倍的性能提升;在DaVinci Resolve和Vegas Pro中,性能提升达到了60%。

此外,TensorRT for RTX还带来了其他优势,例如8倍更小的库文件大小和针对每个GPU的即时优化,这些改进不仅提升了性能,还优化了软件的存储和管理。

TensorRT for RTX将在6月正式推出,NVIDIA还在不断扩展其AI SDKs,目前正为超过150个AI SDK提供支持,本月将推出5个新的ISV集成,包括LM Studio、Topaz Video AI、Bilibili、AutoDesk VRED和Chaos Enscape等。

【本文结束】如需转载请务必注明出处:快科技

责任编辑:黑白

 
举报 收藏 打赏 评论 0
今日推荐
浙ICP备19001410号-1

免责声明

本网站(以下简称“本站”)提供的内容来源于互联网收集或转载,仅供用户参考,不代表本站立场。本站不对内容的准确性、真实性或合法性承担责任。我们致力于保护知识产权,尊重所有合法权益,但由于互联网内容的开放性,本站无法核实所有资料,请用户自行判断其可靠性。

如您认为本站内容侵犯您的合法权益,请通过电子邮件与我们联系:675867094@qq.com。请提供相关证明材料,以便核实处理。收到投诉后,我们将尽快审查并在必要时采取适当措施(包括但不限于删除侵权内容)。本站内容均为互联网整理汇编,观点仅供参考,本站不承担任何责任。请谨慎决策,如发现涉嫌侵权或违法内容,请及时联系我们,核实后本站将立即处理。感谢您的理解与配合。

合作联系方式

如有合作或其他相关事宜,欢迎通过以下方式与我们联系: