英偉達(dá)近日宣布了一項(xiàng)重要更新，正式推出了專為RTX系列顯卡設(shè)計(jì)的NVIDIA TensorRT for RTX，并且這一創(chuàng)新技術(shù)將全面支持Windows 11系統(tǒng)。此次更新意味著GeForce RTX全系列顯卡用戶將能夠享受到TensorRT AI推理加速框架帶來的極致性能提升。

據(jù)悉，TensorRT for RTX相較于DirectML方案，在AI推理速度上實(shí)現(xiàn)了翻倍的提升。這一突破性進(jìn)展得益于TensorRT原生兼容Windows ML框架的設(shè)計(jì)，使得其在多種應(yīng)用場景中均能展現(xiàn)出卓越的性能表現(xiàn)。特別是在ComfyUI應(yīng)用中，TensorRT的性能表現(xiàn)更是達(dá)到了DirectML的兩倍，而在其他應(yīng)用中，性能提升也普遍在1.5至1.7倍之間。

除了顯著的性能提升外，TensorRT for RTX還帶來了即時(shí)GPU專屬優(yōu)化的功能，這一特性使得推理庫文件的體積大幅縮減至原有的八分之一，從而進(jìn)一步提升了系統(tǒng)的整體效率和響應(yīng)速度。

英偉達(dá)在AI領(lǐng)域的布局遠(yuǎn)不止于此。據(jù)官方透露，目前英偉達(dá)已經(jīng)為超過150個(gè)AI SDK提供了支持，并且在本月還將推出5個(gè)全新的ISV集成，涵蓋了從視頻處理到設(shè)計(jì)渲染等多個(gè)領(lǐng)域。這些新加入的ISV集成包括LM Studio（CUDA性能提升30%）、Topaz Video AI（GenAI視頻加速CUDA）、嗶哩嗶哩（NVIDIA Broadcast Effects）、AutoDesk VRED (DLSS 4)以及Chaos Enscape (DLSS 4)等。

英偉達(dá)方面表示，當(dāng)前AI PC軟件生態(tài)中，開發(fā)者往往需要在廣泛硬件支持與高性能優(yōu)化之間做出艱難抉擇。而全新Windows ML推理框架的推出，通過ONNX Runtime構(gòu)建，與各硬件廠商優(yōu)化的AI執(zhí)行層實(shí)現(xiàn)了無縫銜接。特別是對(duì)于RTX顯卡用戶而言，Windows ML會(huì)自動(dòng)調(diào)用TensorRT for RTX這一專為高性能快速部署優(yōu)化的推理庫，相較于DirectML，TensorRT能夠?yàn)镻C端AI工作負(fù)載提供超過50%的性能提升。