黄教主讲满 140 分钟,GTC 三大发布震撼业界

GTC(GPU Technology Conference)China 2019 于 12 月 16 日在苏州拉开帷幕。今天,NVIDIA  创始人兼首席执行官黄仁勋带来了长达 2 个多小时的主题演讲,宣布了多个新品的发布,全程干货满满。我们对其重点发布内容 TensorRT 7、DRIVE 以及 Isaac 等产品进行整理,一起感受本次 GTC 2019 的精彩。

NVIDIA GTC China 2019,于 12 月 16-19 日在苏州金鸡湖国际会议中心举办。

这个起源于 2009 年加州圣何塞的技术会议,最初的重点是通过 GPU 解决计算挑战的潜力,十年之后的今天,已经成为 AI 和深度学习领域的盛会,包括了近百场 AI 相关领域主题讲座。

作为 2019 年在美国本土之外的唯一一站 GTC,GTC China 2019 吸引了数千位业内人士前来参会。

今年大会议题横向覆盖了 AI 框架、开发工具、加速数据科学、云计算、实时渲染、光线追踪、5G 等方面,纵向也包含了自动驾驶、智能机器、医疗与金融、设计与工程制造等当下最热门的领域。

在上午,NVIDIA 创始人兼首席执行官 Jensen Huang 黄仁勋先生带来了长达 2 个多小时的主题演讲,涉及 TensorRT 7、DRIVE、Isaac 等多个新品发布。 

重磅一:TensorRT 7 正式发布

NVIDIA 正式发布 TensorRT 7(简称 TRT 7),它支持各种类型的 RNN,Transformer,和 CNN。

TRT 7 正式发布

TRT 7  能够融合水平和垂直方向的运算,可以为开发者设计的大量 RNN 配置自动生成代码,逐点融合 LSTM 单元,甚至可以跨多个时间步长进行融合,并且尽可能做自动低精度推理。

相比于 TRT 5 只支持 30 种变化,TRT 7 能够支持 1000 多种不同的计算变换和优化。黄教主称,「TRT 7 是我们实现的最大飞跃。」 

TRT 7 强大功能:支持交互式会话 AI 

会话 AI 是 TensorRT 7 强大功能的典型代表。AI 在语音和自然语言理解方面的突破使会话 AI 成为可能,但会话是交互式、应答式的,低延迟至关重要。一套端到端的流程可能由二三十种模型组成,用到不同的模型结构,包括 CNN、RNN、transformer、自然编码、MLP。

模型的框架结构示意

使用 CPU 推理,这套流程下来,延迟是 3 秒。现在,使用 TRT 7 ,可以对所有模型进行编译,使其在 NVIDIA GPU 上运行,T4 GPU 上推理会话 AI 只需要 0.3 秒。 

重磅二:推出 NVIDIA DRIVE

DRIVE 是一个端到端平台,使运输工公司能够打造自动驾驶汽车。

黄老板介绍 NVIDIA DRIVE 

首先,它采用 AI 和 AV 的开发流程和基础框架。其次,配备采用开放式完全可操作自动驾驶和智能座舱的计算机。此外,还采用预先训练的优质 AI 模型,可由汽车制造商加以改进。

DRIVE AV 平台是软件定义的,而并非是固定功能的芯片。这样可能实现大量开发人员按照持续集成、持续交付的开发方式进行协作,研发投入也可以在一代代的产品中得到体现。 

在 NGC 上推出 NVIDIA DRIVE 预训练模型 

需要许多 AI 模型才能构成一个正常运行的安全自动驾驶技术,其算法具有多样性和冗余性。NVIDIA 则开发了最先进的感知模型,用于检测、分类、跟踪和轨迹预测。而且还可以用于感知、本地化、规划和制图。这些预训练模型可以从 NGC 上注册下载。 

DRIVE 迁移学习 

NVIDIA 提供了一种迁移学习工具,可以进行再训练,并利用 TensorRT 进行再优化。此外,还有一个用于联邦学习的系统,可供多个组织和公司在不移动或共享数据的情况下,进行合作。NVIDIA 将预训练模型发给各个合作伙伴。各个合作伙伴在自己的数据上训练模型,并按照一致的标准进行标记。合作伙伴只需要共享用于创建新模型的传中,然后在所有参与合作的伙伴之间共享新模型。

 NVIDIA DRIVE AGX ORIN :由软件定义的 AV 平台

NVIDIA  DRIVE 适用于从 L2 到 L5 级别,这是一种构架,高性能和软件定义。
黄仁勋表示,Orin 是英伟达下一代机器人处理器 SOC,「是一次巨大飞跃」。Orin 的参数堪称卓越:

多达 170 亿个晶体管,8 个核心 64 位 CPU,200 TOPS(Tera Operations Per Second 的深度学习算力。黄教主透露,Orin 计划于 2022 年开始投产

面向自动驾驶的新一代处理器 Orin

此外,他还表示,NVIDIA DRIVE 正在构建全球生态系统。 

重磅三:NVIDIA Isaac 发布

除了自动驾驶客车,黄仁勋表示,NVIDIA 还致力于非结构化导航的机器人,即没有车道和标志,并且有更多的操作自由度。

可用于进行室内物流参考应用

Isaac,和 DRIVE 类似,是一个端到端的平台,它使世界上的机器人社区能够创建大规模的可操作机器人,包括开发基础设施,具有软件堆栈的机器人计算平台、完全可操作性的应用程序,以及可借力 NVIDIA 迁移学习和联邦学习工具的预训练模型。

与 AV 不同,机器人拥有更多的自由度。人工收集和标注的数据不可能用于训练感知和规划类型的 AI。「仿真对于机器人从无限可能的场景中学习十分重要。」

Isaac SDK 包括 Training-in-Sim 工作流,使用随机机域生成 6D 姿态图像,用于训练目标检测、像素分割、2D 姿态、3D 姿态。

在演讲的最后,黄仁勋还展示了一个机器人 DEMO:LEONARDO,机器人可以感知并操纵物体,进行摆放、整理,引得现场观众欢呼鼓掌。而这些功能,都是由其发布的 NVIDIA Issac 机器人 SDK 完成。

LEONARDO 将积木块堆叠起来

以上就是 GTC China 2019 的重点发布内容,大家可以慢慢消化,超神经也将带大家持续关注本次大会,第一时间将最精彩的内容带给大家。

—— 完 ——