NVIDIA近期对其开源软件库DALI（数据加载和增强库）进行了多项更新，旨在简化该工具在现有PyTorch数据处理逻辑中的集成，增强数据处理管道的灵活性，支持CPU到GPU的数据流，并引入了新的视频解码模式。这些改进使DALI成为了深度学习从业者的必备工具，具体包括以下几个方面： DALI Proxy：高效的GPU加速 DALI Proxy 是为PyTorch用户设计的一项新功能，能够让用户无缝地将DALI的高性能数据处理能力融入现有的PyTorch数据集逻辑中。DALI架构通过使用原生多线程克服了Python全局解释器锁（GIL）带来的限制，显著提升了性能。传统的纯Python数据处理方法存在多个问题，例如每个进程都会创建独立的GPU上下文，增加任务切换开销；每个进程分配自己的GPU内存，导致总体内存用量膨胀；进程间共享GPU内存也会增加额外开销。DALI通过使用一个主进程中的DALI服务器实例来协调训练，轻量级的DALI代理对象将仍在CPU上的数据传输到主进程，在那里通过原生代码并行处理。这种方式不仅能够加速特定的、耗时的数据处理部分，还保留了其余数据读取逻辑的完整性，特别适用于多模态应用，如视觉处理需要加速而其他部分使用外部库的情况。 视频处理改进 最新版本的DALI增加了对解码变帧率视频和直接提取特定帧的支持，进一步增强了其在视频数据处理方面的灵活性和控制力。新功能允许用户指定要解码的帧数、起始帧、结束帧、步幅（帧之间的间隔），以及填充模式，确保无论视频有多短，都能获得请求的精确帧序列。这种增强的视频处理能力对现代AI任务尤为重要，因为视频通常包含大量的帧，需要特殊的策略来选择和处理。例如，提高视频帧率可能需要连续帧，而动作识别则可以通过每隔N帧选取一帧来减少冗余和避免网络过载。 执行器改进 执行器改进通过新增的exec_dynamic参数提高了内存管理效率，实现了内存缓冲区的重用。早期版本的DALI为了应对高内存分配成本，会一次性分配大量内存而不释放。最近的改进使其能够在异步情况下按需分配和释放内存，从而有效利用相同的物理内存，减少内存使用量。此外，新的执行模型还支持从CPU到GPU再回到CPU的数据传输模式，这在过去被认为效率低下，但在现代系统（如NVIDIA GH200 Grace Hopper和GB200 NVL72及其快速CPU-GPU互连）中变得可行。现在，用户可以在GPU上加速并行处理部分，然后将数据移回CPU以应用串行算法或尚未得到DALI支持的算法。 综上所述，NVIDIA最新的DALI更新显著扩展了其作为高性能数据预处理库的功能，特别是在与PyTorch的集成、视频处理能力和执行器效率方面取得了重大突破。DALI Proxy的引入为用户提供了细粒度的控制，使其能够在不完全重写现有数据流水线的情况下加速特定部分。视频处理的新功能满足了现代AI任务中对灵活高效处理复杂帧选择的需求。执行器改进则优化了内存管理和跨设备数据传输，特别是在具有高效CPU-GPU互连的系统中表现出色。这些更新共同使得DALI成为了一个更加多功能和高效的工具，能够适应各种AI工作负载的数据预处理需求。