amd显卡和nvidia显卡对比,amd显卡和nvidia显卡有什么区别

  amd显卡和nvidia显卡对比,amd显卡和nvidia显卡有什么区别

  NVIDIA DeepStream概述DeepStream是一个流分析工具包,用于构建AI驱动的APP应用。使用流数据作为输入。使用USB/CSI摄像头、文件视频或基于RTSP的流媒体、人工智能和计算机视觉从像素中产生洞察力,以更好地了解环境。DeepStream SDK可以作为许多视频分析解决方案的基础,包括智能城市中的交通和行人理解、医院健康和安全监控、零售店的自检和分析以及制造工厂中的组件缺陷检测。欲了解更多关于深流的信息,请访问3359 NGC.NVIDIA.com/catalog/collections/NVIDIA 3360深流完成` _在这里。

  DeepStream通过Python绑定支持C/C和Python上的APP应用开发。首先,DeepStream提供了几个C/C和Python参考应用程序。有关可用应用程序的详细信息,请参见\ ds _ c _ sample _ APPs和\ DS_Python_Sample_Apps部分。请参见英伟达-ai-https://github.com/NVIDIA-ai-IOT/deepstream IOT _ reference _ APPs _ gidia了解DeepStream参考应用程序的示例。

  核心SDK由硬件加速器插件组成,这些插件使用各种加速器(如VIC、GPU、DLA、NVDEC和NVENC)。DeepStream通过使用专用加速器来执行所有计算密集型操作,最大限度地提高了视频分析应用程序的性能。DeepStream的主要功能之一是边缘和云之间的安全双向通信。DeepStream提供了多种初始安全协议,包括使用用户名/密码的SASL/通用身份验证和双向TLS身份验证。有关这些安全功能的详细信息,请参考章节doc:\ DS_IoT。有关双向功能的详细信息,请参考本指南的“双向标签”部分。

  DeepStream基于CUDA-X堆栈中的几个NVIDIA库,包括CUDA、TensorRT、Triton Impact server和多媒体库。TensorRT在NVIDIA GPU上加速AI推理。DeepStream使用DeepStream插件对这些库进行抽象,这样开发人员就可以轻松构建一个视频分析管道,而无需学习所有的单个库。

  Deep stream针对NVIDIA GPU进行了优化;这个APP应用可以部署在运行Jetson平台的嵌入式边缘设备上,也可以部署在大边缘和数据中心的GPU(如T4)上。您可以使用NVIDIA容器在运行时将deepstream应用程序部署到容器中。这些容器位于NGC和NVIDIA GPU云注册表。有关使用docker进行部署的更多信息,请参阅docker容器一章。你可以在GPU上使用Kubernetes,将deepstream APP应用放在边缘。https://NGC.NVIDIA.com/catalog/helm-charts/NVIDIA 3360视频分析,NGC包括一个部署deepstream应用程序的样本掌舵图

  深流图形架构

  # # # #

  DeepStream是一个使用开源GStreamer框架构建的优化图形架构。下图是一个典型的视频分析APP应用,从视频输入到视点输出。每个块都是要使用的各种插件。底部是整个APP应用使用的各种硬件引擎。没有最佳的内存管理,插件之间的内存复制,以及使用各种加速器来确保最佳性能。

  DeepStream以GStreamer插件的形式提供构建块,可用于构建有效的视频分析管道。超过5个插件可以通过硬件加速执行各种任务。

  *流式数据可以从RTSP或本地文件系统传输,或通过网络直接从摄像机传输。使用CPU捕获流。帧进入内存后,将由NVDEC加速器发送进行解码。解码用的插件叫doc:\ ds _ plugin _ GST-NV video 4 Linux 2。

  *有一个可选的图像预处理步骤,可以在解码后、推理前对输入图像进行预处理。预处理可以使用图像变形或色彩空间转换。\ doc_\ DS_plugin_gst-nvdewarper插件可以使鱼眼镜头和360度摄像头的图像变形。\ doc:\ ds _ plugin _ GST-NV video convert插件可以在框架上进行颜色格式转换。这些插件使用GPU或视觉图像合成器(VIC)。

  *下一步是批量处理帧,以获得最佳推理性能。Doc: \ ds _ plugin _ gst-nvstreammix插件允许您完成批处理。

  *对帧进行批处理后,发送它们进行评估。可以使用TensorRT和NVIDIA推理加速器在运行时进行推理,也可以使用Triton推理服务器在TensorFlow和“PyTorch”等原生框架中进行推理。使用\ ds _ plugin _ GST-nvinformer插件执行本机TensorRT推理,使用\ \ ds _ plugin _ GST-nvinforserver插件完成与Triton的推理。Jetson AGX可以用于推理。

  Xavier和Xavier NX的GPU或DLA(深度学习加速器)。

  *推断之后,下一步可能涉及跟踪对象。SDK中有几个内置的参考跟踪器,范围从高性能到高精度。使用\ DS_plugin_gst-nvtracker插件来执行对象跟踪。*为了创建可视构件,如边框、分割蒙版和标签,有一个名为:doc: \ ds _ plugin _ GST-nvdsosd的可视插件。

  *最后,为了输出结果,DeepStream提供了各种选项:在屏幕上显示带有边框的输出,将输出保存到本地磁盘,通过RTSP传输输出,或者只是将元数据发送到云。为了将元数据发送到云,DeepStream使用\ DS_plugin_gst-nvmsgconv和\\ DS_plugin_gst-nvmsgbroker插件。\ doc: \ ds _ plugin _ GST-NVMSGConV将元数据转换为架构净荷,而\ doc:\ ds _ plugin _ GST-NVMSGBroker与云端建立连接,发送遥测数据。有几个内置的代理协议,如Kafka,MQTT,AMQP和Azure IoT。您可以创建自定义代理适配器。

  DeepStream参考应用

  #########################

  首先,开发人员可以使用提供的参考应用程序。它还包括这些应用程序的源代码。这个端到端的应用叫做“deepstream-app”。该应用程序是完全可配置的——它允许用户配置任何类型和数量的源。用户还可以选择运行推理的网络类型。它内置了用于物体检测的推理插件,并由用于图像分类的推理插件级联。有一个配置跟踪器的选项。对于输出,用户可以选择在屏幕上渲染,保存输出文件或通过RTSP传输视频。

  这是一个很好的参考应用,可以开始学习DeepStream的功能。DS_ref_app_deepstream章节会更详细的介绍这个应用。此应用程序的源代码位于/opt/NVIDIA/DeepStream/DeepStream-5.1/sources/apps/sample _ apps/DeepStream-app `该应用程序将适用于所有人工智能模型,详细说明将在每个自述文件中提供。使用该应用程序还可以运行性能基准测试。

  开始构建应用程序。

  ####################################

  对于想要构建自己的定制应用的开发者来说,“deepstream-app”可能会不知所措,无法开始开发。这个SDK附带了几个简单的应用程序,开发者可以学习DeepStream的基本概念,构造一个简单的管道,然后逐步构建更复杂的应用程序。

  开发者可以从deepstream-test1开始,它几乎就像deepstream的hello World。在这个应用程序中,开发人员将学习如何使用各种DeepStream插件构建GStreamer管道。他们会从文件中获取视频,解码,批处理,然后检测物体,最后把这些盒子呈现在屏幕上。Deepstream-test2从test1开始进行,级联网络级联到主网络。DeeStream-Test 3展示了如何添加多个视频源,最后test4将展示如何使用message broker插件来服务IoT。这四个入门应用程序都有原生C/C和Python版本。要了解更多关于这些和其他示例应用程序的信息,请参阅DS_C_Sample_Apps和DS_Python_Sample_Apps。

  Python中的DeepStream

  #########################

  Python易于使用,在创建AI模型时被数据科学家和深度学习专家广泛采用。英伟达推出Python绑定,帮助你使用Python构建高性能AI应用。可以使用GStreamer框架Gst-Python Python绑定来构建DeepStream管道。

  DeepStream Python应用程序使用“Gst-Python”API操作来构造管道,并使用probe函数来访问管道中每个点的数据。这些类型都在原生C中,需要通过PyBindings或NumPy的填充层从Python应用程序中访问它们。大眼蘑菇数据是推断后的原大眼蘑菇输出。如果要检测一个物体,需要利用分析和聚类算法对大眼香菇数据进行后期处理,在检测到的物体周围创建一个包围盒。要开始使用Python,请参阅本指南中的DS_Python_Sample_Apps和《DeepStream Python API指南》中的“神奇的深流Python”。

郑重声明:本文由网友发布,不代表盛行IT的观点,版权归原作者所有,仅为传播更多信息之目的,如有侵权请联系,我们将第一时间修改或删除,多谢。

留言与评论(共有 条评论)
   
验证码: