NVIDIA Jetson: arquitectura, funcionamiento y sus aplicaciones

Pruebe Nuestro Instrumento Para Eliminar Los Problemas





La plataforma líder en el mundo como NVIDIA Jetson es una secuencia de placas de computación integradas que se utiliza principalmente en máquinas autónomas y otros aplicaciones integradas . Esta placa contiene principalmente módulos Jetson, que son computadoras de alto rendimiento. Jetson se adapta bien a un software de IA similar y a un flujo de trabajo nativo de la nube que se usa en otras plataformas de NVIDIA y proporciona un rendimiento eficiente desde el punto de vista energético para que los clientes construyan máquinas autónomas basadas en software. NVIDIA Jetson se utiliza para aplicaciones de visión artificial. Por lo tanto, este artículo analiza una descripción general de NVIDIA Jetson: el funcionamiento y sus aplicaciones.


¿Qué es NVIDIA Jetson?

NVIDIA Jetson es un avanzado sistema de incrustación Tablero que se utiliza para crear productos innovadores de IA en varias industrias. NVIDIA Jetson es una de las plataformas de hardware líderes que es muy útil para los entusiastas de la tecnología y también para los estudiantes para obtener experiencia práctica a través de una variedad de proyectos innovadores de IA. Esta placa es una placa muy eficiente para IA que incluye computadoras perimetrales modulares, de factor de forma pequeño y de alto rendimiento. Además, esta placa también contiene JetPack SDK que se utiliza para la aceleración de software, así como un ecosistema completo para ayudar a aumentar el procedimiento de desarrollo de proyectos de IA personalizados.



  Módulo Supersónico de NVIDIA
Módulo Supersónico de NVIDIA

Arquitectura Jetson de NVIDIA

Sabemos que el módulo Nvidia Jetson de Nvidia es una secuencia de placas de computación integradas. Todos los modelos de Jetson TX1, TX2 y TK1 llevan un procesador SoC o Tegra de Nvidia que incorpora una CPU de arquitectura ARM. Aquí, Jetson es un sistema de bajo consumo diseñado principalmente para acelerar las aplicaciones de aprendizaje automático.

La arquitectura NVIDIA Jetson Xavier NX se muestra a continuación. Es la supercomputadora de IA más avanzada y pequeña utilizada para dispositivos informáticos de borde, así como para robótica autónoma . Este módulo tiene la capacidad de implementar un rendimiento de clase de servidor dentro de un factor de forma sólido de 70 x 45 mm y también proporciona hasta 21 TOPS de cómputo por debajo de 15 W de potencia, de lo contrario, hasta 14 TOPS de cómputo por debajo de 10 W.



  Arquitectura NVIDIA Jetson Xavier NX
Arquitectura NVIDIA Jetson Xavier NX

El diagrama anterior contiene un NVIDIA Volta de 384 núcleos incorporado GPU que incluye una CPU NVIDIA Carmel ARMv8.2 de 64 bits de 6 núcleos, 48 ​​núcleos Tensor, LPDDR4x de 8 GB y 128 bits, codificadores y decodificadores de video 4K, motores duales NVDLA (NVIDIA Deep Learning Accelerator), cámara para hasta seis transmisiones instantáneas de alta resolución flujos de sensor, Display Port dual o pantallas HDMI 4K, expansión PCIe Generation 3, USB 3.1 y GPIO con I2C, SPI, I2S, UART y bus CAN.

Las especificaciones de NVIDIA Jetson incluyen lo siguiente.

  circuito impreso
  • La potencia es de 10W o ​​15W y entrada de 5V.
  • La CPU es NVIDIA Carmel de 6 núcleos ARMv 8.2 de 64 bits a 1400 MHz.
  • La GPU es NVIDIA Volta de 384 núcleos a 1100MHz a través de 48 Tensor Cores.
  • DL es motores Dual NVDLA.
  • La memoria es de 8 GB LPDDR4x de 128 bits a 1600 MHz.
  • Almacenamiento eMMC 5.1 de 16 GB.
  • La cámara es 12x MIPI CSI-2 carriles | Cámaras 3×4 o 6×2.
  • Hasta 6 cámaras (36 vía canales virtuales).
  • Térmicas de -25°C a 90°C.
  • La pantalla es DP 1.4 o eDP 1.4 o HDMI 2.0 a/b a 4Kp60.
  • Ethernet es 10 o 100 o 1000 BASE-T Ethernet.
  • USB 3.1 y USB 2.0.

Este módulo es compatible con toda la pila de software CUDA-X de NVIDIA y también con JetPack SDK para el desarrollo de IA. Ejecuta marcos de trabajo de aprendizaje automático muy populares y DNN difíciles en varios flujos de sensores de alta resolución a la vez, además de aplicaciones multimedia, gráficas y de visión por computadora en tiempo real dentro de un entorno Linux de escritorio completo.

En la actualidad, los desarrolladores comenzaron a diseñar aplicaciones de IA para Jetson Xavier NX con la ayuda del Jetson AGX Xavier Developer Kit. La aplicación de un parche de patrón de dispositivo cerca de JetPack hará que el dispositivo funcione como un Jetson Xavier NX. Esto modificará la cantidad de núcleos de GPU y CPU que se pueden obtener a través del software y establecerá las frecuencias de reloj y los voltajes de los núcleos en todo el sistema.

El parche es completamente reversible y se utiliza para aproximarse al rendimiento de Jetson Xavier NX. Este módulo clasificará los modos de potencia predeterminados de 10 W y 15 W alcanzando entre 14 y 21 rendimiento máximo TOPS según el modo activo. La herramienta nvpmodel se usa para manejar perfiles de energía para ajustar las frecuencias CLK más altas para la GPU, la CPU, varios relojes SoC y el controlador de memoria junto con los diversos clústeres de la CPU.

En función de la carga de trabajo, el regulador DVFS (escalamiento dinámico de voltaje y frecuencia) equilibra las frecuencias en tiempo de ejecución hasta sus límites más altos según lo descrito por el modelo nvp activo, por lo que la utilización de energía se reduce en reposo y en función del funcionamiento del procesador. La herramienta nvpmodel ayuda a crear y modificar nuevos modos de energía según los requisitos de aplicación y TDP.

El módulo NVIDIA Jetson lleva el rendimiento de la supercomputadora al límite dentro de un SOM (sistema en módulo) de factor de forma pequeño. Igual a 21 TOPS de computación acelerada envía la potencia para ejecutar redes neuronales actuales en paralelo y procesar datos de varios sensores de alta resolución. Este módulo es ideal para sistemas de IA basados ​​en alto rendimiento, como instrumentos médicos, robots comerciales, sistemas integrados de AIoT, cámaras inteligentes, inspección óptica automatizada, sensores de alta resolución, fábricas inteligentes, etc.

Software

El módulo NVIDIA Jetson simplemente se admite a través de arquitecturas de software combinadas, de modo que hará que los desarrolladores de software trabajen mucho más fácilmente. Este enfoque combinado simplemente ahorra a los desarrolladores la molestia de la codificación repetitiva mientras mejora sus formaciones en otros módulos de Jetson.

NVIDIA JetPack SDK está disponible con un sistema operativo Linux, bibliotecas aceleradas CUDA-X y API para diferentes campos de aprendizaje automático como visión por computadora, aprendizaje profundo, etc. También es compatible con marcos de aprendizaje automático como Caffe, TensorFlow, Keras y visión por computadora OpenCV. bibliotecas
NVIDIA Jetson ofrece diferentes herramientas de software para sus módulos, que se analizan a continuación.

SDK de NVIDIA JetPack

Los paquetes de software de la plataforma Jetson como TensorRT, CUDA Toolkit, cuDNN, GStreamer, OpenCV y Visionworks se ensamblan sobre L4T a través del kernel LTS Linux.

Paquete de controladores NVIDIA Jetson Linux

Proporciona el kernel de Linux, los controladores de NVIDIA, el cargador de arranque, el sistema de archivos de muestra, las utilidades de actualización y mucho más para la plataforma Jetson.

SDK de NVIDIA DeepStream

Es un conjunto de API y bibliotecas para ayudar a los desarrolladores a diseñar y organizar soluciones sólidas de IVA (análisis de video inteligente) en la plataforma Jetson. Se utiliza para construir aplicaciones complejas como codificación, captura de imágenes, decodificación, inferencia con TensorRT, etc.

SDK de NVIDIA Isaac

Es un conjunto de bibliotecas, API, controladores y otras herramientas que agregarán IA a los robots de próxima generación para navegación, percepción y manipulación. Por lo tanto, ayuda a crear e implementar robótica impulsada por IA.

Tipos de NVIDIA Jetson

El módulo NVIDIA Jetson viene con memoria, GPU, CPU, interfaces de alta velocidad, administración de energía, etc. Estos módulos están disponibles en diferentes rendimientos, eficiencia energética y variaciones de factores de forma para que se utilicen en varias industrias. Hay diferentes dispositivos NVIDIA Jetson disponibles que se analizan a continuación.

NVIDIA Supersónico Nano

El módulo NVIDIA Jetson Nano es adecuado para desarrolladores o estudiantes y también para principiantes porque está diseñado principalmente para el aprendizaje y la enseñanza prácticos. El tamaño de este módulo es pequeño, sin embargo, su eficiencia energética y su rendimiento son altos para que sea perfecto para ejecutar múltiples redes neuronales paralelas, cargas de trabajo de IA y procesamiento de datos de sensores de alta resolución, todo al mismo tiempo. Por lo tanto, el módulo Jetson Nano es un dispositivo de borde muy popular que se utiliza para fabricar productos y soluciones de IA integrados.

  NVIDIA Supersónico Nano
NVIDIA Supersónico Nano

Este módulo es perfecto para aplicaciones de visión artificial basadas en IA y realiza tareas de visión artificial como detección de objetos, segmentación de imágenes, clasificación de imágenes, etc. Este módulo es muy compatible con software de visión artificial de código abierto y bibliotecas de aprendizaje automático OpenCV.

Serie NVIDIA Jetson TX2

El módulo NVIDIA Jetson TX2 Series está diseñado en tamaño de tarjeta de crédito. Las características de este módulo incluyen principalmente una GPU NVIDIA Pascal, hasta 8 GB de memoria, 59,7 GB/s de ancho de banda de memoria e interfaces de hardware estándar. Este módulo proporciona un rendimiento de hasta 2,5 veces en comparación con el módulo NVIDIA Jetson Nano.

Este módulo ejecuta de manera muy eficiente redes neuronales profundas en dispositivos periféricos para lograr una mayor precisión. Los módulos que están disponibles en la serie incluyen principalmente Jetson TX2 4GB, Jetson TX2i, Jetson TX2 y Jetson TX2 NX. El módulo NVIDIA Jetson TX2 NX simplemente comparte la compatibilidad de pines y factor de forma a través de Jetson Xavier NX y Jetson Nano.

  Serie NVIDIA Jetson TX2
Serie NVIDIA Jetson TX2

Los tres módulos restantes compartirán el factor de forma del módulo Jetson TX2 original. El uso de la serie TX2 simplemente varía en varias industrias como la agricultura, la fabricación, las ciencias de la vida, el comercio minorista, etc. El módulo Jetson TX2i de los módulos restantes es el más adecuado para dispositivos de IA de alto rendimiento como equipos médicos, cámaras de visión artificial y robots industriales porque de su fuerte diseño.

Este módulo es un dispositivo informático de inteligencia artificial integrado muy rápido que ofrece una alta eficiencia energética, como 7,5 W, capacidades de supercomputadora principalmente para dispositivos de inteligencia artificial perimetrales y también varias interfaces de hardware para incorporar fácilmente en diferentes productos y factores de forma.

NVIDIA Supersónico Xavier NX

El módulo NVIDIA Jetson Xavier NX es muy pequeño en comparación con una tarjeta de crédito con alto rendimiento y eficiencia energética. Esto también se conoce como la supercomputadora de inteligencia artificial más pequeña del mundo para sistemas integrados y de borde. Este módulo ayuda especialmente a ejecutar sistemas completos de IA.

  Javier NX
Javier NX

Las características de Jetson Xavier NX también admiten tecnologías nativas de la nube, por lo que es fácil para los desarrolladores actualizar y administrar productos de IA. Este módulo es compatible con todos los modelos y marcos de IA populares. Por lo tanto, este módulo se adapta completamente a los sistemas de inteligencia artificial de alto rendimiento, como cámaras inteligentes, sistemas de visión de alta resolución impulsados ​​por inteligencia artificial, drones, robots comerciales o equipos médicos.

El módulo NVIDIA Jetson Xavier NX ofrece 21 operaciones Tera por segundo o TOPS para ejecutar una carga de trabajo de IA actual al consumir 10 W de energía. El factor de forma de este módulo es más compacto en comparación con una tarjeta de crédito. El módulo Xavier NX ejecuta varias redes neuronales a la vez y procesa datos de diferentes sensores de alta resolución. Este tipo de módulo se utiliza para diseñar aplicaciones para dispositivos informáticos integrados y periféricos que necesitan un alto rendimiento aunque con importantes limitaciones de peso, tamaño y potencia.

Serie NVIDIA Jetson AGX Xavier

El módulo NVIDIA Jetson AGX Xavier Series está desarrollado principalmente para máquinas inteligentes autónomas de próxima generación. Este módulo ofrece hasta 32 operaciones TOPS o Tera por segundo de rendimiento de IA cuando se usa tan solo 10 vatios. El desarrollador de software simplemente puede organizar rápidamente las redes neuronales con un conjunto de herramientas de software de IA de NVIDIA.

  AGX Xavier Series
AGX Xavier Series

Este módulo proporciona varias especificaciones y capacidades de seguridad funcional para que los desarrolladores creen productos certificados de seguridad o industriales. El alto rendimiento de este módulo puede hacerlos apropiados para numerosas máquinas autónomas como robots logísticos e industriales, sistemas de fábrica y drones grandes.

Kit de desarrollo de Jetson Xavier NX

El kit para desarrolladores jetson xavier nx incluye un sólido módulo Xavier NX de bajo consumo que se utiliza para dispositivos perimetrales alimentados por IA. Este módulo tiene algunas características como soporte nativo en la nube y acelera la pila de software NVIDIA en solo 10 W con más de 10 veces el rendimiento del Jetson TX2. Este kit de desarrollador lo utilizan los fabricantes de máquinas inteligentes, las nuevas empresas de IA y los desarrolladores de aplicaciones para diseñar productos modernos con inferencia de IA compacta y altamente precisa y factor de forma de bajo consumo.

  Kit de desarrollador NX
Kit de desarrollador NX

Jetson AGXXavier Industrial

El módulo Jetson AGX Xavier Industrial es parte de la serie AGX Xavier. El diseño de este módulo es un factor de forma compatible con pines que controla los modelos de IA más actuales en aplicaciones exigentes. Este módulo proporciona especificaciones extendidas de vibración, choque, temperatura, funciones de seguridad avanzadas, hasta 4 veces la memoria y 20 veces el rendimiento del módulo TX2i.

  Javier Industrial
Javier Industrial

Este módulo es muy útil para que los diseñadores diseñen automatización, robótica y otros productos inteligentes. Además, también diseña productos resistentes y con certificación de seguridad para ofrecer un alto rendimiento para aplicaciones industriales, funcionales y de seguridad integradas en IA en un diseño de factor de forma resistente y de bajo consumo.

Ventajas

El ventajas de nvidia jetson Incluya lo siguiente.

  • NVIDIA Jetson es apropiado para estudiantes, desarrolladores individuales y diferentes organizaciones.
  • La plataforma Jetson es muy popular porque viene con varios beneficios como flexibilidad modular, software unificado y soporte para tecnologías nativas de la nube.
  • Esta placa proporciona un conjunto de módulos que son muy útiles para todo, desde aplicaciones básicas de IA hasta dispositivos muy complejos alimentados por IA.
  • Esta placa está impulsada por energía a través de una arquitectura de software unificada que ayuda a los desarrolladores a evitar la codificación repetitiva. Una vez que necesitan capacidad AI/ML, pueden incluir un módulo Jetson relacionado al dispositivo y se encarga del trabajo pesado.
  • La plataforma NVIDIA Jetson simplemente admite tecnologías y flujos de trabajo nativos de la nube, como orquestación y contenedorización, lo que brinda a los desarrolladores la capacidad de desarrollar rápidamente y expandir productos de IA.
  • NVIDIA JetPack SDK está disponible con un sistema operativo Linux, API y bibliotecas de aceleración CUDA-X para una variedad de dominios de aprendizaje automático, como visión por computadora y aprendizaje profundo. También proporciona soporte para marcos de aprendizaje automático como Caffe y Keras, bibliotecas TensorFlow y OpenCV de visión artificial.

Desventajas

Tiene muy pocas desventajas teniendo en cuenta el precio.

  • El módulo nano NVIDIA Jetson no está disponible con wifi en el interior.
  • El módulo nano NVIDIA Jetson incluye solo dos pines PWM en la placa.

Aplicaciones

Las aplicaciones de NVIDIA Jetson incluyen lo siguiente.

  • El módulo NVIDIA Jetson ofrece sistemas integrados superiores que se utilizan para fabricar productos de IA para una variedad de escenarios. Este es un módulo de bajo consumo de energía utilizado para IA que incluye computadoras perimetrales de alto rendimiento, modulares y de factor de forma pequeño.
  • Las placas Nvidia Jetson están diseñadas principalmente para su uso en sistemas integrados como drones, robots y otros dispositivos que necesitan un procesamiento potente en un factor de forma pequeño. Las aplicaciones comunes de las placas Jetson incluyen principalmente dispositivos médicos, vehículos autónomos, señalización digital, auriculares AR/VR, aplicaciones de ciudades inteligentes, etc.
  • Este módulo admite arquitecturas de software unificadas para simplificar mucho el trabajo de los desarrolladores de software.
    Los módulos y dispositivos NVIDIA Jetson son dispositivos perimetrales optimizados que se utilizan para desarrollar sistemas Edge AI.
  • NVIDIA Jetson Nano Developer Kit es una computadora muy poderosa y pequeña que ejecuta varias redes neuronales en paralelo para varias aplicaciones como detección de objetos, clasificación de imágenes, procesamiento y segmentación del habla.
  • El módulo NVIDIA Jetson Nano es perfecto para aplicaciones de visión artificial basadas en IA y ejecutan tareas de visión de IA como segmentación de imágenes, clasificación de imágenes, detección de objetos, etc.
  • Los módulos Nano de NVIDIA Jetson brindan capacidades nuevas e increíbles a miles de sistemas de IA pequeños y de bajo consumo
  • El módulo NVIDIA Jetson Nano es compatible con las bibliotecas de aprendizaje automático OpenCV y el software de visión artificial de código abierto.

Q). ¿Cuál es el consumo de energía de los módulos Jetson?

A). El consumo de energía del módulo Jetson varía según el modelo y el uso. El módulo Jetson Xavier, por ejemplo, tiene un consumo de energía típico de alrededor de 15w a 30w, mientras que el Jetson TX2 puede consumir entre 7w y 15w.

Q). ¿Se puede utilizar Jetson para la detección y el seguimiento de objetos en tiempo real?

A). Sí, Jetson Platforms puede manejar la detección y el seguimiento de la visión. El módulo Nano es una GPU de alto rendimiento con una plataforma informática de borde que se puede utilizar principalmente para la detección, el conteo y el seguimiento.

Q). ¿Con qué tipos de sensores puede interactuar Jetson?

A). Los sensores de visión se utilizan para conectar Jetson con varias interfaces de cámara como USB, MIPI CSI y Ethernet. También pueden interactuar con lidar, sensor ultrasónico y otros tipos, además de usar los diferentes tipos de interfaz como I2C, SPI, etc.

Q). ¿Cuál es la diferencia entre Jetson y Raspberry Pi?

A). La principal diferencia entre estas dos placas es; NVIDIA Jetson se desarrolló para manejar tareas de inteligencia artificial y visión artificial de alta exigencia, mientras que la placa Raspberry Pi 4 tiene una GPU multimedia de bajo consumo que se utiliza para informática y educación de uso general. Jetson se puede usar para funciones más avanzadas, como la decodificación y codificación de video acelerada por hardware utilizando su potente GPU (Unidad de procesamiento gráfico) y CPU (Unidad central de procesamiento).

Q). ¿Se puede usar Jetson para aplicaciones de robótica autónoma?

A). La robótica autónoma y la industria del mañana estarán impulsadas por NVIDIA Jetson para máquinas inteligentes y robótica.

Así, esto es una descripción general de NVIDIA Jetson – ventajas y sus aplicaciones. Este módulo es la plataforma líder en todo el mundo que utilizan los desarrolladores para crear productos avanzados de IA en todas las industrias. Estos módulos también son utilizados por estudiantes y entusiastas para obtener experiencia práctica en el aprendizaje de IA para hacer proyectos increíbles. La plataforma de Jetson se compone principalmente de pequeños kits de desarrollo y módulos de producción de bajo consumo. Aquí hay una pregunta para ti, ¿qué es NVIDIA?