Liberar el potencial de los sistemas de IoT: el papel del aprendizaje profundo y la IA

El Internet de las cosas (IoT), una red de dispositivos interconectados equipados con sensores y software, ha revolucionado la forma en que interactuamos con el mundo que nos rodea, permitiéndonos recopilar y analizar datos como nunca antes.

A medida que la tecnología avanza y se vuelve más accesible, más objetos están equipados con capacidades de conectividad y sensores, lo que los convierte en parte del ecosistema de IoT. Se espera que la cantidad de sistemas de IoT activos alcance los 29,7 mil millones para 2027, lo que marca un aumento significativo con respecto a los 3,6 mil millones de dispositivos registrados en 2015. Este crecimiento exponencial requiere una enorme demanda de soluciones para mitigar los desafíos computacionales y de seguridad de las aplicaciones de IoT. En particular, la IoT industrial, la automoción y los hogares inteligentes son tres áreas principales con requisitos específicos, pero comparten una necesidad común de sistemas de IoT eficientes que permitan una funcionalidad y un rendimiento óptimos.

Se puede aumentar la eficiencia de los sistemas de IoT y liberar su potencial a través de la Inteligencia Artificial (IA), creando arquitecturas AIoT. Al utilizar algoritmos sofisticados y técnicas de aprendizaje automático, la IA permite a los sistemas de IoT tomar decisiones inteligentes, procesar grandes cantidades de datos y extraer información valiosa. Por ejemplo, esta integración impulsa la optimización operativa en IoT industrial, facilita vehículos autónomos avanzados y ofrece gestión inteligente de energía y experiencias personalizadas en hogares inteligentes.

Entre los diferentes algoritmos de IA, el aprendizaje profundo que aprovecha las redes neuronales artificiales es muy apropiado para los sistemas de IoT por varias razones. Una de las razones principales es su capacidad para aprender y extraer funciones automáticamente a partir de datos sin procesar de los sensores. Esto es particularmente valioso en aplicaciones de IoT donde los datos pueden no estar estructurados, ser ruidosos o tener relaciones complejas. Además, el aprendizaje profundo permite que las aplicaciones de IoT manejen datos en tiempo real y en tiempo real de manera eficiente. Esta capacidad permite el análisis y la toma de decisiones continuos, lo cual es crucial en aplicaciones urgentes, como el monitoreo en tiempo real, el mantenimiento predictivo o los sistemas de control autónomo.

A pesar de las numerosas ventajas del aprendizaje profundo para los sistemas de IoT, su implementación presenta desafíos inherentes, como la eficiencia y la seguridad, que deben abordarse para aprovechar al máximo su potencial. ElVerymieficienteDeeplganando enIoT(VEDLIoT) tiene como objetivo resolver estos desafíos.

En la Fig. 1 se ofrece una descripción general de alto nivel de los diferentes componentes de VEDLIoT. El proyecto VEDLIoT integra IoT con el aprendizaje profundo para acelerar las aplicaciones y optimizar la eficiencia energética de IoT. VEDLIoT logra estos objetivos mediante la utilización de varios componentes clave:

VEDLIoT se concentra en algunos casos de uso, como los métodos de interacción orientados a la demanda en hogares inteligentes (ver Fig. 2), aplicaciones industriales de IoT como la clasificación de la condición del motor y la detección de arco, y el sistema de frenado automático de emergencia para peatones (PAEB) en el sector automotriz ( ver figura 3). VEDLIoT optimiza sistemáticamente dichos casos de uso a través de un enfoque ascendente mediante el empleo de ingeniería de requisitos y técnicas de verificación, como se muestra en la Fig. 1. El proyecto combina conocimiento de nivel experto de diversos dominios para crear un middleware robusto que facilita el desarrollo a través de pruebas, evaluación comparativa, y marcos de implementación, asegurando en última instancia la optimización y efectividad de los algoritmos de aprendizaje profundo dentro de los sistemas de IoT. En las siguientes secciones, presentamos brevemente cada componente del proyecto VEDLIoT.

Hay varios aceleradores disponibles para una amplia gama de aplicaciones, desde pequeños sistemas integrados con presupuestos de energía en el rango de milivatios hasta plataformas en la nube de alta potencia. Estos aceleradores se clasifican en tres grupos principales según sus valores máximos de rendimiento, como se muestra en la Fig. 4.

El primer grupo es la categoría de potencia ultrabaja (< 3 W), que consta de núcleos estilo microcontrolador energéticamente eficientes combinados con aceleradores compactos para funciones específicas de aprendizaje profundo. Estos aceleradores están diseñados para aplicaciones de IoT y ofrecen interfaces simples para una fácil integración. Algunos aceleradores de esta categoría proporcionan interfaces de cámara o audio, lo que permite tareas eficientes de procesamiento de visión o sonido. Pueden ofrecer una interfaz USB genérica, lo que les permite funcionar como dispositivos aceleradores conectados a un procesador host. Estos aceleradores de consumo de energía ultrabaja son ideales para aplicaciones de IoT donde la eficiencia energética y la compacidad son consideraciones clave, proporcionando un rendimiento optimizado para tareas de aprendizaje profundo sin energía excesiva.

El caso de uso de mantenimiento predictivo de VEDLIoT es un buen ejemplo y utiliza un acelerador de potencia ultrabaja. Uno de los criterios de diseño más importantes es el bajo consumo de energía, ya que se trata de una pequeña caja alimentada por baterías que puede instalarse externamente en cualquier motor eléctrico y debe monitorear el motor electrónico durante al menos tres años sin necesidad de cambiar la batería.

La siguiente categoría es el grupo de bajo consumo (de 3 W a 35 W), que se dirige a una amplia gama de aplicaciones automotrices y de automatización. Estos aceleradores cuentan con interfaces de alta velocidad para memorias y periféricos externos y comunicación eficiente con otros dispositivos de procesamiento o sistemas host como PCIe. Admiten enfoques modulares y basados ​​en microservidores y brindan compatibilidad con varias plataformas. Además, muchos aceleradores de esta categoría incorporan potentes procesadores de aplicaciones capaces de ejecutar sistemas operativos Linux completos, lo que permite un desarrollo e integración de software flexibles. Algunos dispositivos de esta categoría incluyen circuitos integrados dedicados a aplicaciones específicas (ASIC), mientras que otros cuentan con unidades de procesamiento de gráficos (GPU) integradas de NVIDIA. Estos aceleradores equilibran la eficiencia energética y las capacidades de procesamiento, lo que los hace adecuados para diversas tareas de computación intensiva en los dominios de automatización y automoción.

La categoría de aceleradores de alto rendimiento (> 35 W) está diseñada para escenarios exigentes de inferencia y entrenamiento en servidores perimetrales y en la nube. Estos aceleradores ofrecen una potencia de procesamiento excepcional, lo que los hace adecuados para tareas computacionales intensivas. Normalmente se implementan como tarjetas de extensión PCIe y proporcionan interfaces de alta velocidad para una transferencia de datos eficiente. Los dispositivos de esta categoría tienen altas potencias de diseño térmico (TDP), lo que indica su capacidad para manejar cargas de trabajo importantes. Estos aceleradores incluyen ASIC dedicados, conocidos por su desempeño especializado en tareas de Deep Learning. Ofrecen capacidades de procesamiento aceleradas, lo que permite tiempos de inferencia y entrenamiento más rápidos. Algunas GPU de consumo también pueden incluirse en las comparaciones comparativas para proporcionar una perspectiva más amplia.

Seleccionar el acelerador adecuado entre la amplia gama de opciones disponibles antes mencionada no es sencillo. Sin embargo, VEDLIoT asume esta responsabilidad crucial al realizar valoraciones y evaluaciones exhaustivas de varias arquitecturas, incluidas GPU, matrices de puertas programables en campo (FPGA) y ASIC. El proyecto examina cuidadosamente el rendimiento y el consumo de energía de estos aceleradores para garantizar su idoneidad para casos de uso específicos. Al aprovechar su experiencia y su proceso de evaluación integral, VEDLIoT guía la selección de aceleradores de aprendizaje profundo dentro del proyecto y en el panorama más amplio de las aplicaciones de IoT y aprendizaje profundo.

Los modelos de aprendizaje profundo entrenados tienen una redundancia que a veces se puede comprimir hasta 49 veces su tamaño original, con una pérdida de precisión insignificante. Aunque muchos trabajos están relacionados con dicha compresión, la mayoría de los resultados muestran aceleraciones teóricas que solo en ocasiones se traducen en una ejecución del hardware más eficiente, ya que no consideran el hardware de destino. Por otro lado, el proceso de implementación de modelos de Deep Learning en dispositivos perimetrales implica varios pasos, como entrenamiento, optimización, compilación y tiempo de ejecución. Aunque hay varios marcos disponibles para estos pasos, su interoperabilidad puede variar, lo que resulta en diferentes resultados y niveles de desempeño. VEDLIoT aborda estos desafíos a través de la optimización de modelos con reconocimiento de hardware utilizando ONNX, un formato abierto para representar modelos de aprendizaje automático, lo que garantiza la compatibilidad con el ecosistema abierto actual. Además, Renode, un marco de simulación de código abierto, sirve como simulador funcional para sistemas heterogéneos complejos, lo que permite la simulación de sistemas en chips (SoC) completos y la ejecución del mismo software utilizado en el hardware.

Además, VEDLIoT utiliza el kit de herramientas EmbeDL para optimizar los modelos de aprendizaje profundo. El kit de herramientas EmbeDL ofrece herramientas y técnicas integrales para optimizar los modelos de aprendizaje profundo para una implementación eficiente en dispositivos con recursos limitados. Al considerar las limitaciones y características específicas del hardware, el kit de herramientas permite a los desarrolladores comprimir, cuantificar, podar y optimizar modelos mientras minimiza la utilización de recursos y mantiene una alta precisión de inferencia. EmbeDL se centra en la optimización del hardware y garantiza que los modelos de aprendizaje profundo se puedan implementar de manera efectiva en dispositivos perimetrales y dispositivos de IoT, liberando el potencial de aplicaciones inteligentes en varios dominios. Con EmbeDL, los desarrolladores pueden lograr un rendimiento superior, una inferencia más rápida y una eficiencia energética mejorada, lo que lo convierte en un recurso esencial para quienes buscan maximizar el potencial del aprendizaje profundo en aplicaciones del mundo real.

Dado que VEDLIoT tiene como objetivo combinar el aprendizaje profundo con los sistemas de IoT, garantizar la seguridad se vuelve crucial. Para enfatizar estos aspectos en su núcleo, el proyecto aprovecha entornos de ejecución confiables (TEE), como Intel SGX y ARM TrustZone, junto con tiempos de ejecución de código abierto como WebAssembly. Los TEE proporcionan entornos seguros que aíslan los componentes de software críticos y protegen contra el acceso no autorizado y la manipulación. Al utilizar WebAssembly, VEDLIoT ofrece un entorno común para la ejecución en todo el proceso, desde IoT hasta el borde y la nube.

En el contexto de TEE, VEDLIoT presenta Twine y WaTZ como tiempos de ejecución confiables para SGX de Intel y TrustZone de ARM, respectivamente. Estos tiempos de ejecución simplifican la creación de software dentro de entornos seguros aprovechando WebAssembly y su interfaz modular. Esta integración cierra la brecha entre los entornos de ejecución confiables y AIoT, lo que ayuda a integrar sin problemas los marcos de aprendizaje profundo. Dentro de los TEE que utilizan WebAssembly, VEDLIoT logra una protección sólida independiente del hardware contra interferencias maliciosas, preservando la confidencialidad tanto de los datos como de los modelos de aprendizaje profundo. Esta integración destaca el compromiso de VEDLIoT de proteger los componentes de software críticos, permitir un desarrollo seguro y facilitar aplicaciones AIoT con privacidad mejorada en entornos de nube.

Además, VEDLIoT emplea un marco arquitectónico especializado, como se muestra en la Fig. 5, que ayuda a definir, sincronizar y coordinar los requisitos y especificaciones de los componentes de IA y los elementos del sistema tradicional de IoT. Este marco consta de varias vistas arquitectónicas que abordan las preocupaciones de diseño y los aspectos de calidad específicos del sistema, incluidas las consideraciones éticas y de seguridad. Al utilizar estas vistas de arquitectura como plantillas y completarlas, se pueden identificar correspondencias y dependencias entre las vistas de arquitectura que definen la calidad y otras decisiones de diseño, como la construcción de modelos de IA, la selección de datos y la arquitectura de comunicación. Este enfoque holístico garantiza que los aspectos éticos y de seguridad se integren perfectamente en el diseño general del sistema, lo que refuerza el compromiso de VEDLIoT con la solidez y aborda los desafíos emergentes en los sistemas de IoT habilitados para IA.

Las plataformas de hardware tradicionales solo admiten sistemas de IoT homogéneos. Sin embargo, RECS, una plataforma de hardware de microservidor compatible con IA, permite la integración perfecta de diversas tecnologías. Por lo tanto, permite ajustar la plataforma hacia aplicaciones específicas, proporcionando una plataforma integral desde la nube hasta el borde. Todas las variantes de RECS comparten el mismo paradigma de diseño para ser una infraestructura de comunicación altamente integrada y densamente acoplada. Para las distintas variantes de RECS, se utilizan diferentes tamaños de microservidores, desde el tamaño de una tarjeta de crédito hasta el tamaño de una tableta. Esto permite a los clientes elegir la mejor variante para cada caso de uso y escenario. La figura 6 ofrece una descripción general de las variantes de RECS.

Las tres plataformas RECS diferentes son adecuadas para el uso de nube/centro de datos (RECS|Box), borde (t.RECS) y IoT (u.RECS). Todos los servidores RECS utilizan microservidores estándar de la industria, que son intercambiables y permiten el uso de la última tecnología con solo cambiar un microservidor. Los proveedores de hardware de estos microservidores ofrecen un amplio espectro de diferentes arquitecturas informáticas como CPU Intel, AMD y ARM, FPGA y combinaciones de una CPU con una GPU integrada o un acelerador de IA.

VEDLIoT aborda el desafío de llevar el aprendizaje profundo a dispositivos IoT con rendimiento informático limitado y presupuestos de energía bajos. La plataforma de hardware VEDLIoT AIoT proporciona componentes de hardware optimizados y aceleradores adicionales para aplicaciones de IoT que cubren todo el espectro, desde integradas hasta la nube. Por otro lado, se emplea un potente middleware para facilitar la programación, prueba y despliegue de redes neuronales en hardware heterogéneo. En todo el marco se incorporan nuevas metodologías para la ingeniería de requisitos, junto con conceptos de seguridad y protección. Los conceptos se prueban e impulsan mediante casos de uso desafiantes en sectores industriales clave como la automoción, la automatización y los hogares inteligentes.

Tenga en cuenta que este artículo también aparecerá en la decimoquinta edición de nuestra publicación trimestral.

Guarde mi nombre, correo electrónico y sitio web en este navegador para la próxima vez que comente.

D