Hailo-8 DL es un procesador de aprendizaje profundo especializado que impulsa dispositivos inteligentes con un rendimiento informático de clase de centro de datos.
Parece que no hace mucho tiempo que la gente estaba confundida acerca de lo que era la “nube”. Luego pensamos si la nube era una buena idea, y ahora la mayoría de la gente da por sentado el concepto de la nube.
Por supuesto, la nube tiene muchas ventajas, como reducir o eliminar la necesidad de que las empresas compren equipos costosos y construyan y operen sus propios centros de datos. También está el hecho de que la nube nos permite poner una gran cantidad de recursos en una gran cantidad de datos. Su procesamiento requiere un proceso computacionalmente intensivo de enormes proporciones. Lamentablemente, los retrasos, la fiabilidad (si se pierde la conexión), la privacidad, la seguridad (“Donde la seguridad y la privacidad se encuentran en el siglo XXI”).
Otra consideración es la gran cantidad de datos sin procesar que deben recopilarse en el perímetro (de Internet) y enviarse a la nube. En muchos casos, tiene más sentido preprocesar los datos en el perímetro para producir información útil y procesable que se pueda usar en el perímetro y enviar a la nube para su agregación, almacenamiento y procesamiento y análisis adicionales.
Como resultado de todo esto, la inteligencia y el análisis se están trasladando de la nube a los dispositivos de borde en forma de sensores inteligentes y sistemas más sofisticados.
La inteligencia y el análisis se están trasladando a los dispositivos perimetrales. (Fuente: Hailo.ai)
Los principales beneficios de trasladarse al borde son baja latencia, bajo consumo de energía, bajo costo, alta privacidad (los datos valiosos permanecen locales), alta seguridad (si se abordan correctamente) y alta confiabilidad (los dispositivos del borde pueden continuar ejecutándose más tarde). ). perder la conexión con la “nave nodriza”).
Como muchas cosas, esto suena genial cuando hablas rápido y saludas con entusiasmo, pero para mover la inteligencia y el análisis a los dispositivos de última generación, necesitas la cantidad adecuada de potencia de procesamiento. Las soluciones de microcontroladores tradicionales simplemente no tienen la potencia de procesamiento, mientras que las FPGA y las unidades de procesamiento de gráficos (GPU) consumen mucha energía.
Lo que necesita es una nueva clase de dispositivos diseñados desde cero para llevar la inteligencia de la nube a los dispositivos integrados. Muchas empresas están trabajando arduamente para abordar este problema desde diferentes ángulos. Una de las primeras empresas en salir fue Hailo con Hailo-8 DL Procesadores para dispositivos de borde.
Procesador de aprendizaje profundo Hailo-8 (Fuente: Hailo.ai
Hailo-8 DL es un procesador de aprendizaje profundo especializado que ofrece rendimiento informático de clase de centro de datos en tiempo real a dispositivos inteligentes con un consumo de energía, tamaño y costo mínimos.
El Hailo-8 DL autónomo (no se requiere DRAM externa) ofrece alto rendimiento (26 tera operaciones por segundo, o TOPS), alta eficiencia (3 TOPS/W) y alta flexibilidad (totalmente programable con SDK completo). y escenarios de implementación alternativos (modo independiente o coprocesador).
¿Por qué no echas un vistazo a esta oportunidad? este video Demuestra la clasificación utilizando el procesador Hailo-8 DL.
Por un lado, la tarea de clasificación anterior es muy emocionante. Por otro lado, solo usa la resolución común de la industria de 224 x 224 (aunque el Halio-8 DL muestra un mejor rendimiento).justo arriba[ the ante, take a look at this detection video — unlike other solutions that need to downscale the resolution to meet real-time requirements, the Hailo-8 DL is working with full HD resolution without the need for downscale. Working with higher resolution allows the same objects to be detected from further away.
Un aspecto de todo esto que encontré muy interesante es el concepto de una arquitectura de flujo de datos definida por estructura. Comience con una arquitectura de red neuronal escrita usando algo como TensorFlow de Google. Esto se asigna automáticamente capa por capa a los recursos de control (verde), memoria (naranja) y cómputo (azul) del procesador Hailo, como se muestra a continuación.
Arquitectura de flujo de datos definida por la estructura (Fuente: Haolo.ai)
Por supuesto, el diagrama anterior es una simplificación, pero ayuda a transmitir la idea general. El completo SDK de Hailo cuenta con una solución completa, desde modelos preentrenados hasta la implementación con conversión numérica automática y creación de perfiles precisos.
Otra sorpresa es que, aunque Hailo se fundó en 2017, se necesitaron solo dos años desde el inicio para tener un silicio completamente funcional y ahora se está implementando para sus primeros clientes.
Parte de esta implementación incluye el programa Hailo-8 Fast Track con una suite de desarrolladores para dispositivos Hailo-8.
Junta de evaluación de Hailo-8 (Fuente: Hailo.ai)
Disponible para clientes selectos, este paquete de desarrolladores incluye la placa de evaluación anterior, la licencia SDK, ejemplos de redes neuronales estándar de la industria, capacitación en el sitio y soporte. Esta suite permite a los clientes desarrollar, crear prototipos y evaluar el rendimiento de productos basados en el procesador Hailo-8 DL.
Personalmente, creo que estamos listos para ingresar a un maravilloso mundo nuevo rodeado de dispositivos inteligentes cuyo objetivo es hacer que nuestras vidas sean menos frustrantes y más satisfactorias (intento no insistir en la posibilidad de un apocalipsis de IA). y tú ¿Está emocionado o intimidado por las posibilidades futuras?