El camino a seguir para la IA embebida

En abril de 2021, publiqué un artículo en Printed Circuit Design & Fab, donde proclamé que el futuro de la IA está integrado. En resumen, mi visión es que los sistemas embebidos aprovecharán un mayor uso de la IA en el dispositivo final, lo que significa que dependerán menos de las plataformas en la nube o de los centros de datos para la inferencia.

Sin duda, creo que el futuro de la IA sigue estando integrado, pero no con el conjunto de chips o la arquitectura del sistema que habría pensado. En el momento de escribir el artículo anterior, todavía estaba aferrado a la idea de que la lógica combinacional + secuencial podría conquistar todos los problemas de computación. La experiencia ha demostrado que simplemente no puede.

Esta visión se ha confirmado en los últimos 18 meses, especialmente con el lanzamiento de muchos nuevos chips aceleradores de IA en 2022. Para los diseñadores y ingenieros de PCB, estos chips son una excelente opción para agregar rápidamente capacidades de IA a un diseño a través de interfaces estándar. Típicamente, se accede a estos a través de una línea PCIe Gen2 o más rápida, posiblemente a través de USB, o incluso con algo tan lento como SPI para aceleradores de baja computación. Los chips también vienen en paquetes estándar (cuádruple o BGA) que colocarías y enrutarías de la manera usual. Para ver dónde ha llegado la IA en dispositivo y hacia dónde se dirige a continuación, decidí presentar algunos de los lanzamientos de aceleradores de IA más interesantes a lo largo de 2022.

Lanzamientos de Procesadores de IA en 2022

Ya que el mundo ha entrado ahora en la era de la IA, la industria del hardware tiene mucho terreno que recuperar para rivalizar con la industria del software. Algunos de los procesadores avanzados más recientes que apuntan a aplicaciones de IA embebida se enumeran en la tabla a continuación.

Estas startups e instituciones de investigación están impulsando la IA embebida hacia adelante con avances considerables en sus chips personalizados. Por el contrario, no hemos visto mucho más desarrollo de productos de IA embebida establecidos como Google Coral, que fue uno de los módulos o chips aceleradores fáciles de usar. Aparte de estos procesadores especializados, hay otros dos caminos que los diseñadores pueden tomar para incorporar capacidades de IA embebida en sus diseños.

Tres Caminos hacia la IA Embebida

Después de examinar las tendencias de estas startups, fabricantes de semiconductores establecidos y la comunidad de código abierto, hay tres vías para implementar IA embebida en un nuevo sistema:

Aceleradores de software en MCUs – El camino de menor computación para acelerar la inferencia de IA, etiquetado/pre-procesamiento y entrenamiento está en el firmware/software. Paquetes como TinyML permiten a los desarrolladores implementar rápidamente técnicas de aceleración basadas en software que aceleran la inferencia. Estos métodos involucran la manipulación de datos o modelos para reducir el número de pasos de procesamiento requeridos en la inferencia. Con estas técnicas, los desarrolladores ahora pueden ejecutar modelos de inferencia más simples en pequeños MCUs, todo con lógica secuencial + combinacional simple.

Silicio personalizado – No hay posibilidad de que los SoCs personalizados desaparezcan pronto, ya que todos los nombres tecnológicos hiperescalados desarrollan sus propias capacidades internas de desarrollo de chips. Con núcleos prefabricados de ARM y con un estándar abierto como RISC-V, los diseñadores de chips pueden crear rápidamente un diseño de núcleo que implementa operaciones de computación de IA en el nivel lógico como una instrucción de hardware. Esto reduce masivamente el consumo de energía y el número de operaciones de computación bruta.

FPGAs – Ha habido un impulso continuo para mover los FPGAs más allá de su papel histórico como herramientas de prototipado de chips y hacia el ámbito principal como procesadores de grado de producción. Los proveedores de semiconductores ahora están apoyando la implementación de RISC-V y la aceleración de IA para construir núcleos FPGA altamente personalizados con tareas de inferencia y entrenamiento de IA implementadas a nivel de instrucción. Todos mis proyectos recientes con clientes para aplicaciones avanzadas (sistemas de imágenes impulsados por IA y fusión de sensores) han sido construidos alrededor de un FPGA como el procesador principal.

¿Hacia Dónde Irá la Industria?

Los productos mencionados anteriormente están todos construidos sobre silicio personalizado. La industria de FPGA no necesita silicio personalizado específicamente para IA, sus clientes pueden usar herramientas de desarrollo para implementar IA a nivel lógico sin preocuparse por diseñar circuitos lógicos para imitar la estructura de una red neuronal. Los proveedores de semiconductores están viendo el valor del enfoque FPGA y están proporcionando las herramientas de desarrollo que los diseñadores necesitan (incluyen recursos de RISC-V) para implementar un núcleo de IA en un FPGA.

En términos de selección y colocación de componentes, significa que algunos sistemas podrían escalar a chips físicamente más pequeños, un BOM más pequeño y la eliminación de una parte de alto riesgo del ensamblaje, a saber, el chip acelerador de IA. Eliminar el acelerador de IA es una gran idea en todos los niveles. Para la fabricación, es probable que se reduzcan los costos generales de componentes y ensamblaje. Para el diseñador de PCB, tienes un chip menos (típicamente con un alto número de E/S en un BGA) y sus periféricos que necesitas colocar y enrutar. Para el desarrollador, elimina la necesidad de desarrollar un controlador para controlar el acelerador externo y luego integrar esto en la aplicación embebida.

Los desarrolladores de IA embebida pueden implementar estas opciones de aceleradores de IA impulsados por hardware en PCBs con el conjunto completo de herramientas de diseño de productos en Altium Designer®. Las características de CAD en Altium Designer permiten todos los aspectos del diseño de sistemas y productos, desde el empaquetado y la disposición de PCB, hasta el diseño de arneses y cables. Cuando hayas terminado tu diseño y quieras liberar los archivos a tu fabricante, la plataforma Altium 365™ facilita la colaboración y el compartir tus proyectos.

Solo hemos arañado la superficie de lo que es posible con Altium Designer en Altium 365. Comienza tu prueba gratuita de Altium Designer + Altium 365 hoy.