O Caminho à Frente para a IA Embarcada

Em abril de 2021, publiquei um artigo na Printed Circuit Design & Fab, onde proclamei que o futuro da IA está embutido. Em resumo, minha visão é de que os sistemas embutidos vão aproveitar um maior uso da IA no dispositivo final, o que significa que dependerão menos de plataformas em nuvem ou centros de dados para inferência.

Sem dúvida, acredito que o futuro da IA ainda está embutido, mas não com o chipset ou arquitetura de sistema que eu teria pensado. Na época da escrita do artigo anterior, eu ainda estava preso à ideia de que a lógica combinacional + sequencial poderia conquistar todos os problemas de computação. A experiência mostrou que simplesmente não pode.

Essa visão foi confirmada nos últimos 18 meses, especialmente com o lançamento de muitos novos chips aceleradores de IA em 2022. Para os designers e engenheiros de PCB, esses chips são uma ótima opção para adicionar rapidamente capacidades de IA a um design através de interfaces padrão. Tipicamente, esses são acessados através de uma via PCIe Gen2 ou mais rápida, possivelmente via USB, ou até mesmo com algo tão lento quanto SPI para aceleradores de baixo processamento. Os chips também vêm em embalagens padrão (quad ou BGA) que você colocaria e rotearia da maneira usual. Para ver onde a IA embarcada chegou e para onde está indo a seguir, decidi apresentar alguns dos lançamentos de aceleradores de IA mais interessantes de 2022.

Lançamentos de Processadores de IA em 2022

Uma vez que o mundo agora entrou na era da IA, a indústria de hardware tem muito terreno para recuperar a fim de rivalizar com a indústria de software. Alguns dos processadores avançados mais recentes direcionados para aplicações de IA embarcada estão listados na tabela abaixo.

Essas startups e instituições de pesquisa estão impulsionando a IA embarcada para frente com avanços consideráveis em seus chips personalizados. Por outro lado, não vimos muito mais desenvolvimento de produtos de IA embarcada estabelecidos como Google Coral, que foi um dos módulos ou chips aceleradores fáceis de usar. Além desses processadores especializados, existem outros dois caminhos que os designers podem seguir para trazer capacidades de IA embarcada para seus projetos.

Três Caminhos para a IA Embarcada

Após examinar as tendências dessas startups, fabricantes de semicondutores estabelecidos e a comunidade de código aberto, existem três caminhos para implementar IA embarcada em um novo sistema:

Aceleradores de software em MCUs – O caminho de menor computação para acelerar a inferência de IA, marcação/pré-processamento e treinamento está no firmware/software. Pacotes como TinyML permitem que os desenvolvedores implementem rapidamente técnicas de aceleração baseadas em software que aceleram a inferência. Esses métodos envolvem manipulação de dados ou modelos para reduzir o número de etapas de processamento necessárias na inferência. Com essas técnicas, os desenvolvedores agora podem executar modelos de inferência mais simples em pequenos MCUs, tudo com lógica sequencial + combinatória simples. 

Silício personalizado – Não há chance de os SoCs personalizados desaparecerem tão cedo, já que todos os grandes nomes da tecnologia expandem suas próprias capacidades internas de desenvolvimento de chips. Com núcleos prontos da ARM e com um padrão aberto como RISC-V, os designers de chips podem rapidamente criar um design de núcleo que implementa operações de computação de IA no nível lógico como uma instrução de hardware. Isso reduz massivamente o consumo de energia e o número de operações de computação bruta.

FPGAs – Tem havido um esforço contínuo para mover os FPGAs de seu papel histórico como ferramentas de prototipagem de chips para o mainstream como processadores de grau de produção. Os fornecedores de semicondutores agora estão apoiando a implementação RISC-V e a aceleração de IA para construir núcleos de FPGA altamente personalizados com tarefas de inferência e treinamento de IA implementadas no nível da instrução. Todos os meus projetos recentes com clientes para aplicações avançadas (sistemas de imagem movidos a IA e fusão de sensores) foram construídos em torno de um FPGA como o processador principal.

Para Qual Direção a Indústria Seguirá?

Os produtos listados acima são todos construídos em silício personalizado. A indústria de FPGA não precisa de silício personalizado especificamente para IA, seus clientes podem usar ferramentas de desenvolvimento para implementar IA no nível lógico sem se preocupar em projetar circuitos lógicos para imitar a estrutura de uma rede neural. Os fornecedores de semicondutores estão vendo o valor da abordagem FPGA e estão fornecendo as ferramentas de desenvolvimento que os designers precisam (incluindo recursos RISC-V) para implementar um núcleo de IA em um FPGA.

Em termos de seleção e colocação de componentes, isso significa que alguns sistemas podem escalar para chips fisicamente menores, um BOM menor e a remoção de uma parte de alto risco da montagem, nomeadamente o chip acelerador de IA. Eliminar o acelerador de IA é uma ótima ideia em todos os níveis. Para a fabricação, é provável que os custos gerais de componentes e montagem sejam reduzidos. Para o designer de PCB, você tem um chip a menos (tipicamente com alta contagem de I/O em um BGA) e seus periféricos que você precisa colocar e rotear. Para o desenvolvedor, elimina a necessidade de desenvolver um driver para controlar o acelerador externo e depois integrar isso na aplicação embutida.

Desenvolvedores de IA embutida podem implementar essas opções de acelerador de IA orientadas por hardware em PCBs com o conjunto completo de ferramentas de design de produto em Altium Designer®. As funcionalidades de CAD no Altium Designer permitem todos os aspectos do design de sistemas e produtos, variando desde embalagem e layout de PCB, até design de chicote e cabo. Quando você terminar seu design e quiser liberar os arquivos para seu fabricante, a plataforma Altium 365™ facilita a colaboração e o compartilhamento de seus projetos.

Apenas começamos a explorar o que é possível com o Altium Designer no Altium 365. Comece seu teste gratuito do Altium Designer + Altium 365 hoje.