La strada verso l'intelligenza artificiale integrata

Nell'aprile 2021, ho pubblicato un articolo su Printed Circuit Design & Fab, dove ho proclamato che il futuro dell'IA è integrato. In breve, il mio punto di vista è che i sistemi integrati sfrutteranno un maggiore uso dell'IA sul dispositivo finale, il che significa che dipenderanno meno dalle piattaforme cloud o dai data center per l'inferenza.

Senza dubbio, credo che il futuro dell'IA sia ancora integrato, ma non con il chipset o l'architettura di sistema che avrei pensato. Al momento della scrittura dell'articolo precedente, ero ancora fissato sull'idea che la logica combinazionale + sequenziale potesse conquistare tutti i problemi di calcolo. L'esperienza ha dimostrato che semplicemente non può.

Questa visione è stata confermata negli ultimi 18 mesi, in particolare con il rilascio di molti nuovi chip acceleratori per l'IA nel 2022. Per i progettisti e gli ingegneri di PCB, questi chip rappresentano un'ottima opzione per aggiungere rapidamente capacità di IA a un progetto tramite interfacce standard. Tipicamente, questi sono accessibili tramite una linea PCIe Gen2 o più veloce, possibilmente tramite USB, o anche con qualcosa di lento come SPI per acceleratori a basso calcolo. I chip sono inoltre disponibili in pacchetti standard (quad o BGA) che si posizionerebbero e traccierebbero nel modo usuale. Per vedere dove l'IA su dispositivo è arrivata e dove sta andando, ho deciso di presentare alcuni dei rilasci di acceleratori IA più interessanti del 2022.

Rilasci di Processori IA nel 2022

Dato che il mondo è ora entrato nell'era dell'IA, l'industria hardware ha molto terreno da recuperare per competere con l'industria del software. Alcuni dei processori avanzati più recenti che mirano alle applicazioni di IA embedded sono elencati nella tabella qui sotto.

Queste startup e istituti di ricerca stanno spingendo l'IA incorporata in avanti con notevoli avanzamenti nei loro chip personalizzati. Al contrario, non abbiamo visto ulteriori sviluppi significativi dai prodotti di IA incorporata stabiliti come Google Coral, che era uno dei moduli o chip acceleratori facili da usare. Oltre a questi processori specializzati, ci sono altri due percorsi che i progettisti possono intraprendere per integrare le capacità di IA incorporata nei loro progetti.

Tre Percorsi per l'AI Integrata

Dopo aver esaminato le tendenze di queste startup, dei produttori di semiconduttori consolidati e della comunità open source, ci sono tre vie per implementare l'AI integrata in un nuovo sistema:

Acceleratori software su MCU – Il percorso di calcolo più basso per accelerare l'inferenza AI, il tagging/pre-processing e l'addestramento è nel firmware/software. Pacchetti come TinyML permettono agli sviluppatori di implementare rapidamente tecniche di accelerazione basate su software che velocizzano l'inferenza. Questi metodi coinvolgono la manipolazione dei dati o del modello al fine di ridurre il numero di passaggi di elaborazione richiesti nell'inferenza. Con queste tecniche, gli sviluppatori possono ora eseguire modelli di inferenza più semplici su piccoli MCU, tutto con logica sequenziale + combinata semplice.

Silicio personalizzato – Non c'è possibilità che i SoC personalizzati scompaiano presto, dato che tutti i grandi nomi della tecnologia iperscalata sviluppano le proprie capacità interne di sviluppo dei chip. Con core pronti all'uso da ARM e con uno standard aperto come RISC-V, i progettisti di chip possono rapidamente avviare un design del core che implementa operazioni di calcolo AI a livello logico come istruzione hardware. Questo riduce enormemente il consumo di energia e il numero di operazioni di calcolo grezzo.FPGA – C'è stata una continua spinta a spostare gli FPGA dal loro ruolo storico di strumenti per il prototipaggio di chip verso il mainstream come processori di grado produttivo. I fornitori di semiconduttori stanno ora supportando l'implementazione di RISC-V e l'accelerazione AI per costruire core FPGA altamente personalizzati con compiti di inferenza e addestramento AI implementati a livello di istruzione. Tutti i miei recenti progetti per clienti per applicazioni avanzate (sistemi di imaging guidati dall'AI e fusione di sensori) sono stati costruiti attorno a un FPGA come processore principale.

Quale Direzione Prenderà l'Industria?

I prodotti elencati sopra sono tutti costruiti su silicio personalizzato. L'industria degli FPGA non ha bisogno di silicio personalizzato specificamente per l'AI, i loro clienti possono utilizzare strumenti di sviluppo per implementare l'AI a livello logico senza preoccuparsi di progettare circuiti logici per imitare la struttura di una rete neurale. I fornitori di semiconduttori stanno vedendo il valore dell'approccio FPGA e stanno fornendo gli strumenti di sviluppo di cui i progettisti hanno bisogno (includono risorse RISC-V) per implementare un core AI in un FPGA.

In termini di selezione e posizionamento dei componenti, ciò significa che alcuni sistemi potrebbero ridursi a chip fisicamente più piccoli, un BOM più ridotto e l'eliminazione di una parte ad alto rischio dell'assemblaggio, ovvero il chip acceleratore AI. Eliminare l'acceleratore AI è un'ottima idea a tutti i livelli. Per la produzione, i costi complessivi dei componenti e dell'assemblaggio saranno probabilmente ridotti. Per il progettista PCB, si ha un chip in meno (tipicamente con un alto numero di I/O su un BGA) e i suoi periferici che è necessario posizionare e instradare. Per lo sviluppatore, elimina la necessità di sviluppare un driver per controllare l'acceleratore esterno e poi integrarlo nell'applicazione embedded.

Gli sviluppatori AI embedded possono implementare queste opzioni di acceleratore AI guidate dall'hardware nei PCB con il set completo di strumenti di progettazione prodotto in Altium Designer®. Le funzionalità CAD in Altium Designer abilitano tutti gli aspetti della progettazione di sistemi e prodotti, che vanno dal packaging e layout PCB, fino alla progettazione di cablaggi e cavi. Quando hai terminato il tuo progetto e vuoi rilasciare i file al tuo produttore, la piattaforma Altium 365™ rende facile collaborare e condividere i tuoi progetti.

Abbiamo appena iniziato a scoprire cosa è possibile fare con Altium Designer su Altium 365. Inizia oggi la tua prova gratuita di Altium Designer + Altium 365.