Microprocessori di visione IA di fascia media per applicazioni edge

Le applicazioni Edge IA utilizzano algoritmi di visione artificiale per rilevare persone, oggetti o anomalie e difetti in tempo reale. L'elaborazione di immagini e video sull'edge richiede in genere un microprocessore IA (MPU) in grado di interfacciarsi con le telecamere, eseguire i modelli IA e spesso include un acceleratore IA dedicato.

L'integrazione delle funzionalità di visione IA in un unico dispositivo riduce i costi e l'ingombro derivanti dall'utilizzo di componenti separati, rendendo gli MPU di visione IA all'avanguardia ideali per applicazioni embedded compatte.

L'MPU RZ/V2N di Renesas Electronics Corporation (Figura 1) è un MPU per visione IA con basso consumo energetico, elevate prestazioni di inferenza IA, quattro core CPU ARM® Cortex-® e A55 (1,8 GHz), un ARM Cortex-M33 (200 MHz) e due ingressi per telecamera con connessione MIPI.

Figura 1: L'MPU RZ/V2N di Renesas offre ai progettisti nuove opzioni per includere la visione IA nelle applicazioni edge. (Immagine per gentile concessione di Renesas Electronics Corporation)

Questo MPU di Renesas è una soluzione economica per applicazioni edge che richiedono capacità IA da moderate ad elevate a un prezzo accessibile. Fa parte della serie RZ/V dell'azienda, che punta a offrire ampia scalabilità per applicazioni che vanno dagli uffici intelligenti ai droni (Figura 2).

Figura 2: Posizionato come prodotto di fascia media nella linea RZ/V, l'MPU RZ/V2N consente di realizzare applicazioni quali robot mobili per uso domestico e sistemi di monitoraggio del conducente. (Immagine per gentile concessione di Renesas Electronics Corporation)

Requisiti di un microprocessore di visione IA

Le applicazioni Edge IA spesso funzionano su dispositivi embedded, che possono essere alimentati a batteria o funzionare con riserve energetiche limitate. Di conseguenza, gli MPU di visione devono garantire elevate capacità di inferenza consumando meno rispetto ai tradizionali dispositivi di calcolo ad alte prestazioni.

L'MPU di visione IA ideale bilancia prestazioni, efficienza energetica, integrazione, facilità di sviluppo e sicurezza. Di seguito è riportata una panoramica di alcune delle caratteristiche principali da considerare nella scelta di un MPU:

• Prestazioni di inferenza: RZ/V2N offre fino a 15 TOPS grazie all'acceleratore DRP-AI3 integrato, il che lo rende adatto per applicazioni di fascia media come telecamere intelligenti, ispezione industriale e robotica edge. Mentre alcuni sistemi ad alte prestazioni, come i robot collaborativi e i droni autonomi, possono richiedere da 80 a 100 TOPS, molte applicazioni di Edge IA funzionano bene nell'intervallo da 1 a 15 TOPS, a seconda della loro complessità. L'unità TOPS per watt (TOPS/W) definisce l'efficienza del prodotto, una misura del numero di operazioni che può eseguire al secondo per watt.

Sebbene i TOPS forniscano un'indicazione di base sulle prestazioni, la velocità di inferenza effettiva può migliorare notevolmente con l'integrazione di un acceleratore IA dedicato, che alleggerisce i carichi di lavoro di visione IA basati su calcoli intensivi di matrici e tensori. Ciò consente ai sistemi di funzionare in modo più rapido ed efficiente, con un numero inferiore di cicli di clock e un minore assorbimento di potenza.

• Funzionamento a basso consumo: molti dispositivi edge funzionano a batteria o entro rigidi limiti termici. Gli MPU di visione progettati per Edge IA spesso includono la scalabilità dinamica di tensione e frequenza (DVFS), che regola il consumo energetico in base alle esigenze del carico di lavoro. Combinata con tecniche come la razionalizzazione delle reti neurali, che comprime le dimensioni del modello e riduce i calcoli superflui, DVFS contribuisce a produrre un rapporto TOPS/W più elevato, migliorando sia il tempo di esecuzione sia la durata della batteria. L'acceleratore DRP-AI3 aiuta a evitare l'uso di GPU energivori, contribuendo a un TOPS/W più elevato sull'edge.
• Elaborazione immagini su chip: i microprocessori di visione che integrano processori di segnale immagine (ISP) opzionali possono eseguire operazioni di pulizia di routine delle immagini, quali correzione del livello del nero, correzione del colore, ritaglio e correzione dell'ombreggiatura. Nelle applicazioni di sicurezza o videosorveglianza, l'ISP può anche pre-filtrare i fotogrammi. Ad esempio, in un flusso video continuo, il sistema può scartare i fotogrammi statici e inviare al processore IA solo quelli con movimento o attività (ad esempio, rilevamento di intrusione), riducendo le inferenze non necessarie e risparmiando energia.
• Memoria su chip: anche la memoria è un fattore importante per le prestazioni e l'efficienza. Mantenere i dati in locale evita la latenza e i costi energetici legati all'accesso alla memoria esterna, che possono essere significativi nell'inferenza IA in tempo reale. Con 1,5 MB di SRAM su chip e supporto per memoria LPDDR4X, RZ/V2N bilancia la velocità di elaborazione interna con opzioni di memoria espandibile.
• Implementazione di IA accelerata: i toolkit e le schede di valutazione IA che includono applicazioni e interfacce preprogrammate possono aiutare gli sviluppatori a prototipare e implementare rapidamente applicazioni di visione IA. Inoltre, l'MPU dovrebbe essere in grado di supportare i formati standard dei modelli di IA. RZ/V2N è compatibile con i formati standard, come ONNX e TensorFlow Lite.
• Sicurezza: negli ambienti edge, ogni sensore o endpoint può essere un potenziale vettore di attacco. Pertanto, è importante che gli MPU di visione siano in grado di supportare funzionalità di sicurezza incorporate, quali l'avvio sicuro e percorsi dati crittografati. RZ/V2N include funzionalità di avvio sicuro e crittografia a livello hardware e sfrutta ARM TrustZone per isolare le operazioni sicure, contribuendo a proteggere sia l'integrità del modello, sia i dati sensibili in ingresso.

Caratteristiche dell'MPU RZ/V2N per facilitare la progettazione IA

L'acceleratore IA proprietario di Renesas, DRP-AI3 (Dynamically Reconfigurable Processor), ha una potenza nominale di 10 TOPS/W, ma può essere potenziato fino a 15 TOPS/W con un avanzato sistema di razionalizzazione, che comprime le dimensioni dei modelli che il sistema deve elaborare. Ciò può eliminare la necessità di un'unità di elaborazione grafica (GPU) separata o di un gate array programmabile sul campo (FPGA).

RZ/V2N misura solo 15 mmq, il che lo rende una buona opzione per dispositivi compatti. La combinazione di una CPU quad core, un acceleratore IA dedicato e il supporto di due ingressi fotocamera in un unico dispositivo dischiude nuove opportunità ai progettisti per integrare la visione IA in applicazioni quali fotocamere intelligenti, dispositivi di sicurezza, robot e persino elettrodomestici.

L'MPU funziona a bassa potenza, che riduce la quantità di calore generato, eliminando la necessità di sistemi di raffreddamento e ventole aggiuntivi e riducendo così le dimensioni e il costo dei sistemi embedded. Grazie alla possibilità di accettare due telecamere, consente alle applicazioni di acquisire immagini a doppio angolo e migliorare il riconoscimento spaziale. Un unico sistema può eseguire più operazioni contemporaneamente, come contare le auto in un parcheggio e riconoscere le targhe.

Architettura dell'MPU RZ/V2N

L'MPU RZ/V2N offre una gamma completa di caratteristiche e funzioni progettate per la creazione di applicazioni di IA di fascia media che richiedono prestazioni elevate a un prezzo accessibile (Figura 3).

Figura 3: Schema dell'architettura di RZ/V2N. (Immagine per gentile concessione di Renesas Electronics Corp.)

Fra le caratteristiche principali vi sono:

• Unità di elaborazione centrale (CPU): l'architettura ibrida è dotata di un core Cortex-A55 Quad a 1,8 GHz, una CPU ad alte prestazioni, e di un core Cortex-M33 a 200 MHz, un core a basso consumo progettato per il controllo in tempo reale e le attività relative alla sicurezza.
• Memoria interna condivisa: 1,5 MB di RAM per memoria su chip con codice di correzione degli errori (ECC), che contribuisce all'integrità dei dati. Gli algoritmi ECC rilevano e correggono gli errori nei dati, sia durante lo storage che durante la trasmissione. La memoria integrata di 1,5 MB consente agli algoritmi di IA di funzionare ad alta velocità, inoltre RZ/V2N dispone di un'interfaccia per memoria DDR esterna che può essere aggiunta qualora si renda necessaria più memoria.
• Acceleratore IA: il motore IA dedicato DRP-A13 di Renesas offre un'elaborazione di inferenza IA ad alta velocità che garantisce il basso consumo e la flessibilità richieste dagli endpoint.
• Video e grafica: l'unità di elaborazione grafica (GPU) opzionale e ISP aiutano a elaborare le immagini e a riprodurre la grafica in modo più efficiente.
• Timer: i timer supportano operazioni in tempo reale, essenziali per il controllo dei motori e altre applicazioni di automazione.
• Blocco audio: ideale per applicazioni audio multicanale, come altoparlanti intelligenti e sistemi di infotainment.
• Interfacce: interfacce di memoria ad alta velocità e periferiche ad ampia larghezza di banda sono solo alcune delle numerose interfacce che possono essere collegate al modulo microprocessore di visione.
• Blocco analogico: un convertitore analogico/digitale (ADC) a 12 bit elimina la necessità di ADC separati nei sistemi di controllo o nelle applicazioni di monitoraggio.

Renesas offre anche il kit della scheda di valutazione RTK0EF0186C03000BJ per RZ/V2N, che consente ai progettisti di prototipare e valutare applicazioni di visione IA (Figura 4). I progettisti possono anche accedere ad applicazioni di IA riguardanti oltre 50 casi d'uso dell'azienda e all'SDK di IA su GitHub.

Figura 4: Il kit della scheda di valutazione per RZ/V2N include una scheda CPU, una scheda di espansione e due schede secondarie, oltre a un SDK di IA. (Immagine per gentile concessione di Renesas Electronics Corp.)

Conclusione

RZ/V2N di Renesas è ideale per applicazioni Edge IA di fascia media che richiedono informazioni basate sui dati con latenza ridotta ad alta velocità. Le dimensioni compatte e la capacità di soddisfare le esigenze di inferenza pur funzionando a bassa potenza lo rendono adatto a un'ampia gamma di dispositivi embedded.