Accelerare i progetti di IA grazie alla collaborazione tra Lattice Semiconductor e NVIDIA

La continua corsa allo sviluppo di modelli di intelligenza artificiale sempre più potenti può essere affascinante, ma può indurre gli osservatori ad aspettare che emerga un modello vincitore prima di decidere cosa costruire con esso. Sarebbe un errore per i progettisti di prodotti, che dovrebbero invece sfruttare l'opportunità di trasformare le previsioni del modello in qualcosa di utilizzabile, affidabile e di valore pratico.

Una collaborazione tra Lattice Semiconductor e NVIDIA segnala un cambiamento nella progettazione dei prodotti per l'era dell'intelligenza artificiale. Standardizzando le pipeline dai sensori all'IA con un progetto di riferimento Sensor Bridge, queste due aziende stanno abbassando la soglia di accesso alla creazione di sistemi in grado di percepire, interpretare e rispondere in tempo quasi reale. Le applicazioni possono ora essere assemblate in modo più modulare, accelerando lo sviluppo e consentendo la creazione di prodotti più intelligenti e reattivi.

Man mano che l'intelligenza artificiale si avvicina al luogo in cui vengono generati i dati, il vincolo si sposta dalla creazione di modelli migliori alla progettazione di come tali modelli dovrebbero comportarsi una volta integrati nei sistemi del mondo reale. Ciò che il sistema rileva, ciò a cui dà priorità o ciò che ignora sono parametri di progettazione fondamentali che determineranno se un prodotto basato sull'intelligenza artificiale verrà percepito come affidabile, prevedibile e utile.

I progettisti possono implementare il progetto di riferimento utilizzando LF-SNR-ETH-EVN di Lattice Semiconductor (Figura 1), una scheda ponte CertusPro-NX sensore-Ethernet che converte segnali eterogenei provenienti dai sensori in flussi Ethernet a bassa latenza standardizzati, utilizzabili dai sistemi Edge IA a valle.

Figura 1: Il modulo LF-SNSR-ETH-EVN di Lattice Semiconductor acquisisce input da sensori eterogenei e li trasforma in flussi di dati veloci e strutturati che vengono poi elaborati dai moduli edge di NVIDIA. (Immagine per gentile concessione di Lattice Semiconductor)

La piattaforma hardware basata su FGPA a bassa potenza si trova all'edge, per trasformare i vari segnali dei sensori di basso livello in flussi di dati veloci e strutturati che possono essere elaborati su Ethernet in tempo reale. Acquisisce i dati grezzi dai sensori, li normalizza e li suddivide in pacchetti, quindi li trasmette per un'elaborazione a bassa latenza ad alto throughput tramite potenti unità di elaborazione grafica (GPU).

La scheda di Lattice si integra con Holoscan Sensor Bridge di NVIDIA e i moduli di edge computing per fornire una soluzione end-to-end completa per sistemi IA di sensori in tempo reale. Questo sforzo collaborativo facilita l'integrazione di nuovi sensori e il trasferimento efficiente dei dati nelle pipeline di inferenza IA su piattaforme Edge IA come IGX Orin e AGX Orin di NVIDIA.

Questo approccio trasforma il cloud in un elemento di supporto incentrato sull'addestramento dei modelli, sull'aggregazione dei dati tra le diverse implementazioni e sulla gestione degli aggiornamenti e dell'ottimizzazione del sistema a lungo termine, mentre i moduli edge possono concentrarsi sulla percezione, l'interpretazione e la risposta in tempo reale.

Creazione di progetti da sensore a intelligenza artificiale

I progettisti possono concentrarsi sulla rapida creazione di sistemi da sensore a IA e sulla semplificazione del flusso di dati dagli input fisici allo stack di inferenza di NVIDIA. Anziché basarsi su input simulati o ipotesi astratte sul possibile comportamento di un sistema, i progettisti possono prototipare esperienze utilizzando dati reali provenienti da sensori che vengono trasmessi attraverso una pipeline funzionante.

Ad esempio, un progettista può iniziare con una configurazione di sensore reale, come un sensore industriale o una telecamera, con i dati trasmessi attraverso la scheda ponte CertusPro-NX, per la trasmissione su Ethernet, a un'applicazione basata su Holoscan in esecuzione su hardware edge per l'elaborazione dell'inferenza IA in tempo reale. Tradizionalmente, l'aggiunta di un nuovo sensore avrebbe comportato un notevole lavoro di progettazione, come la scrittura di driver personalizzati, la gestione dell'integrazione a livello di kernel e la creazione di pipeline di dati su misura, solo per ottenere il segnale in un formato utilizzabile. La tecnologia Holoscan riduce il carico di lavoro grazie a un'API standardizzata e a un livello di trasporto per l'elaborazione continua dei dati dei sensori all'edge.

I dati dei sensori vengono trattati in modo più uniforme come parte di un flusso di dati in tempo reale, semplificando l'integrazione di nuove fonti in una pipeline IA esistente senza richiedere la rielaborazione dell'intera architettura dell'applicazione.

Livello di traduzione

La scheda basata su FPGA di Lattice funge da livello di traduzione programmabile tra il mondo fisico e il resto del sistema, riducendo la necessità di riprogettare l'hardware ogni volta che viene introdotto un nuovo sensore. Include componenti costitutivi FPGA preconfigurati per la gestione e l'adattamento dei dati dei sensori, oltre a uno stack software completo per la raccolta, il trasferimento e l'elaborazione di tali dati sull'hardware Edge IA di NVIDIA.

Questo approccio trasforma l'integrazione dei sensori da vincolo hardware a decisione di progettazione configurabile, migliorando in modo significativo la flessibilità del sistema man mano che cambiano i requisiti del prodotto. I team di progettazione possono integrare senza problemi nuovi sensori o aggiungere input supplementari durante il processo di sviluppo, senza la necessità di una profonda rielaborazione dell'intera architettura.

La possibilità di modificare il comportamento del prodotto prima che i sistemi di produzione completi siano operativi riduce il lavoro di integrazione personalizzata e consente miglioramenti iterativi nel rilevamento del sistema, nell'attivazione delle azioni e nella gestione dell'incertezza.

Conclusione

I progettisti di prodotti non possono permettersi di aspettare che emerga un vincitore dalla "guerra dei modelli" IA. È giunto il momento di creare applicazioni basate sull'intelligenza artificiale in grado di rilevare, decidere e agire in base a input dal mondo reale, in tempo reale. La collaborazione tra Lattice Semiconductor e NVIDIA offre ai progettisti pipeline a bassissima latenza che consentono nuove categorie di applicazioni IA in un numero maggiore di ambiti.