EUR | USD

L'apprendimento automatico è già tra di noi: usatelo con criterio

L'apprendimento automatico è una branca dell'intelligenza artificiale (IA) che viene già usata con successo in applicazioni come la diagnosi medicale, l'elaborazione delle immagini, la classificazione, la previsione, il test di regressione e altro. Il suo uso ha in genere due aree di rischio: la sicurezza e la possibilità di compromettere la validità dei risultati.

Figura 1: L'Internet delle cose industriale (IIoT) ha molte interconnessioni che possono essere gestite in modo più efficiente incorporando l'apprendimento automatico. (Immagine per gentile concessione di SlideShare.net)

Gli attacchi alla sicurezza dell'IA non sono certo una novità, ma sono sempre più sofisticati. Si parla di superficie di attacco, ovvero di numero di punti da cui un utente non autorizzato può segretamente entrare o estrarre dati. Sono tre le aree vulnerabili: dati in ingresso, progettazione dell'algoritmo e decisioni per l'uscita.

I migliori risultati con l'apprendimento automatico si ottengono accedendo a enormi quantità di dati, dai quali è possibile apprendere a livelli difficilmente raggiungibili per l'uomo. Gli attacchi includono modelli addestrati che vengono modificati creando "backdoor" e inserendo un carico o trigger dannoso. In un segmento di IA di questo tipo, gli algoritmi sono complessi e imprevedibili, non sono soggetti a standard e normative, e si basano su dati proprietari che rendono la manomissione ancora più difficile da rilevare.

Esiste un'altra area di rischio oltre alla sicurezza. I modelli di apprendimento automatico sono creati dall'uomo e quindi sono soggetti a errori. Gli errori nei dati sono pericolosi e devono essere gestiti con attenzione. Questo aspetto gioca un ruolo importante della gestione dei rischi legati all'apprendimento automatico.

I rischi includono anche la presenza di dati insufficienti o di dati adeguati. La mancanza di informazioni variabili che abbiano sufficienti punti dati per trovare i migliori input per risultati ottimali può rappresentare un grande problema. I dati che compongono i modelli di apprendimento automatico devono essere di tipo diverso, avere tempi diversi e altre forme di variabilità.

Infine i risultati devono essere interpretati e si possono fare errori.I modelli forniscono stime e indicazioni, ma affinché le interpretazioni abbiano valore è importante considerare come è stato realizzato il modello, sulla base di quali presupposti e che cosa indicano i risultati.

Ci sono già diverse situazioni in cui le cose non sono andate come dovevano:

  • Gli algoritmi sono stati additati come responsabili per la perdita del 6% in due minuti della sterlina inglese durante il referendum sulla Brexit nel 2016.
  • Gli algoritmi utilizzati per prevedere il tasso di recidività nei sistemi di giustizia penale negli Stati Uniti sono influenzati da pregiudizi razziali.
  • Molti risultati di studi sul cervello umano sono stati messi in discussione dopo che sono stati trovati ipotesi statistiche errate e bug nella risonanza magnetica funzionale (fMRI).
  • Quando nel 2017 i prezzi dei Bitcoin aumentarono vertiginosamente, diversi hacker riuscirono a infiltrarsi usando gratuitamente le istanze di Google Cloud. Il sistema di rilevamento delle anomalie era attivo per le istanze di Google Cloud e quindi i clienti furono avvisati della compromissione.

I sistemi di apprendimento automatico risolvono problemi importanti. Le ripercussioni negative a livello di sicurezza e precisione saranno sempre più ridotte grazie ai progressi delle tecnologie e all'aumento delle applicazioni che ne faranno uso in modo corretto.

Progressi recenti dell'apprendimento automatico

STMicroelectronics ha di recente annunciato la prima applicazione di apprendimento automatico sul proprio microcontroller STM32G4 del partner Cartesiam, membro del Machine Learning ST Partner Program. ST ha lanciato STM32Cube.AI affinché gli sviluppatori potessero addestrare con facilità una rete neurale, raccogliendo prima i dati e poi elaborandoli in un ambiente di preparazione di reti neurali su PC, per riconoscere attività specifiche come la camminata, la corsa o il nuoto. Il risultato viene convertito in codice che permette agli MCU STM32 di riconoscere le attività.

Figura 2: La scheda di valutazione SensorTile di STMicroelectronics. (Immagine per gentile concessione di STMicroelectronics)

L'IA NanoEdge di Cartesiam si occupa della fase di apprendimento sul microcontroller. Gli ingegneri adottano questa soluzione quando non possono creare modelli pre-addestrati efficaci per situazioni specifiche, ma desiderano comunque utilizzare l'apprendimento automatico per offrire soluzioni intelligenti. La fase di addestramento avviene sull'MCU per capire il normale comportamento di un dispositivo nel proprio ambiente, quindi vengono introdotte interferenze sullo stesso MCU per rilevare e segnalare anomalie comportamentali.

Con l'IA NanoEdge, gli sviluppatori possono integrare facilmente addestramento locale dell'IA e capacità di analisi nel codice C, appositamente ottimizzato per gli MCU STM32. Nelle dimostrazioni, Cartesiam illustra l'uso del modulo SensorTile di STM, la scheda di valutazione SensorTile (Figura 2) con le sue librerie di apprendimento automatico, per apprendere il comportamento di un motore BLDC tramite analisi vibrazionale e poi rilevare e segnalare le anomalie grazie all'MCU STM32L4 embedded.

Anche i sensori avanzati di STMicroelectronics integrano un core di apprendimento automatico, come LSM6DSOX iNEMO che, combinato con una macchina a stati finiti (FSM) e funzioni digitali avanzate, permette di passare da uno stato a bassissimo consumo energetico a capacità di IA ad alte prestazioni e alta precisione per l'IoT, i giochi, i dispositivi indossabili e i prodotti elettronici consumer alimentati a batteria. Il core supporta i requisiti tipici del sistema operativo e offre sensori batch, virtuali, reali con 9 kB di RAM disponibili per il batch dati dinamico.

L'intelligenza artificiale e l'apprendimento automatico continuano a stupirci in varie forme, ma sarà la combinazione tra nuove applicazioni, efficacia dei risultati e capacità di garantire la sicurezza che ne favoriranno l'utilizzo anche in futuro.

Informazioni su questo autore

Image of Carolyn Mathas

Carolyn Mathas ricopre ruoli di redattore/scrittore in pubblicazioni quali EDN, EE Times Designlines, Light Reading, Lightwave ed Electronic Products da più di 20 anni. Fornisce inoltre contenuti e servizi di marketing personalizzati a varie aziende.

More posts by Carolyn Mathas