Come il COVID-19 ha mandato in tilt alcuni sistemi di machine learning

Il COVID-19 ha avuto impatti disastrosi mandando in crisi molti ambiti del nostro ecosistema. Tra gli effetti della pandemia, alcuni molto rilevanti hanno interessato alcuni sistemi di intelligenza artificiale basati sul machine learning che caratterizzano il funzionamento di molti sistemi informatici, anche in ambito militare.

Prima di entrare nel vivo della questione, ricordiamo che il machine learning combina algoritmi a dati per fare previsioni. In sostanza, impara dai dati senza che gli venga esplicitamente insegnato. L’intervento umano consiste solo nel dare al computer una chiave di lettura (gli algoritmi) che gli permetta di interpretare ed auto-apprendere dai dati messi a disposizione. Poi, il computer il lavoro lo fa da sè.

Quindi, se disponiamo di un archivio di foto di attori americani famosi (il cosiddetto dataset), ognuna delle quali correlata ad un nome e cognome, il machine learning, dopo l’addestramento, potrà rilevare la presenza di Brad Pitt in una nuova foto non precedente elaborata. E questa elaborazione, il computer l’ha fatto in autonomia. Opportuno ribadire, però, che nell’archivio di foto utilizzato per l’autoapprendimento, almeno una foto di Brad Pitt occorre che sia presente, altrimenti il machine learning non può funzionare…

Difficoltà di questo tipo sono emerse durante la pandemia causata dal COVID-19. Pensate al “trauma” subito dagli algoritmi di machine learning impiegati dai principali giganti delle vendite online.

Quanti di noi avevano mai cercato di acquistare una mascherina o un gel igienizzante? In poche ore la quasi totalità degli utenti, fino a quel momento interessati a una tipologia di acquisti molto diversa, ha cambiato improvvisamente il proprio target, spiazzando i sistemi di machine learning che (giustamente) prevedevano tutt’altro tipo di acquisti (smartphone, viaggi, …), in base ai quali le aziende avevano organizzato il proprio catalogo, rifornito i magazzini, definito la logistica, elaborato strategie di marketing e vendita.

Rimanendo sullo stesso tema delle vendite online, in questo periodo di lockdown anche i tempi di consegna hanno influito clamorosamente sulle nostre scelte di acquisto. Sono passati in secondo piano fattori che in situazioni “normali” sono valutati con attenzione – la credibilità del produttore, le recensioni sulla qualità del prodotto, il prezzo… – mentre la priorità assoluta è stata data alle tempistiche di consegna, condizionate dallo stress dell’impennata delle domande di acquisto online.

Questi sono solo alcuni esempi di quanto è accaduto, e che più in generale hanno confermato quanto sia forte la correlazione tra le “nostre vite” e l’Artificial Intelligence.

Nello stesso tempo, però, sta emergendo anche tra i non addetti ai lavori qualche effetto collaterale dovuto a sistemi di machine learning non realizzati o gestiti adeguatamente.

Insomma, perchè l’algoritmo di machine learning possa adattarsi in modo flessibile ai cambiamenti, va considerato che occorre ri-addestrarlo se si verifica una variazione repentina dello scenario di riferimento, altrimenti la qualità della performance previsionale diminuisce in modo significativo.

Concludiamo riepilogando le lesson learned:

1. Il machine learning non “nasce imparato” e nemmeno “lo resta”, va continuamente alimentato con nuovi esempi per arricchire il dataset
2. Pur non potendo essere preparato su tutto, il machine learning dovrebbe essere addestrato con dataset che rappresentano casi di normalità, ma anche con basi dati che descrivono situazioni eccezionali
3. Tra le tante cose da fare nella fase di post pandemia, dovremo prenderci il tempo per riflettere su quali sono presupposti alla base dei sistemi di machine learning (soprattutto quelli impiegati nel dominio Difesa e Intelligence) e magari ripensarli per renderli più efficaci, efficienti e resilienti.

Altra lezione appresa dall’emergenza sanitaria, ancora in corso e dagli imprevedibili decorsi futuri: la tecnologia digitale resiste alle cattive condizioni economiche. Quando tutto va male, e lo si è’ visto durante il lock down, ciò che non si ferma, e consente a tutti noi di continuare, per quanto possibile, a lavorare, mantenere relazioni e rilassarci, è la tecnologia. Questo fatto gli economisti lo chiamano fenomeno “anticiclico”, che è come dire “controtendenza”.

Un forte messaggio per tutti i business ancorati ad un modello analogico, ovvero vecchio, dove il digitale trova poco posto. Certo, aumenta cosi anche la probabilità di attacchi cyber, ma questo è un altro racconto…..