Le ragioni di “Quelo”. Il punto di vista di PRS Planning Ricerche e Studi

ASSINTEL REPORT 2020 - APPROFONDIMENTO DI PAG. 123

Di Intelligenza Artificiale (IA) e Machine Learning (ML) se ne parla tanto ma, a guardar bene, siamo ancora all’inizio di un promettente percorso che a fronte di soluzioni di successo presenta anche fallimenti e progetti abortiti.

Basta ricordare la chatbot pensata per stabilire conversazioni informali su Twitter ma trasformata in poche ore in portavoce di ideologie razziste, misogine e antisemite a causa di un apprendimento incontrollato, basato sulla miriade di tweet di contenuto deprecabile. Per non parlare del programma di trattamento dei pazienti oncologici risultato inadeguato e pericoloso a causa di un addestramento del SW su un numero limitato di ipotetici malati di cancro.

Eppure, anche in questi casi si trattava di soluzioni sofisticate, costose e promettenti la cui implementazione ha portato a risultati inadeguati.

I motivi?

Parafrasando il santone di “Quelo” di Corrado Guzzanti, sui temi dell’Intelligenza Artificiale e del Machine Learning, potremmo dire “La risposta è dentro di te, ma è la domanda che è sbagliata!”

E’ indubbio che IA e ML possano migliorare il business di numerose aziende e prefigurare risparmi di tempi e costi. Ma come costruire sistemi di successo?

L’esperienza di PRS Planning Ricerche e Studi nell’implementazione di soluzioni basate su Intelligenza Artificiale e/o Machine Learning ha evidenziato che alla base di tutto occorre disegnare servizi che siano efficaci, sicuri ed eticamente sostenibili.

Innanzitutto, occorre una corretta identificazione del “business case” accompagnata da volumi adeguati e dati corretti. In particolare, l’identificazione del “business case” per l'IA non è così diverso dalla creazione di un caso per un qualsiasi altro problema aziendale. Serve, quindi, identificare specifiche esigenze, risultati desiderati ed effettivi benefici.

Al contempo, l’esperienza maturata da PRS nella cybersecurity evidenzia l’importanza di disegnare soluzioni sicure; nell’affidarsi ad algoritmi intelligenti per prendere decisioni, diventa importante la tracciabilità della soluzione adottata e l’adeguata protezione da attacchi che possano alterare dati e/o logica algoritmica.

In ultimo, ma non meno rilevante, per PRS la persona deve continuare ad essere al centro della progettazione dei servizi e ciò comporta particolare attenzione a ergonomia delle soluzioni tecnologiche, protezione dei dati personali e scelta di soluzioni algoritmiche sostenibili e non discriminatorie.

Le tecnologie han successo solo grazie al sostegno di chi ne sarà l’utente finale, e anche per le soluzioni basate su IA o ML, prima di progettare la tecnologia occorre pensare al change management, capire le persone, convincerle a sospendere i loro dubbi e a sostenere l'utilità di idee dirompenti.

Operare in una bolla e ignorare le esigenze associate al business è una strada sicura verso il fallimento.