AssociatiA cura di Gianpiero Cozzolino
Iniziamo con delle definizioni, che ci aiuteranno:
- VERO: che rappresenta un fatto o una situazione fedelmente, tale quale è
- REALE: che è, che esiste veramente, effettivamente e concretamente
- FALSO: ciò che è falso, che non corrisponde a verità
- IRREALE: privo di realtà, di esistenza effettiva, che è fuori della realtà o la supera
Teniamoli in mente sempre quando ci approcciamo a materie che non bene conosciamo
Quando l’AI è diventata uno strumento di uso comune?
I sistemi che fanno uso delle tecniche di intelligenza artificiale, la più comune delle quali è l’apprendimento, sono entrati nelle nostre vite quando la potenza di calcolo necessaria ha raggiunto costi ragionevoli. Una delle prime applicazioni è stata quella dei risponditori automatici usati soprattutto nell’ambito nel supporto agli utenti/ clienti di servizi. Poi il progresso ha portato i comandi vocali, ossia la possibilità di impartire comandi ad un sistema usando la nostra voce invece di mouse, tastiera e schermi touch, “liberandoci” quindi le mani. La naturale conseguenza è stata quella dell’avvento degli assistenti digitali, appunto comandati dalla voce e che rispondono sempre con la voce, ovviamente virtuale (in termini tecnici, “sintetizzata”). Ecco, quindi, i vari “Ehi, Siri”, “chiama mamma”, “che temperatura c’è oggi a Roma?”, e ovviamente vari scherzi come facevamo al telefono molti anni fa, più o meno riusciti...
In realtà, le capacità degli assistenti virtuali o dei risponditori automatici sono abbastanza limitate: eseguire comandi e dare risposte semplici e/o ripetitive. Ultimamente si sono affermati strumenti apparentemente più avanzati, cioè in grado di fornire risposte complesse (al momento però si usano interfacce scritte tipo chat, non vocali), o in grado di effettuare traduzioni praticamente in qualsiasi lingua.
Ma questi strumenti sono affidabili?
Il problema dell’affidabilità è strettamente legato alla quantità e qualità dei dati usati per l’apprendimento: maggiore è la quantità e la qualità, maggiore sarà anche l’affidabilità dello strumento. Per fare un esempio, le traduzioni potranno essere piuttosto affidabili per lingue molto usate e per argomenti comuni, mentre saranno inevitabilmente meno affidabili per lingue poco usate e argomenti di nicchia.
Oggi, possiamo affermare che il riconoscimento del “comando” (sia esso scritto o vocale) risulta abbastanza affidabile, mentre lo è decisamente meno la generazione della risposta. Questo accade perché i modelli linguistici non sono basati su una vera comprensione (come erroneamente viene fatto credere), ma solo su una distribuzione probabilistica dell’ordine delle parole: in pratica, vengono scelte in sequenza le parole più probabili sulla base delle distribuzioni delle parole nei testi “assimilati”. Ci sono quindi ambiti (es. la matematica o i linguaggi di programmazione dove esistono regole molto precise, per cui le distribuzioni probabilistiche sono, anch’esse, molto precise e quindi il risultato è quasi deterministico) mentre ci sono altri ambiti dove non esistono regole precise, le cui distribuzioni probabilistiche sono molto ampie e i cui risultati sono sostanzialmente casuali. Risultati casuali significa, semplicemente, risposte quasi sempre imprecise o sbagliate.
Quali altri problemi possano comportare?
Ovviamente, bassa affidabilità dovrebbe corrispondere a generare una bassa fiducia in questi strumenti, ma ciò si scontra col mito che i computer hanno sempre ragione.
L’approccio che si dovrebbe usare nell’utilizzo di questi strumenti è quello guidato dal rischio (come infatti prevede la legislazione europea in via di definizione): più è elevato l’impatto sulle persone o sulla società che deriva dall’utilizzo dell’intelligenza artificiale, più restrittivi devono essere i vincoli di affidabilità imposti. Credo sia evidente a tutti come affidare il verdetto di colpevolezza o meno per un crimine, e la conseguente condanna, ad un giudice virtuale non possa che spaventare, almeno finché l’affidabilità non raggiunga almeno quella dei giudici in carne ed ossa.
Ed infatti, uno dei problemi fondamentali che ci si pone è: di chi è la responsabilità giuridica delle scelte basate sulle risposte di un sistema di intelligenza artificiale? Dell’utilizzatore? Del programmatore? Di chi ha curato l’addestramento o dei dati utilizzati? Se ritenete che questi dubbi siano inutili o esagerati, pensate al caso in cui la risposta del sistema di AI riguardi voi personalmente: “chi è Tizio?”, “conviene licenziare Caio o Sempronio?”, “dove abita Pinco Pallino?”, e che, in caso di errore, non sappiate con chi far valere le vostre ragioni.
Un altro aspetto rilevante: siamo in grado di capire come il sistema è arrivato a dare una certa risposta invece di un’altra? Quest’ultima domanda è importante perché possiamo, è vero, affidare ad un umano il controllo della risposta, ma nei casi in cui non esiste una risposta palesemente giusta o sbagliata, tale controllo umano è a sua volta affidabile nella misura in cui è in grado di capire come il sistema abbia fornito quella risposta.
Che ne penso?
La parte linguistica del nostro cervello è sicuramente legata al nostro vocabolario, che, anche se veramente ampio non copre neanche una infinitesima parte di un qualsiasi translator, che per anni ha letto e ascoltato miliardi di persone, in tutte le lingue e dialetti del globo, basterà che queste nuove AI possano entrarne in possesso, di che volume di dati parliamo? di oltre 5000 linguaggi che di media hanno circa 500 mila parole, un paio di miliardi parole che messe insieme dalla struttura linguistica, produrranno un insieme infinito di frasi.
Cosa ne verrà fuori:
Creare nuovi concetti? Ogni parola al posto giusto, con pieno significato… Una mono lingua globale? useremo una lingua unica con 5 miliardi di termini…Oppure una lingua che capiranno solo fra AI? Beh!!! Fra loro che possono…Oggi non sappiamo più se dall’altra parte di una chat c’è una AI o una persona VERA e REALE, fra pochissimo tempo, oltre a risponderci testualmente le vedremo anche in carne ed ossa (4k di streaming si avvicinano tanto al nostro concetto di REALE), ci daranno supporto a tutte le nostre esigenze e ci guideranno nelle scelte della nostra vita. La sfida: la ricerca della VERITÀ in una piena libertà di informazioni fra REALE ed IRREALE.