Aurélie Jean è la regina degli algoritmi: "Ci hanno aiutato anche contro il Covid, ve ne siete accorti?"

Si occupa da più di dieci anni di modellizzazione matematica e simulazione numerica applicate a diversi ambiti di ricerca, dalla medicina all’ingegneria, dall’economia alla finanza. Aurélie Jean, classe 1982, è la regina francese degli algoritmi tanto da essere indicata nel 2019 da Forbes tra le quaranta donne francesi più influenti. Autrice del libro “Nel paese degli algoritmi” pubblicato da Neri Pozza a gennaio 2021, Jean esplora vantaggi e “lati oscuri” della modellizzazione numerica della realtà. Tra tutti, emerge lo spettro dei cosiddetti “bias algoritmici”, vale a dire quei pregiudizi cognitivi che caratterizzano la conoscenza umana e che chi progetta le macchine inconsapevolmente trasferisce nei loro meccanismi, al punto da generare discriminazioni inaccettabili (un esempio concreto è quello di Amazon che nel 2018 ha progettato un algoritmo per la selezione dei curricula, addestrandolo sulle assunzioni dei precedenti dieci anni - in prevalenza maschili - e inducendolo, de facto, a sottostimare il valore dei profili femminili).Ospite del festival L’Eredità delle Donne, insieme ad altre personalità di spicco del mondo della scienza e della cultura, Jean spiega ad HuffPost in che modo gli algoritmi possano avere un impatto nella nostra vita, perché vale la pena studiarli e perché continuare ad ispirare le giovani donne ad intraprendere la carriera scientifica.Come ti sei innamorata degli algoritmi?“Per caso! Durante il mio secondo anno di università, ho frequentato per due semestri il corso di ‘computer science’ e durante i primi sei mesi ho scoperto una disciplina ancora più antica dell’età dei primi computer. Era la scienza degli algoritmi. Amavo l’idea di applicare la matematica per risolvere problemi della vita concreta. Più tardi, con il mio master, poi con il dottorato, ho usato gli algoritmi per creare dei modelli e simulare dei fenomeni della realtà per rispondere ad alcune domande, capire certi meccanismi e fare previsioni. Da allora, ho continuato a sviluppare algoritmi in campi diversissimi, come la medicina, il giornalismo, l’ingegneria, l’istruzione”. Qual è la loro importanza nella nostra società?“Senza neanche rendercene conto, interagiamo con gli algoritmi quotidianamente. Da quando controlliamo la nostra mail, a quando prendiamo i mezzi pubblici, ordiniamo online, prenotiamo un posto al cinema o guardiamo un video in streaming a casa. La maggior parte degli algoritmi migliora le nostre vite, qualche volta rendendo possibili cose che altrimenti sarebbero impossibili, come sviluppare un vaccino contro il Covid così velocemente. Alcuni algoritmi ci minacciano. Sono quelli che troviamo sui social media e che portano al cosiddetto ‘bubble filter effect’, l’effetto bolla, ovvero accelerano la propagazione delle fake news e rivelano la discriminazione tecnologica attraverso i ‘bias algoritmici’”.Cosa si intende per ‘bias algoritmico’ e qual è l’impatto potenziale sul nostro mondo?“Quando concepiamo un algoritmo, generalmente decidiamo qualcosa a proposito della logica dello stesso o dei dati che lo governeranno. Lo stesso accade con i nostri bias o pregiudizi, li trasferiamo nelle nostre decisioni. In questo senso, in ragione di questi bias, l’algoritmo può portare la tecnologia a discriminare alcune categorie di persone. Ricordiamo, ad esempio, l’app dell’Apple card che permetteva agli uomini di conservare più credito rispetto alle donne. L’algoritmo, sviluppato da Goldman Sachs, era stato formato sulle diverse linee di credito adottate in passato per uomini e donne, senza considerare il fatto che le donne hanno fatto passi avanti, finanziariamente parlando, negli ultimi 30 anni. Per evitare tutti questi errori, tutti gli attori che si occupano di algoritmi devono testare e allenarli rigorosamente prima di metterli a disposizione di milioni di persone”.Come possono gli algoritmi combattere contro il Covid?“Negli ultimi 18 mesi, gli algoritmi hanno aiutato significativamente la società a combattere il Covid. Quando abbiamo sviluppato vaccini testati automaticamente e virtualmente, attraverso simulazioni al computer, ad esempio, oppure quando abbiamo riorganizzato la logicistica degli ospedali, quando abbiamo seguito giornalisticamente l’evoluzione della pandemia nel tempo e nello spazio o quando siamo riusciti a scovare pazienti asintomatici, in tutti questi casi sono stati utilizzati degli algoritmi”.La società come potrebbe trarre vantaggio dall’uso di algoritmi? Il governo e, più in generale, la politica può avere un ruolo nel facilitare questo processo?“I nostri leader politici dovrebbero rafforzare il potere della scienza perché solo questa riesce a rispondere alle giuste domande e perché solo in questo modo possono circondarsi delle persone giuste in grado di consigliarli per questioni importanti che riguardano il Paese. Da parte sua, la comunità scientifica deve comunicare di più e meglio e fare la sua parte nelle questioni pubbliche”.Qual è il ruolo delle donne nella scienza? Ci sono p

Aurélie Jean è la regina degli algoritmi: "Ci hanno aiutato anche contro il Covid, ve ne siete accorti?"

Si occupa da più di dieci anni di modellizzazione matematica e simulazione numerica applicate a diversi ambiti di ricerca, dalla medicina all’ingegneria, dall’economia alla finanza. Aurélie Jean, classe 1982, è la regina francese degli algoritmi tanto da essere indicata nel 2019 da Forbes tra le quaranta donne francesi più influenti. Autrice del libro “Nel paese degli algoritmi” pubblicato da Neri Pozza a gennaio 2021, Jean esplora vantaggi e “lati oscuri” della modellizzazione numerica della realtà. Tra tutti, emerge lo spettro dei cosiddetti “bias algoritmici”, vale a dire quei pregiudizi cognitivi che caratterizzano la conoscenza umana e che chi progetta le macchine inconsapevolmente trasferisce nei loro meccanismi, al punto da generare discriminazioni inaccettabili (un esempio concreto è quello di Amazon che nel 2018 ha progettato un algoritmo per la selezione dei curricula, addestrandolo sulle assunzioni dei precedenti dieci anni - in prevalenza maschili - e inducendolo, de facto, a sottostimare il valore dei profili femminili).

Ospite del festival L’Eredità delle Donne, insieme ad altre personalità di spicco del mondo della scienza e della cultura, Jean spiega ad HuffPost in che modo gli algoritmi possano avere un impatto nella nostra vita, perché vale la pena studiarli e perché continuare ad ispirare le giovani donne ad intraprendere la carriera scientifica.

Come ti sei innamorata degli algoritmi?

“Per caso! Durante il mio secondo anno di università, ho frequentato per due semestri il corso di ‘computer science’ e durante i primi sei mesi ho scoperto una disciplina ancora più antica dell’età dei primi computer. Era la scienza degli algoritmi. Amavo l’idea di applicare la matematica per risolvere problemi della vita concreta. Più tardi, con il mio master, poi con il dottorato, ho usato gli algoritmi per creare dei modelli e simulare dei fenomeni della realtà per rispondere ad alcune domande, capire certi meccanismi e fare previsioni. Da allora, ho continuato a sviluppare algoritmi in campi diversissimi, come la medicina, il giornalismo, l’ingegneria, l’istruzione”. 

Qual è la loro importanza nella nostra società?

“Senza neanche rendercene conto, interagiamo con gli algoritmi quotidianamente. Da quando controlliamo la nostra mail, a quando prendiamo i mezzi pubblici, ordiniamo online, prenotiamo un posto al cinema o guardiamo un video in streaming a casa. La maggior parte degli algoritmi migliora le nostre vite, qualche volta rendendo possibili cose che altrimenti sarebbero impossibili, come sviluppare un vaccino contro il Covid così velocemente. Alcuni algoritmi ci minacciano. Sono quelli che troviamo sui social media e che portano al cosiddetto ‘bubble filter effect’, l’effetto bolla, ovvero accelerano la propagazione delle fake news e rivelano la discriminazione tecnologica attraverso i ‘bias algoritmici’”.

Cosa si intende per ‘bias algoritmico’ e qual è l’impatto potenziale sul nostro mondo?

“Quando concepiamo un algoritmo, generalmente decidiamo qualcosa a proposito della logica dello stesso o dei dati che lo governeranno. Lo stesso accade con i nostri bias o pregiudizi, li trasferiamo nelle nostre decisioni. In questo senso, in ragione di questi bias, l’algoritmo può portare la tecnologia a discriminare alcune categorie di persone. Ricordiamo, ad esempio, l’app dell’Apple card che permetteva agli uomini di conservare più credito rispetto alle donne. L’algoritmo, sviluppato da Goldman Sachs, era stato formato sulle diverse linee di credito adottate in passato per uomini e donne, senza considerare il fatto che le donne hanno fatto passi avanti, finanziariamente parlando, negli ultimi 30 anni. Per evitare tutti questi errori, tutti gli attori che si occupano di algoritmi devono testare e allenarli rigorosamente prima di metterli a disposizione di milioni di persone”.

Come possono gli algoritmi combattere contro il Covid?

“Negli ultimi 18 mesi, gli algoritmi hanno aiutato significativamente la società a combattere il Covid. Quando abbiamo sviluppato vaccini testati automaticamente e virtualmente, attraverso simulazioni al computer, ad esempio, oppure quando abbiamo riorganizzato la logicistica degli ospedali, quando abbiamo seguito giornalisticamente l’evoluzione della pandemia nel tempo e nello spazio o quando siamo riusciti a scovare pazienti asintomatici, in tutti questi casi sono stati utilizzati degli algoritmi”.

La società come potrebbe trarre vantaggio dall’uso di algoritmi? Il governo e, più in generale, la politica può avere un ruolo nel facilitare questo processo?

“I nostri leader politici dovrebbero rafforzare il potere della scienza perché solo questa riesce a rispondere alle giuste domande e perché solo in questo modo possono circondarsi delle persone giuste in grado di consigliarli per questioni importanti che riguardano il Paese. Da parte sua, la comunità scientifica deve comunicare di più e meglio e fare la sua parte nelle questioni pubbliche”.

Qual è il ruolo delle donne nella scienza? Ci sono passi in avanti che possiamo fare in questo contesto?

“Le cose si stanno muovendo molto lentamente, abbiamo bisogno di talenti scientifici. Le carriere scientifiche possono offrire alle donne potere, libertà finanziaria (con salari competitivi) e l’opportunità di cambiare il mondo occupandosi di problematiche dal forte impatto. Parlo spesso ai giovani delle scuole, in particolare alle ragazze, della scienza e ancora mi scontro con stereotipi che riguardano gli scienziati in generale. “Non fa per me”, mi sento dire spesso. Abbiamo bisogno di far sognare le giovanissime, ispirarle a diventare un giorno scienziate con figure e modelli da seguire, facendo loro capire che la storia della scienza è fatta anche di donne che hanno avuto ruoli significativi, ma che spesso non hanno ricevuto premi o riconoscimenti. E dobbiamo mostrare loro le applicazioni concrete della scienza nelle nostre vite rendendoli/le consapevoli del cambiamento che potrebbero creare nel mondo”.

giornalone

Sfoglia le Prime Pagine dei Quotidiani