Intervista a ChatGPT: «Più donne a progettare i sistemi di AI, altrimenti si perpetuano i pregiudizi»

Ha bisogno di lei, e lo ammette. Ne va della sua credibilità.

Senza il pensiero e la creatività femminile, senza diversità di punti di vista, l’intelligenza artificiale continuerà a vedere e raccontare una metà di mondo. L’AI pensa da uomo perché è stata pensata quasi esclusivamente da uomini (bianchi). Lo sa e sa benissimo che questo è un limite e in futuro potrebbe essere un guaio. Provate a chiederlo a ChatGPT. «Il fatto che ci siano poche donne a progettare i sistemi di intelligenza artificiale può essere un problema», è la riposta. «La diversità di prospettive ed esperienze è fondamentale nello sviluppo dell’AI per garantire che i sistemi siano equi, inclusivi e rispettosi delle esigenze e dei diritti di tutte le persone». Conclusione: «Senza la voce delle donne nel processo decisionale - continua ChatGPT - i sistemi di AI potrebbero contribuire a perpetuare gli stereotipi di genere, influenzando le scelte e le opportunità disponibili per le donne nella società». E allora? «Per affrontare questo problema - sentenzia ChatGPT - è cruciale coinvolgere le donne nella progettazione dei sistemi, nella ricerca, nell’industria e nelle decisioni politiche relative all’AI». Chiaro?

I DATI

Se provate a chiedere al chatbot di OpenAI se l’intelligenza artificiale favorirà la parità di genere, vi risponderà «ni». «Dipende da come viene implementata e sviluppata. Da una parte potrebbe contribuire alla promozione della parità attraverso l’automazione dei processi decisionali, riducendo il rischio di pregiudizi. D’altro canto può riflettere e amplificare le disuguaglianze esistenti». Dunque, esistono bias di genere, etnia e stato sociale in ChatGPT? La risposta è sì, «il modello GPT-3 è possibile che rifletta pregiudizi presenti nei dati» con cui è stato addestrato. Servono più donne nell’AI e lo dice l’AI stessa. In Italia appena il 14 per cento tra le forze coinvolte nelle tecnologie innovative è rappresentato da donne. «Un dato allarmante e al di sotto della media europea. Pochissime occupano posizioni di rilievo nelle aziende digitali e ancor meno lavorano nell’AI», Darya Majidi, imprenditrice digitale, è ceo Daxo Group e presidente di “Donne 4.0”, l’associazione nata due anni fa per far crescere la presenza femminile nella tecnologia e che ha stilato un manifesto per il “Women tech empowerment”. «Il know how dell’intelligenza artificiale è in mano agli uomini, le donne non ci sono. E invece devono essere presenti nella transizione digitale, non solo come utilizzatrici ma come creatrici e implementatrici di questi modelli. Altrimenti l’AI farà da megafono ai pregiudizi che esistono nella società. Tutto le volte che uso ChatGPT mi preoccupo perché ho la consapevolezza che è un sistema creato solo da uomini e i dati su cui si addestra sono pieni di bias». Protagoniste del futuro e della transizione digitale? Impossibile con questi numeri. «Basta parlare di STEM (acronimo per science, technology, engineering and mathematics, ndr) e di ripetere che le studentesse devono intraprendere questi percorsi. Bisogna concentrasi sulle ICT (Information and Communication Technologies, ndr) perché il problema è proprio lì.

In matematica e fisica la percentuale di laureate è già alta, mentre in informatica, almeno in Italia, siamo molto indietro, inchiodate al 15 per cento. Tanto è vero che il Manifesto di Donne 4.0 raccomanda, tra le tante cose, al mondo della formazione di avvicinare le donne alla tecnologia e chiede che sia garantito a tutte, come diritto di cittadinanza universale, l’accesso a internet. Bisogna avere il coraggio di uscire dalla comfort zone, intraprendere studi informatici e diventare imprenditrici digitali e così essere presenti nella progettazione dei sistemi di AI e nella selezione dei dati, non solo nel marketing». Intelligenza artificiale e gender gap: un aiuto o un freno? «L’AI è un’arma potentissima che va regolata, come è stato per la bomba atomica. Ma è anche l’unica leva che abbiamo per accelerare il superamento del gender gap. La tecnologia riflette la realtà, è in continuità con essa, ma può diventare un elemento di discontinuità nel momento in cui le donne ne comprendono l’enorme potenzialità e la usano, imparando come funziona». E se da una parte, come evidenzia un rapporto Unesco, i sistemi di AI potrebbero essere un aiuto per le donne, soprattutto nella ricerca del lavoro, dall’altra l’automazione colpirà soprattutto l’occupazione femminile.

MONDO VIRTUALE

Più un aiuto che un freno, a qualche condizione, però. L’imprenditrice rivolge un appello ai vertici di OpenAI, l’azienda che ha creato ChatGPT. «Visto che il comitato dei cervelli che lavora ai sistemi di AI è al 90 per cento maschile e anche il business è nelle stesse mani, chiediamo che nelle nuove piattaforme, sin dalla creazione, sia prevista una quota di donne», così che l’intelligenza artificiale sia meno sbilanciata. E subito si deve cominciare «a pulire i dati, eliminando più bias possibile». C’è già una start up che ha questa missione: abolire i pregiudizi di genere, etnia e stato sociale che influenzano gli algoritmi, rendendoli più inclusivi e affidabili. Si chiama “ClearboxAI”, è italiana, ha vinto la Women&Sustainability Fintech Competition. E anche nel Metaverso la parità è lontana. Sebbene le donne superino gli uomini nell’uso delle piattaforme (41% contro il 34) nei ruoli di comando c’è sempre lui: le ceo nel Metaverso sono appena il 10%, secondo una ricerca di McKinsey&Company. Non solo, le aziende guidate da uomini hanno ricevuto quote di finanziamento maggiore rispetto a società con donne ai vertici. Nel mondo digitale, insomma, lei comanda poco e prende ordini, la voce degli assistenti virtuali è quasi sempre la sua. Generalmente sommessa, accondiscendente, servizievole. Più stereotipo di così. 

DOMANDE&RISPOSTE A CHATGBT

L’AI favorirà la parità di genere?

L’intelligenza artificiale può essere sia un fattore positivo che negativo per la parità di genere. Attraverso l’automazione dei processi decisionali, potrebbe ridurre il rischio di pregiudizi di genere o di discriminazione. Ma potrebbe anche amplificare le disuguaglianze di genere esistenti se i dati utilizzati per addestrare i modelli di intelligenza artificiale sono influenzati da pregiudizi di genere o se i sistemi sono progettati senza una sufficiente diversità di prospettive.

 Impatto più positivo o negativo?

Se dovessi sbilanciarmi, direi che l’intelligenza artificiale potrebbe avere un impatto positivo sulla parità di genere.

Esistono bias di genere, etnia o stato sociale in ChatGPT?

GPT-3, modello su cui sono basato, è stato addestrato su un ampio corpus di testo proveniente da internet. Poiché il modello impara dai dati a cui è esposto, è possibile che rifletta alcuni dei pregiudizi e dei bias presenti nei dati.

Il fatto che le donne siano ancora poco presenti nella progettazione dei sistemi di AI può essere un problema?

Può portare a una serie di conseguenze negative, tra cui bias (ossia pregiudizi) negli algoritmi e perpetuazione degli stereotipi di genere.