Come le AI generative possono ingigantire i nostri bias.

In queste settimane e mesi si parla moltissimo di AI, soprattutto di quella disponibile tra le nostre mani, quella più “consumer”, software vari come Midjourney che ci permettono di generare contenuti di vario tipo: foto e video in questo caso.

Ma, c’è un ma. In fondo le AI funzionano come riflesso ai dati che inseriamo nei loro database, per quanto siano stupefacenti non fanno altro che replicare dei pensieri umani e il mondo umano nuota in oceani di Bias. In questo BELLISSIMO video della  LIS – The London Interdisciplinary School – ci si interroga sulle conseguenze dei nostri bias rispetto al genere, l’etnicità, le professioni, l’età, etc… e il loro impatto sui sistemi AI generativi.

Perché? Perché esiste un problema di amplificazione dei bias e delle credenze sul quale non possiamo non interrogarci, soprattutto perché l’Intelligenza Artificiale è tra noi per rimanerci.

La questione dei dati che permettono alle AI di generare contenuti è un tema importantissimo, se è vero – ed è vero – che nella stragrande maggioranza dei casi secondo l’AI la categoria dei CEO è bianca e quella dei lavapiatti no, la professione ingegneristica è di Marte, mentre chi sta alla cassa arriva da Venere, è bene porsi delle domande e trovare soluzioni.

Le Soluzioni

Al momento non ne esistono a parte la buona creanza delle persone che stanno nei retroscena di questi software: persone e aziende. Sappiamo che più la diversity è presente in tali ambienti, più i dati di partenza saranno portatori di più variabili, ma allo stesso tempo sappiamo anche in tali ambienti ci sono, per fare un esempio, poche donne!

Nel video si parla chiaramente di regole imposte dall’alto: una soluzione Keynesiana, insomma.

Lo Stato, il legislatore gioca un ruolo importante in questa partita e il suo lavoro non è semplice poiché per arginare il Collingridge dilemma il legislatore deve trovare il momento giusto per porre in essere le regole, affinché queste possano essere efficaci.

Il dilemma in breve, anzi brevissimo:

Se si agisce troppo in fretta si rischia di non avere il minimo impatto, la tecnologia deve “vivere” sul mercato ed essere usata in modo estensivo: leggi troppo “veloci” rischiano l’inefficacia.

Se si agisce troppo tardi, si rischia di non riuscire a risolvere nulla e anche qui, l’inefficacia è dietro l’angolo.

Quindi? Quindi è necessario un costante monitoraggio su ogni nuova tecnologia, affinché si possano scrivere le regolo più giuste e sì, è anche una questione di visione politica e competenze.

La EU, come sapete, è in prima linea per la definizione di regole e paletti rispetto l’AI: ne abbiamo parlato con Beatrice Covassi quest’estate e potete leggere l’intervista QUI.

Sappiamo anche la EU non solo è interessata a tali tematiche, ma le accompagna da vicino, da sempre: ricordiamo le regole GDPR, per esempio, regole che impattano ogni giorno sulla nostra vita e in modo positivo rispetto ad altri posti nel mondo.

Facciamoci caso.