AI, emozioni, pregiudizi

Da svariati mesi stiamo sperimentando le intelligenze artificiali su diversi fronti (visivo, testuale, sonoro) e le usiamo attivamente come supporto al nostro lavoro quotidiano di creazioni creative.

Ma con il crescere dell’utilizzo di AI come Midjourney, DALL-E, Stable Diffusion, Chat GPT ecc. è doveroso capire meglio alcune dinamiche di questi strumenti (e anche qualcosa in più dei loro creatori).

Quando vi diciamo che le Intelligenze Artificiali sono lo specchio della nostra società, è la verità in senso letterale.
Riflettono esattamente i concetti, le ideologie politiche, le pratiche culturali di chi le programma (sapete dove si trova il quartier generale di Midjourney? A San Francisco ovviamente), e quindi anche della nostra società.
O per lo meno, di quella fetta di società che ha accesso alle tecnologie.

Abbiamo dedicato del tempo a questo tema, indagando i cosiddetti bias cognitivi dell’intelligenza artificiale.
Ve la ricordate Empat.IA? Ecco un video per rinfrescarvi la memoria.

Empat.IA è la nostra installazione, attualmente di base a Lipsia, che indaga come una AI interpreta le emozioni o sentimenti e concetti di natura prettamente umana.
Abbiamo prodotto tantissime immagini dividendole per diversi topic: rabbia, amore, amicizia, libertà...
Non abbiamo dato alcun input stilistico: volevamo che la macchina avesse massima libertà interpretativa, per restituirci il concetto nel modo più vero e completo per i suoi canoni.

Esteticamente le immagini prodotte non erano particolarmente accattivanti. Ma sulla larga scala, qualche risultato interessante è saltato fuori.

Libertà secondo Midjourney: chiari riferimenti alla bandiera americana.

La parola relationship è rappresentata con un uomo e una donna.

Il pianto è rappresentato da una figura femminile. Boys don't cry.

Recentemente anche Wired, in collaborazione con TBWA (una nota agenzia di comunicazione), ha pubblicato un interessante progetto sui bias cognitivi dell’intelligenza artificiale: un bel lavoro per mettere in luce i pregiudizi delle AI.
Date un'occhiata al progetto qui.

Per comprendere meglio il perché del nostro progetto, ed anche quello di Wired, per capire in generale l’importanza dell’argomento (le AI sono già uno strumento usatissimo e non possiamo ignorare il fatto che in futuro diventeranno parte integrante della nostra vita quotidiana), bisogna fare un passo indietro e spiegare cosa sono i bias cognitivi.

I bias cognitivi nell'intelligenza artificiale (IA) sono distorsioni o pregiudizi presenti nei modelli e negli algoritmi di IA.

Ad esempio, se un modello di IA è addestrato su un insieme di dati che rappresenta in modo non equo una determinata razza o genere, potrebbe mostrare pregiudizi razziali o di genere nella sua capacità di classificare ed elaborare.
L'IA è il risultato delle conoscenze, delle esperienze e dei pregiudizi dei suoi sviluppatori, che sono incorporati nei suoi algoritmi e nei suoi modelli.

Per approfondire l’argomento, vi suggeriamo questo articolo

Esiste una soluzione al problema?

Bhe, qualcosa si può fare.
Innanzitutto, è importante che vengano selezionati dataset per istruire le AI che siano diversi e rappresentativi.

Inoltre, sarebbe utile la creazione di modelli per individuare eventuali pregiudizi, in modo da realizzare dei test di verifica dei bias.

A riguardo, date un’occhiata a questo strumento sviluppato da IBM, AI Fairness 360, per mitigare i bias dei modelli di machine learning.

In sintesi, un'intelligenza artificiale può essere considerata uno specchio dei suoi creatori, ma è anche molto di più.
È uno strumento potente che può influire sulla società e sulle persone in molti modi, e pertanto è importante che sia progettata e utilizzata in modo responsabile.

PS
Nella prossima newsletter, vi mostreremo un po’ delle nostre sperimentazioni realizzate in queste ultime settimane, e soprattutto, come stiamo utilizzando le AI per scopi creativi.

A presto!
🍍 Chiara A.

Hai trovato interessante questo articolo?
Condividi la nostra Newsletter!

WOA è un’esclamazione di meraviglia!

WOA Creative Company è lo studio milanese che esalta la creatività plasmando la tecnologia in nuove forme d’arte e narrazioni emozionali a cavallo tra digitale e analogico.

WOA crea installazioni multimediali, spettacoli interattivi ed esperienze immersive con i suoi artisti e creative technologists, in grado di raggiungere territori inesplorati nella condivisione di emozioni e riflessioni profonde nel pubblico.