Per quanto “artificiale”, l’intelligenza delle chatbot sembra essere molto umana, nel senso peggiore del termine però.

Da un importante studio condotto da un gruppo composto da 43 studiosi e studiose, compresi linguisti, guidati da Margaret Mitchell, fondatrice del team di etica dell’intelligenza artificiale di Google prima di essere licenziata dall’azienda, emerge, infatti, che l’intelligenza artificiale fa suoi gli stereotipi razziali e di genere e tende a propagare i pregiudizi in molteplici lingue e culture.

I modelli su cui si basano le iniziative dell’IA, in realtà assorbono i pregiudizi della società che vengono silenziosamente incorporati nell’enorme quantità di dati su cui vengono addestrati. Una raccolta di dati influenzata nel tempo da distorsioni, che riflette le disuguaglianze sociali, e i pregiudizi.

Questo fenomeno si verifica perché le imparano dai dati storici prodotti dagli esseri umani, finendo per replicare, e a volte amplificare, i pregiudizi già presenti nella nostra società: tanto quelli di genere, quanto quelli etnici.

Quelli razziali, infatti, hanno lo stesso funzionamento di quelli di genere: derivano principalmente dai pregiudizi della persona. Gli algoritmi dell’IA apprendono da dati storici che spesso riflettono disuguaglianze sociali esistenti.

Vengono, quindi, riprodotti quelli che sono i limiti e gli errori della mente umana, e l’intelligenza artificiale non è così intelligente da distinguere ciò che è giusto e ciò che non lo è.

Secondo Alberto Termine, ricercatore presso la Supsi all’Istituto Dalle Molle di studi sull’intelligenza artificiale, la differenza fondamentale tra le intelligenze artificiali del vicino passato e quelle di oggi risiede nella capacità di queste ultime di apprendere dai dati come comportarsi e agire.

«Se si vuole che un’IA svolga compiti complessi occorre, invece, che sia in grado di apprendere dall’ambiente e adattarsi a situazioni impreviste. Se vogliamo delle IA che funzionino in modo appropriato, è fondamentale dar loro dei dati di qualità, precedentemente ispezionati e “ripuliti” da inesattezze. Purtroppo, si tratta di un compito non semplice, data l’enorme quantità di dati richiesti per addestrare i sistemi di ultima generazione».

L’intelligenza artificiale si porta dietro i nostri difetti e pregiudizi. Non può risolverli. Dobbiamo farlo noi.

Supsi

La Scuola universitaria professionale della Svizzera italiana è tra i principali istituti universitari del Ticino. Insieme all’Università della Svizzera italiana ospita l’Idsia, l’Istituto Dalle Molle di studi sull’intelligenza artificiale, attivo nella ricerca su machine learning, robotica e sistemi intelligenti.