Un bias è una distorsione, un pregiudizio. Nell'intelligenza artificiale succede quando il sistema dà risultati ingiusti o sbilanciati verso certe persone o certe idee.
Di solito non è cattiveria della macchina: l'AI impara dai dati, e i dati riflettono il mondo con i suoi squilibri. Se in milioni di foto i medici sono quasi sempre uomini, l'AI tenderà a disegnare un medico uomo. Se i dati trascurano un gruppo di persone, l'AI funzionerà peggio per loro.
Il problema diventa serio quando l'AI aiuta a decidere cose importanti, come un prestito o una selezione di lavoro. Saperlo ti aiuta a guardare i risultati con occhio critico.
In praticaChiedi a un generatore di immagini "una persona che fa le pulizie" e ottieni sempre donne: è un bias ereditato dagli stereotipi presenti nei dati.
Approfondisci nella guida
Parole collegate:AddestramentoAlgoritmoMachine learning