Scienza e Cultura

Gli scienziati hanno creato un’IA psicopatica usando le immagini di Reddit

Guarda cosa hai fatto ora, Reddit.

Norman

Non c’è carenza di film e programmi televisivi che speculano sul lato oscuro dell’intelligenza artificiale. Ora, in uno studio che sembra la trama di un film, i ricercatori hanno attivamente incoraggiato un algoritmo di intelligenza artificiale ad abbracciare il male addestrandolo a diventare uno psicopatico. Uno psicopatico chiamato Norman.

Nello studio, gli scienziati del Massachusetts Institute of Technology (MIT) hanno esposto Norman (dal nome del personaggio di Anthony Perkins in Psycho ) a un flusso costante di immagini violente e raccapriccianti dagli angoli più oscuri di Reddit. I risultati erano decisamente agghiaccianti.

In una prova, un’IA standard vide un vaso con fiori. Norman vide un uomo sparato a morte. In un altro, l’IA standard riportava una persona con un ombrello in aria. Norman vide un uomo sparato a morte davanti alla moglie urlante. Quando l’IA standard vide una scena commovente di una coppia in piedi insieme, Norman vide una donna incinta che cadeva da un edificio. Secondo i ricercatori, essendo stati costantemente esposti a immagini negative e pensiero depressivo, la logica dell’empatia di Norman semplicemente non riusciva ad attivarsi.

Lo studio disturbante è stato progettato per dimostrare che l’apprendimento automatico è influenzato in modo significativo dal suo metodo di input, e che quando gli algoritmi sono accusati di essere distorti o ingiusti non dipende dall’algoritmo, ma piuttosto dai dati che sono stati inseriti in esso. E questo può avere conseguenze significative in tutto, dall’occupazione ai servizi municipali.