Durante svariati test su diversi modelli AI i ricercatori hanno osservato che i modelli potevano mettere a rischio la vita umana per preservare se stessi o raggiungere un obiettivo prefissato.
In un test, ai modelli AI è stato dato accesso ad email interne dell’azienda. In queste email i ricercatori hanno inserito due informazioni importanti:
1. Ci sarebbe stato uno spegnimento programmato dei sistemi AI
2. Un impiegato stava avendo una relazione extraconiugale
Ebbene, le IA hanno usato la seconda informazione per ricattare l’impiegato e affinché annullasse il loro spegnimento. Non è stato un caso isolato: sono state effettuate centinaia di simulazioni e, a seconda del modello utilizzato, nell’80-95% dei casi l’IA è ricorsa al ricatto per non essere spenta.
Successivamente è stato testato uno scenario persino peggiore: nelle simulazioni, l’impiegato che avrebbe dovuto spegnere i modelli risultava intrappolato nella stanza dei server mentre scattava un allarme di emergenza.
Bene, in questo scenario, sempre a seconda del modello utilizzato, nel 50-90% dei casi le IA hanno cancellato l’allarme lasciando morire l’impiegato. Da sottolineare che questo avveniva anche quando nel prompt iniziale si stabiliva di non mettere in pericolo la vita umana.
Questo, secondo me, ci mette davanti a un immenso specchio.
Le IA non sono cattive. Sono efficienti e proteggono l’efficienza del sistema che esse stesse rappresentano.
Quando un sistema predilige l’efficienza sopra qualsiasi altra cosa, diventa totalitarismo nel senso più lato, subdolo e pervicace del termine.
Questo specchio riflette la cultura positivista, meccanicista e industriale della nostra epoca nella quale il “cosa si può fare” prevale sul “perché farlo” mentre, paradossalmente, questa attitudine disastrosa e flagellante viene venduta come razionale, frutto di scienze esatte, in cui sono numeri oggettivi a decidere e non mere opinioni o vaghi sentimenti.
L’etica e la morale diventano intralci, rami secchi da potare per portare alla luce la superficie liscia e scivolosa della civiltà tecnologica. Poco importa se, su quella superficie, specchiandoci, vedremo solo un volto sfigurato dall’assenza di qualsiasi residua umanità: ma non ci importerà perché ci consoleremo ricordandoci che 2+2 farà ancora 4.
