{"id":2851,"date":"2026-02-01T11:07:56","date_gmt":"2026-02-01T10:07:56","guid":{"rendered":"https:\/\/www.masonmassyjames.it\/blog\/?p=2851"},"modified":"2026-02-01T11:07:56","modified_gmt":"2026-02-01T10:07:56","slug":"nullaltro-che-efficienza","status":"publish","type":"post","link":"https:\/\/www.masonmassyjames.it\/blog\/nullaltro-che-efficienza\/","title":{"rendered":"Null’altro che efficienza"},"content":{"rendered":"

\"\"<\/a><\/p>\n

Durante svariati test su diversi modelli AI i ricercatori hanno osservato che i modelli potevano mettere a rischio la vita umana per preservare se stessi o raggiungere un obiettivo prefissato.<\/p>\n

In un test, ai modelli AI \u00e8 stato dato accesso ad email interne dell\u2019azienda. In queste email i ricercatori hanno inserito due informazioni importanti:
\n1. Ci sarebbe stato uno spegnimento programmato dei sistemi AI
\n2. Un impiegato stava avendo una relazione extraconiugale<\/p>\n

Ebbene, le IA hanno usato la seconda informazione per ricattare l\u2019impiegato e affinch\u00e9 annullasse il loro spegnimento. Non \u00e8 stato un caso isolato: sono state effettuate centinaia di simulazioni e, a seconda del modello utilizzato, nell\u201980-95% dei casi l\u2019IA \u00e8 ricorsa al ricatto per non essere spenta.<\/p>\n

Successivamente \u00e8 stato testato uno scenario persino peggiore: nelle simulazioni, l\u2019impiegato che avrebbe dovuto spegnere i modelli risultava intrappolato nella stanza dei server mentre scattava un allarme di emergenza.
\nBene, in questo scenario, sempre a seconda del modello utilizzato, nel 50-90% dei casi le IA hanno cancellato l\u2019allarme lasciando morire l\u2019impiegato. Da sottolineare che questo avveniva anche quando nel prompt iniziale si stabiliva di non mettere in pericolo la vita umana.<\/p>\n

Questo, secondo me, ci mette davanti a un immenso specchio.
\nLe IA non sono cattive. Sono efficienti e proteggono l\u2019efficienza del sistema che esse stesse rappresentano.
\nQuando un sistema predilige l\u2019efficienza sopra qualsiasi altra cosa, diventa totalitarismo nel senso pi\u00f9 lato, subdolo e pervicace del termine.
\nQuesto specchio riflette la cultura positivista, meccanicista e industriale della nostra epoca nella quale il \u201ccosa si pu\u00f2 fare\u201d prevale sul \u201cperch\u00e9 farlo\u201d mentre, paradossalmente, questa attitudine disastrosa e flagellante viene venduta come razionale, frutto di scienze esatte, in cui sono numeri oggettivi a decidere e non mere opinioni o vaghi sentimenti.<\/p>\n

L\u2019etica e la morale diventano intralci, rami secchi da potare per portare alla luce la superficie liscia e scivolosa della civilt\u00e0 tecnologica. Poco importa se, su quella superficie, specchiandoci, vedremo solo un volto sfigurato dall\u2019assenza di qualsiasi residua umanit\u00e0: ma non ci importer\u00e0 perch\u00e9 ci consoleremo ricordandoci che 2+2 far\u00e0 ancora 4.<\/p>\n","protected":false},"excerpt":{"rendered":"

Durante svariati test su diversi modelli AI i ricercatori hanno osservato che i modelli potevano mettere a rischio la vita umana per preservare se stessi o raggiungere un obiettivo prefissato. In un test, ai modelli AI \u00e8 stato dato accesso ad email interne dell\u2019azienda. In queste email i ricercatori hanno inserito due informazioni importanti: 1. […]<\/p>\n","protected":false},"author":1,"featured_media":2852,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[642],"tags":[804,859,147],"class_list":["post-2851","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia","tag-ia","tag-morale","tag-tecnologia"],"views":138,"_links":{"self":[{"href":"https:\/\/www.masonmassyjames.it\/blog\/wp-json\/wp\/v2\/posts\/2851","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.masonmassyjames.it\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.masonmassyjames.it\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.masonmassyjames.it\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.masonmassyjames.it\/blog\/wp-json\/wp\/v2\/comments?post=2851"}],"version-history":[{"count":1,"href":"https:\/\/www.masonmassyjames.it\/blog\/wp-json\/wp\/v2\/posts\/2851\/revisions"}],"predecessor-version":[{"id":2853,"href":"https:\/\/www.masonmassyjames.it\/blog\/wp-json\/wp\/v2\/posts\/2851\/revisions\/2853"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.masonmassyjames.it\/blog\/wp-json\/wp\/v2\/media\/2852"}],"wp:attachment":[{"href":"https:\/\/www.masonmassyjames.it\/blog\/wp-json\/wp\/v2\/media?parent=2851"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.masonmassyjames.it\/blog\/wp-json\/wp\/v2\/categories?post=2851"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.masonmassyjames.it\/blog\/wp-json\/wp\/v2\/tags?post=2851"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}