La faglia del tempo
Un impulso nervoso corre a cento metri al secondo, la luce in una fibra ottica a duecentomila chilometri al secondo. Mentre la nostra coscienza si accorge del problema, il sistema ha già isolato, deciso e archiviato.
Come abbiamo smesso di decidere, e come tornare a farlo
Salvatore Russolillo · Prefazione del Prof. Luigi Carrino
Quando è stata l'ultima volta che hai deciso qualcosa, per intero, da solo? Un saggio sulla delega silenziosa alle macchine e sulla sovranità del giudizio umano, scritto da chi progetta difese digitali e governa l'intelligenza artificiale per le organizzazioni.
Un impulso nervoso corre a cento metri al secondo, la luce in una fibra ottica a duecentomila chilometri al secondo. Mentre la nostra coscienza si accorge del problema, il sistema ha già isolato, deciso e archiviato.
Nei sistemi automatici la carrozzeria che si accartoccia nell'urto siamo noi: l'analista di notte, il medico, il funzionario. Messi lì non per governare la macchina, ma per assorbire la colpa di un fallimento che non potevano impedire.
Portare la responsabilità piena avendo un potere nullo scava una ferita morale silenziosa. Continuiamo a scegliere lo stesso numero di volte, solo che qualcun altro ha già apparecchiato il tavolo.
Guardare un'eccezione e vederci il volto di una persona, non un rumore statistico da tollerare.
Una vita di esperienza compressa nel corpo: la voce che dice «qualcosa non mi torna» prima di saperlo spiegare.
Inventare l'ottava opzione quando il menu a tendina sullo schermo ne prevede soltanto sette.
«Ci invita a guardare oltre la rassicurante presenza di un essere umano nel processo e a chiederci se quella persona abbia davvero il tempo di valutare, la possibilità di dissentire e l'autorità di cambiare l'esito.»
Prof. Luigi Carrino, dalla Prefazione
L'AI Act chiede che i sistemi di intelligenza artificiale ad alto rischio siano progettati per una supervisione umana efficace (art. 14). Paralisi Cognitiva mostra cosa succede quando quella supervisione esiste solo sulla carta: operatori senza tempo, senza informazioni e senza potere reale, ma responsabili dell'esito.
È la stessa domanda che poniamo ogni giorno nei progetti di governance dell'AI e nei SOC: chi decide davvero, con quali informazioni e in quanto tempo. Per questo progettiamo processi in cui l'automazione accelera la risposta e la persona mantiene il potere di dissentire.
Estratti, prefazione e informazioni sull'acquisto sul sito ufficiale del libro.
www.paralisicognitiva.itWe use technical and anonymous analytics cookies to improve your experience. No marketing profiling without your explicit consent. Read the Cookie Policy.