Ogni nuova tecnologia promette di togliere attrito. È una promessa utile solo se non elimina anche la possibilità di capire cosa sta succedendo. Nei sistemi che incidono su persone, denaro o diritti, la velocità non può essere l’unico criterio.
Il giudizio umano non è una decorazione da aggiungere alla fine. Richiede contesto, tempo e accesso alle informazioni che hanno prodotto il suggerimento della macchina. Senza questi elementi, la supervisione diventa una firma automatica.
La mia posizione è semplice: automatizzare le operazioni ripetitive, documentare le assunzioni e mantenere una via di uscita. Un sistema che non può essere fermato o contestato non è davvero efficiente; sta solo spostando il costo dell’errore su qualcun altro.
Questa non è una richiesta di rifiutare l’innovazione. È una richiesta di progettarla con una responsabilità proporzionata alle conseguenze.