Gli algoritmi svolgono da tempo un ruolo importante nella gestione. Influenzano i processi decisionali in molti settori, dalle offerte di lavoro alle verifiche fiscali, dall'assistenza sociale ai percorsi della polizia. Cosa significa questo? Gli algoritmi non sono più solo strumenti tecnici... Sono al centro delle normative sociali e delle politiche.

Pensateci un attimo... Un algoritmo utilizzato nei processi di assunzione può portare a discriminazioni nella valutazione dei candidati. Oppure un sistema utilizzato nelle verifiche fiscali può colpire in modo sproporzionato determinati gruppi. Ecco perché è fondamentale che questi sistemi siano equi, trasparenti e possano rendere conto dell’operato svolto.

 Ora... Gli sviluppi recenti in Albania e Giappone hanno portato la questione a un livello completamente diverso.

Il governo albanese ha incaricato un assistente digitale chiamato “Diella” di gestire le procedure di appalto. In Giappone, invece, un partito ha annunciato che nominerà l'intelligenza artificiale come leader!

I sistemi di intelligenza artificiale non sono più un'infrastruttura segreta, ma assumono ruoli pubblici.

 Ma cos'è la governance algoritmica? In parole semplici... Si tratta di sistemi di intelligenza artificiale che apprendono dai dati, si adattano e funzionano su larga scala. Questi sistemi vanno ben oltre l'applicazione di regole fisse. Sono in grado di proporre azioni che nemmeno i loro progettisti avevano previsto.

È proprio questo che li rende potenti, ma anche difficili da controllare. Ad esempio... Un sistema progettato per ottimizzare il flusso del traffico potrebbe, nel tempo, prendere decisioni che peggiorano ulteriormente il traffico in determinate zone.

 I filosofi dell'Illuminismo avevano sognato un mondo in cui le discussioni potessero essere risolte attraverso i calcoli.

 La governance algoritmica contemporanea sembra realizzare questo progetto promettendo decisioni prive di arbitrarietà. Ma ricordate la famosa metafora della “gabbia di ferro” di Max Weber? Ebbene, i sistemi algoritmici rendono questa gabbia ancora più stretta. Possono limitare la libertà e l'autonomia degli individui. Pensate a un sistema di assistenza sociale... Rifiuta automaticamente le richieste in base a determinati criteri e rende difficile soddisfare i bisogni fondamentali delle persone.

 I moderni sistemi di intelligenza artificiale si basano su inferenze statistiche. I risultati vengono generati mappando le complesse correlazioni presenti nei dati. Ciò garantisce flessibilità, ma allo stesso tempo introduce un elemento di opacità (mancanza di trasparenza). Anche i responsabili politici possono avere difficoltà a spiegare perché una determinata proposta sia stata avanzata.

C'è anche uno sfasamento temporale. In passato i sistemi erano periodici e retroattivi. Un censimento ogni dieci anni, un bilancio ogni anno fiscale... Ma i moderni sistemi di intelligenza artificiale? Lavorano continuamente. Ricevono dati in tempo reale e adeguano le decisioni all'istante. È proprio questa continuità a rendere complesso il controllo...

Allora cosa dobbiamo fare? Questi esperimenti condotti in Albania e in Giappone ci offrono in realtà un'opportunità. Si tratta dell'opportunità di progettare norme, misure di controllo e quadri giuridici che regolino i processi decisionali algoritmici.

Se ci chiediamo quale sia il nostro compito ora, è quello di individuare i modi per mantenere questa governance legittima, discutibile e conforme ai principi democratici. Trasparenza... Responsabilità... Giustizia...

Questi principi devono essere rispettati nella progettazione e nell'uso dei sistemi algoritmici. E non dimentichiamo... Dobbiamo impegnarci costantemente per monitorare e valutare gli effetti di questi sistemi.

Nel nostro nuovo mondo, prima di dare potere all'intelligenza artificiale... Forse dovremmo prima porci questa domanda: siamo davvero pronti?