Gli algoritmi utilizzati nei software dell’intelligenza artificiale possono far commettere agli uffici delle pubbliche amministrazioni che oggi più che mai hanno il dovere di controllarli per evitare discriminazione e arbitrarietà nella gestione dei servizi erogati alla cittadinanza.
Per capire se un algoritmo discrimina, ad esempio, è necessario sapere quali caratteristiche vengono utilizzate per selezionare i cittadini che per ipotesi sono in attesa di ricevere un sussidio pubblico.
Si pone il problema tuttavia, se questi dati devono essere resi disponibili o meno in quanto potrebbero aiutare i truffatori a eludere i sistemi e truffare qualcuno.
Ma se le regole che si applicano devono essere pubbliche, le pubbliche amministrazioni devono comunicare cosa e come controllano i dati?
In Olanda l’orientamento della PA è il seguente: una condizione importante per ciò è la trasparenza sugli algoritmi e il loro utilizzo”, ha scritto la responsabile di dicastero, la sottosegretaria Alexandra van Huffelen. “Il registro degli algoritmi può contribuire in modo significativo a rendere più comprensibile l’applicazione e l’esito degli algoritmi.
Voi cosa ne pensate?