Computer says no! – il computer dice no! è il mantra che uno dei personaggi di Little Britain, Carol Beer, la bancaria incapace dall’intelligenza artificiale ripete ogni volta che un cliente le pone una domanda fuori dagli standard. Chi – come me – è vecchio abbastanza, ha perso il conto delle volte nelle quali lo sportellista di un ente pubblico o di un’azienda privata rispondeva in termini – e toni – analoghi a quelli di Carol Beer: il computer dice di no, è colpa del computer, il computer non prevede questa ipotesi… tutte forme di deviazione della responsabilità da quella del reale colpevole (chi ha validato l’analisi e la scrittura del software) a quella di una macchina che nella sua stupida rigidità non consentirebbe di fare quello che l’utente sta chiedendo. Un modo estremamente comodo per far sì che nessuno paghi per le inefficienze, i ritardi e le follie della burocrazia.
Con l’evoluzione tecnologica il mantra è cambiato: ora la “colpa” non è più del “computer” ma dell’algoritmo. Sballano i criteri di calcolo del costo dei biglietti di Trenitalia? E’ colpa dell’algoritmo. L’intelligenza artificiale (sigh!) deciderà al posto nostro? E’ colpa dell’algoritmo. Poco ci manca che, parafrasando Totò – o Pippo Baudo – qualcuno dica: l’America? La ha scoperta un algoritmo.
Topologicamente, il mantra rimane sempre uguale: la “colpa” è di una macchina, di un costrutto logico o di un’entità inanimata per cui c’è poco da fare: scienza e tecnologia sono dei dèmoni che non riusciamo a controllare e che ci distruggeranno. E’ l’approccio, per esempio, storicamente seguito dal Garante dei dati personali che non perde occasione per puntare il dito su questa o quella tecnologia “pericolosa” per i diritti fondamentali, dimenticando che il responsabile di un evento è sempre e soltanto un essere umano.
Su questa amnesia collettiva è basata l’impunità della quale godono software house e produttori di firmware: hai perso i dati per un bug del software? Compra la versione 2.0. Ti hanno bucato la rete perché c’era una backdoor nel firewall? Paga e ti vendiamo la versione senza “porta di servizio”. Puoi loggarti da più postazioni con lo stesso utente? E’ una funzionalità, non un difetto!
Su questa amnesia collettiva è basta l’ipocrisa di politici e istituzioni che, invece di invocare la punizione di chi commette illeciti, criminalizzano “il web”, “i social”, “le app”.
Che essendo oggetti inanimati non possono difendersi.
Possibly Related Posts:
- Webscraping e Dataset AI: se il fine è di interesse pubblico non c’è violazione di copyright
- Le sanzioni UE ad Apple e Google aprono un altro fronte nella guerra contro Big Tech (e incrinano quello interno)
- Il caso Crowdstrike rivela le cyber-debolezze Ue
- ChatGPT non è onnisciente, ma OpenAI è vittima del proprio marketing
- Lo Human Genome Meeting di Roma riporta in primo piano la necessità di liberare l’uso dei dati