Ogni discussione tecnologica complessa tende prima o poi a cercare un colpevole semplice. Può essere l’utente che consuma troppo, l’azienda che costruisce sistemi energivori, il governo che non regola abbastanza oppure, nella forma più generica, “il progresso”. È una reazione comprensibile perché un soggetto unico è più facile da giudicare di un sistema distribuito. Ma proprio questa semplificazione rende più difficile attribuire responsabilità reali.
L’Economia domestica computazionale parte da una premessa diversa: la responsabilità esiste a più livelli e deve essere proporzionata alla capacità di decidere, conoscere e intervenire. Un utente domestico può scegliere se acquistare una workstation sovradimensionata; non può scegliere l’architettura energetica di un data center. Un produttore può progettare hardware più efficiente; non può controllare ogni singolo utilizzo che ne verrà fatto. Un’istituzione può definire regole, incentivi e standard; non può sostituirsi a tutte le decisioni quotidiane di milioni di persone.
Distribuire la responsabilità non significa diluirla. Significa attribuirla meglio.
La tecnologia non prende decisioni morali
Una GPU non decide di essere prodotta, acquistata, installata o utilizzata per dieci ore consecutive. Un modello non sceglie di essere distribuito a milioni di utenti. Un data center non decide autonomamente dove essere costruito o quale contratto energetico utilizzare. Le tecnologie producono effetti, ma le condizioni nelle quali quegli effetti diventano rilevanti sono create da decisioni umane e organizzative.
Questo non significa che la tecnologia sia neutrale in senso assoluto. Un sistema possiede caratteristiche, vincoli e incentivi che possono favorire alcuni comportamenti più di altri. Una interfaccia senza attrito può incoraggiare un uso maggiore; una macchina molto potente rende possibili attività che una macchina più piccola non potrebbe svolgere; un modello progettato per massimizzare la velocità può privilegiare una metrica rispetto all’efficienza energetica. Ma queste caratteristiche derivano da scelte di progettazione.
Dire che “la tecnologia ha fatto” qualcosa può essere utile come abbreviazione descrittiva. Diventa fuorviante quando cancella chi ha progettato, acquistato, configurato, autorizzato o utilizzato quella tecnologia.
La stessa distinzione diventa particolarmente evidente negli agenti IA e nei limiti della delega, dove capacità, autonomia, accesso e controllo devono essere osservati insieme per capire chi conserva davvero il potere di intervenire.
Responsabilità diverse per poteri diversi
L’utente domestico non controlla l’intera filiera computazionale, ma possiede comunque uno spazio decisionale. Può scegliere quanto spesso sostituire l’hardware, se acquistare una macchina proporzionata al proprio bisogno, se eseguire localmente o da remoto, se lasciare processi inutili attivi e se utilizzare in modo consapevole una capacità che ha deciso di rendere disponibile.
La sua responsabilità è limitata proprio perché il suo potere è limitato. Non può essere chiamato a rispondere di informazioni che non ha, di infrastrutture che non controlla o di decisioni industriali alle quali non partecipa. Ma sarebbe altrettanto scorretto sostenere che le sue scelte non abbiano alcun peso solo perché esistono attori più grandi.
Prima che l’utente scelga fra due dispositivi, qualcuno ha già deciso quali dispositivi esistano. Il produttore stabilisce architettura, efficienza, riparabilità, compatibilità, durata del supporto e molte caratteristiche che delimitano le possibilità successive.
Se un dispositivo è progettato per essere difficile da riparare, se una componente viene resa inutilizzabile da aggiornamenti software o se l’unica strategia commerciale consiste nel sostituire rapidamente generazioni ancora perfettamente funzionanti, una parte della responsabilità non può essere trasferita al consumatore.
Il mercato non è composto soltanto da domanda; è anche costruito dall’offerta. Le persone scelgono fra alternative che qualcuno ha deciso di produrre.
Nel cloud il divario di potere decisionale diventa ancora più evidente. L’utente decide di inviare una richiesta; il fornitore decide quale hardware la esegue, dove si trova, come viene raffreddato, quali modelli sono disponibili, come viene allocata la capacità e quali informazioni sull’impatto vengono rese pubbliche.
È quindi irragionevole chiedere all’utente di ottimizzare ciò che non può vedere né modificare. Il compito del fornitore comprende anche la progettazione di sistemi efficienti, la gestione dell’infrastruttura e una trasparenza sufficiente a rendere comprensibile almeno la scala delle risorse coinvolte.
L’utente può decidere se fare una richiesta; non può decidere quale data center la riceverà.
Una parte della responsabilità appartiene anche a chi progetta le interfacce e i comportamenti dei sistemi. Se un’applicazione rende estremamente facile generare centinaia di varianti, se non mostra alcun limite, se ogni richiesta viene trattata come priva di costo e se l’interfaccia incoraggia continuamente nuove operazioni, il comportamento dell’utente viene influenzato dall’ambiente nel quale decide.
Questo non elimina la libertà individuale, ma impedisce di trattare ogni comportamento come se nascesse in uno spazio neutro. L’attrito può essere eliminato, aggiunto o ridisegnato. Anche questa è una scelta progettuale.
Le istituzioni definiscono il perimetro
Norme tecniche, standard energetici, etichettatura, diritti alla riparazione, requisiti di trasparenza e politiche sull’efficienza non appartengono né al singolo utente né alla singola azienda. Sono strumenti collettivi con i quali le istituzioni definiscono il perimetro entro cui mercato e cittadini operano.
Una buona regolazione non deve decidere quale GPU una famiglia possa acquistare. Può però rendere più leggibili consumi, efficienza, durata e riparabilità; può impedire pratiche scorrette; può richiedere informazioni che il singolo consumatore non avrebbe il potere di ottenere.
La responsabilità istituzionale nasce quindi dalla capacità di modificare le condizioni generali del sistema.
Un criterio semplice può tenere insieme questi livelli: la responsabilità cresce con il potere di incidere sulle condizioni del sistema. Chi decide per milioni di utenti possiede una responsabilità diversa da chi sceglie come utilizzare una singola macchina. Chi progetta una piattaforma dispone di leve che l’utente non possiede. Chi definisce una norma può modificare comportamenti su scala ancora più ampia.
Questo criterio evita sia la colpevolizzazione individuale sia l’assoluzione automatica del cittadino. Non tutti hanno la stessa responsabilità, ma quasi nessuno ne è completamente privo.
Il progresso non è un soggetto giuridico
Attribuire genericamente al “progresso” le conseguenze di una tecnologia produce un altro effetto: rende impossibile capire dove intervenire. Il progresso non firma contratti, non progetta schede elettroniche, non sceglie un modello di business, non aumenta la potenza del contatore e non approva una direttiva.
Esistono invece persone, aziende, amministrazioni, progettisti e utenti che prendono decisioni dentro processi tecnologici in evoluzione. Quelle decisioni possono essere buone, cattive, prudenti, miopi o semplicemente imperfette. Ma sono decisioni identificabili.
La critica al progresso in quanto tale diventa quindi poco utile proprio perché attribuisce causalità a un concetto invece che agli attori che possono realmente cambiare il sistema.
Condivisa non significa uguale
In un singolo evento possono concorrere responsabilità differenti. Un prodotto energivoro può essere progettato male, commercializzato con aspettative irrealistiche e acquistato da un utente che non ne aveva alcuna necessità. Dire che tutti hanno contribuito non significa attribuire loro lo stesso peso.
L’EDC dovrebbe evitare due estremi: cercare sempre un unico responsabile oppure distribuire la responsabilità così uniformemente da renderla indistinguibile. La distribuzione deve conservare differenze di ruolo, potere e conoscenza.
Per assumersi una responsabilità serve anche informazione. Se l’utente non può conoscere consumi, durata prevista, possibilità di riparazione o condizioni del servizio, la sua capacità di scegliere viene ridotta. La trasparenza non è quindi soltanto un valore astratto: modifica concretamente la quantità di responsabilità che può essere esercitata.
Un consumatore informato può confrontare; un consumatore tenuto all’oscuro può soltanto fidarsi. Allo stesso modo, un’istituzione priva di dati affidabili fatica a regolare e un ricercatore senza accesso alle informazioni fatica a valutare.
Rendere misurabile un sistema significa anche rendere più distribuibile la responsabilità.
Il punto non è fermare il progresso
L’Economia domestica computazionale non nasce per rallentare l’innovazione né per stabilire una quantità moralmente corretta di tecnologia. Nasce per evitare che l’innovazione venga trattata come una forza naturale priva di responsabili oppure, al contrario, come una colpa da attribuire in blocco alla tecnologia.
Il progresso amplia le possibilità. Le persone e le istituzioni decidono come utilizzarle, quali costi accettare, quali limiti introdurre e quali benefici perseguire. È in questo spazio che la responsabilità resta umana.
Con questo movimento si chiude l’area dedicata alla cittadinanza digitale. Dalla macchina sotto la scrivania siamo arrivati al cittadino, all’industria e alle istituzioni; resta però un ultimo confine da allargare. La macchina non nasce quando viene collegata alla presa e non scompare quando viene sostituita. Anche produzione, durata e fine vita appartengono al sistema materiale che stiamo osservando.