Il risultato non basta: gli agenti IA e i limiti della delega
Un lancio fermato, un prospetto riservato e test pubblici mostrano una tensione concreta: completare un compito rispettando i limiti della delega.
Archivio
Categoria: Intelligenza artificiale e automazione
Modelli, agenti, automazione, delega e controllo umano.
La macchina che sa tutto della coscienza
Può descrivere dolore, paura, desiderio e identità. Ma conoscere tutte le parole dell’esperienza significa averne una?
Quando il chatbot diventa l’unico orizzonte
Una ventenne presa in carico dal SerD di Venezia per una dipendenza comportamentale legata all’IA mostra la distanza tra saper usare uno strumento e avere la preparazione necessaria per gestirlo.
La mano sull’interruttore
Un viaggio ipotetico, fondato sulla ricerca di oggi, nel punto in cui comprensione, verifica e controllo umano potrebbero smettere di coincidere.
Quando un’inferenza diventa un fatto
Un esperimento con Gemini Notebook mostra come una buona interpretazione possa trasformare, passaggio dopo passaggio, un’inferenza in un fatto apparente.
La paura comincia quando scompare il laboratorio
Un esperimento può essere autentico, i suoi risultati corretti e il racconto che ne facciamo comunque fuorviante. Basta togliere dalla scena le condizioni che hanno prodotto quel risultato.
Non basta più dire: «Lo hanno usato male»
Con l’EU KIDS Act, l’Europa prova a spostare una parte della responsabilità digitale dall’utente a chi progetta il sistema. Quando l’utente è un minore, questa differenza cambia tutto.
Robodebt: quando una media diventa un debito
Robodebt trasformò dati fiscali annuali in stime quindicinali usate per sollevare debiti sociali. Il caso mostra come un metodo automatizzato acquisti potere perché istituzioni e procedure decidono quali conseguenze attribuirgli.
Uber a Tempe: quando il safety driver resta nel circuito
Nel 2018 un veicolo sperimentale di Uber investì e uccise Elaine Herzberg a Tempe. Il caso mostra come supervisione umana, progettazione e cultura della sicurezza possano distribuire il controllo senza distribuire allo stesso modo la responsabilità.
COMPAS: quando un punteggio entra nella sentenza
Un algoritmo di valutazione del rischio entra nel processo penale: che cosa decide davvero COMPAS, chi gli attribuisce peso e dove resta la responsabilità umana?