A Maranello sarebbe quantomeno singolare costruire Ferrari sempre più potenti, capaci ogni anno di correre più velocemente, e poi, al momento di consegnare le chiavi al cliente, comunicargli: «Mi raccomando, non acceleri».
Eppure con l’intelligenza artificiale sta accadendo qualcosa di simile.
Dario Amodei, fondatore e amministratore delegato di Anthropic, una delle aziende che stanno spingendo più avanti la frontiera dell’IA, da tempo mette in guardia sui rischi estremi di questa tecnologia. Nel 2023 arrivò a stimare tra il 10 e il 25 per cento la possibilità che qualcosa potesse andare «catastroficamente storto» sulla scala globale della civiltà. Oggi la sua posizione è più articolata: continua a chiedere forti garanzie di sicurezza, ma sostiene anche che l’IA possa essere sviluppata in modo sicuro.
Ed è proprio questo il paradosso: costruiamo motori sempre più potenti e poi discutiamo di quanto premere sul freno.
Forse, però, stiamo ponendo la domanda sbagliata.
Ne ho parlato con Mark Hassenplug, fondatore e Managing Partner di Gryphon Citadel, boutique internazionale di consulenza strategica basata a Filadelfia, che fornisce supporto strategico ed operativo alla leadership delle aziende nel disegno dei processi e nell’implementazione di sistemi e modelli di intelligenza artificiale, e con Paolo Prisco, co-fondatore e Managing Partner per l’Europa della stessa società.
Prisco, il problema è davvero che l’intelligenza artificiale sta diventando troppo potente?
Non confondiamo la capacità con l’autorità. La capacità non è autorità. E non riflette neanche il talento di un uomo o di un manager. Un sistema può analizzare milioni di dati, formulare una previsione o individuare una soluzione meglio e più velocemente di un essere umano. Il salto avviene quando gli concediamo anche il potere di decidere e di agire. Inoltre se le informazioni analizzate sono errate il sistema può giungere a conclusioni sbagliate. È lì che cambia la natura del problema ed il rischio per le aziende e per la società diventa molto elevato.
Hassenplug, quando una macchina smette di essere uno strumento e comincia ad avere davvero potere?
Quando l’informazione diventa impegno. Finché l’IA analizza, suggerisce o simula, abbiamo uno strumento. Quando può effettuare un ordine, modificare una fornitura, impegnare denaro, assumere una decisione operativa o attivare autonomamente una catena di azioni, entriamo in un’altra dimensione.
Pensiamo a un sistema incaricato di ridurre costi e carenze nella supply chain farmaceutica. Se l’obiettivo è formulato male o è incompleto, può prendere decisioni perfettamente coerenti con ciò che gli abbiamo chiesto e produrre conseguenze che nessuno voleva.
La macchina ha sbagliato? Non necessariamente. Ha solo obbedito.
Consideriamo un produttore farmaceutico ipotetico che chiede a un agente di acquisto di ridurre i costi dei materiali mantenendo specifici standard di qualità e consegna. L’agente consolida gli ordini con il fornitore approvato a basso costo. I risparmi sono reali e le transazioni rispettano le sue autorizzazioni.
Ma il fornitore più piccolo che ha perso quegli ordini è stato anche la fonte alternativa dell’azienda durante una interruzione. Mantenere quella relazione comportava un costo perché acquisiva resilienza. Se questo scopo non fosse mai stato considerato nella decisione, le prestazioni d’acquisto possono migliorare mentre la continuità dell’offerta si deteriora.
Quindi basta lasciare sempre un uomo nel processo decisionale?
Non basta scrivere «human in the loop». Se l’uomo interviene soltanto alla fine per approvare automaticamente ciò che la macchina ha già deciso, non è controllo: è un timbro.
Bisogna stabilire prima quali decisioni possono essere delegate, quali soglie non possono essere superate, quando il sistema deve fermarsi e soprattutto chi ha realmente il potere di dire «no».
È il principio che noi definiamo Strategic Reflex Architecture: non rallentare l’organizzazione, ma costruire in anticipo i suoi riflessi, compresi quelli che impongono uno stop.
Prisco, allora arriviamo al vero punto: il nodo non è fermare l’IA, ma impedire che diventi un potere senza contrappesi.
Esattamente. L’intelligenza artificiale è ormai un’infrastruttura di potere. Chi controlla modelli, dati e capacità di calcolo può incidere sull’accesso alla conoscenza, sull’organizzazione del lavoro e sempre più spesso sui processi decisionali.
Per questo non basta certificare un algoritmo o stabilire norme tecniche. La domanda fondamentale diventa: chi e come si esercita questo potere, con quali limiti e davanti a chi se ne risponde?
Il pericolo non è la macchina in sé. È consegnare un potere enorme senza aver costruito contrappesi altrettanto forti. Definire questi ultimi è precisamente il compito di una nuova generazione di Managers, più competente, più creativa e più attenta a creare valore, innovazione e crescita aziendale e non solo automatismi dalle capacità dell’intelligenza artificiale.
Ed è qui che entra in gioco l’Europa?
Sì. L’Europa dovrebbe avere una capacità di gestione e controllo indipendente, dotata di competenze scientifiche, risorse e poteri effettivi: accesso ai modelli più avanzati, audit indipendenti, verifica delle capacità più rischiose e possibilità di intervenire quando vengono superate determinate soglie.
E dovrebbe dialogare stabilmente con Stati Uniti e Cina. Non perché dobbiamo fidarci di Washington o Pechino, ma esattamente per la ragione opposta: perché su un potere di queste dimensioni non possiamo permetterci di affidarci solamente alla fiducia.
Federico Faggin ha detto che l’etica non è un algoritmo. È questo il limite?
È una distinzione fondamentale. Possiamo insegnare a un sistema delle regole, possiamo definire vincoli, obiettivi e criteri. Ma la responsabilità ultima di una decisione non può essere trasferita alla macchina. Essa appartiene per forza di cose alla Leadership di una azienda o di un’organizzazione.
Un algoritmo può ottimizzare. Non può diventare il soggetto morale a cui attribuiamo la responsabilità delle nostre scelte.
Esiste poi un altro aspetto, quello dell’informazione. Lo abbiamo visto anche in politica. Il 15 marzo, proprio su queste pagine, raccontai un fenomeno allora quasi inesplorato: interrogando diverse piattaforme sul referendum sulla giustizia, emergeva una forte presenza delle argomentazioni del No. Ciò non perché ChatGPT o Gemini avessero deciso di schierarsi politicamente. L’analisi mostrava qualcosa di molto più interessante: chi sosteneva il «No» aveva presidiato meglio l’ecosistema informativo dal quale le intelligenze artificiali costruivano le loro risposte.
Non era l’algoritmo ad avere un’ideologia. Era l’ecosistema umano intorno all’algoritmo ad avere prodotto più materiale, più fonti, più contenuti indicizzati.
Ed è forse qui che il discorso torna al punto di partenza.
Da Cambridge Analytica in poi abbiamo imparato quanto dati, profilazione e capacità di elaborazione possano incidere anche sulla politica. Oggi la scala è incomparabilmente più grande: non abbiamo più soltanto piattaforme che distribuiscono informazioni. Abbiamo sistemi che le selezionano, le sintetizzano e ce le restituiscono sotto forma di risposta.
Per questo continuare a domandarci se l’intelligenza artificiale sia «buona» o «cattiva» rischia di essere una distrazione e generare ritardi nella ricerca e nell’innovazione specialmente in Europa.
La macchina non vuole il nostro potere. Siamo noi che possiamo consegnarglielo.
E forse, invece di chiedere alla Ferrari di andare più piano, dovremmo finalmente decidere a chi diamo le chiavi, chi può tenere il volante e chi deve avere il potere di frenare.
