Quando le priorità umane, il contesto aziendale e l’etica modellano l’AI sin dalla progettazione, per garantirne il valore in ogni fase del suo ciclo di vita

I giganti dell’industria dell’AI sono in corsa per sviluppare modelli linguistici avanzati (LLM) e Agentic AI sempre più capaci. Le Chat di Mistral, ChatGPT di OpenAI e Gemini di Google sono tutti strumenti che aiutano gli utenti a trovare informazioni, generare contenuti e automatizzare compiti. L’adozione di questi sistemi sta accelerando rapidamente: la percentuale di aziende che utilizzano l’AI è infatti salita dall’8,0% nel 2023 al 13,5% nel 2024. Un aumento del 5,5% in un solo anno.

Eppure l’AI di per sé non è nuova, dunque cosa spiega questa accelerazione? I cambiamenti chiave sono due. Il primo è l’architettura Transformer, un approccio rivoluzionario all’elaborazione di dati sequenziali. Questa architettura – insieme all’aumento della potenza di calcolo – ha guidato gran parte dei recenti progressi nell’AI. Il secondo cambiamento è il volume di dati (ad es. testo, video, ecc.) presente su internet. Questi dati alimentano l’addestramento dell’AI e permettono ai sistemi di apprendere modelli statistici, ad esempio che “re” è correlato a “regina”.

L’attenzione su architettura, dati e altri progressi tecnici è di per sé giustificata. L’AI generativa all’avanguardia richiede infatti algoritmi ingegnosi ed enormi set di dati, oltre a modelli sofisticati, potenza di calcolo e hardware specializzati. Tuttavia, l’innovazione tecnica da sola non garantisce impatto o valore. Infatti, la ricerca rivela una cruda realtà: la maggior parte dei progetti di AI non raggiunge mai la produzione, e quelli che ce la fanno spesso non riescono a fornire un ritorno significativo sull’investimento (ROI). Ecco perché siamo convinti che l’innovazione tecnica di base nell’AI non sia sufficiente, sebbene offra enormi opportunità. Tradurre le scoperte tecnologiche in valore nel mondo reale rimane una sfida importante. Concentrarsi troppo sugli aspetti tecnici può portare a soluzioni impraticabili che non creano mai un impatto reale.

Oltre architetture, modelli e dati

Come possiamo assicurarci che l’AI generi davvero un impatto? Concentrarsi solo su architettura e dati, abbiamo visto, non basta, perché crea un punto cieco critico: le esigenze aziendali e degli utenti. Oltre agli aspetti tecnici, i sistemi di AI sono integrati nei processi organizzativi e definiti da diverse parti interessate che ne influenzano lo sviluppo, l’impatto e le prestazioni.

Ad esempio, gli annotatori di dati contestualizzano le informazioni per i modelli di AI, insegnando loro a riconoscere immagini o suoni. Gli organismi regolatori, come quelli dell’UE, stabiliscono dei limiti, come il divieto del social scoring tramite AI previsto nell’AI Act. Dirigenti e decisori determinano quali sistemi di AI vengono costruiti, e lo fatto tramite il controllo dei budget. Tutti questi gruppi svolgono un ruolo cruciale nel modellare l’AI.

In definitiva, però, sono gli utenti finali a decidere se un sistema di AI è pratico e prezioso. Anche i sistemi più avanzati falliscono se non soddisfano le esigenze degli utenti. Senza adozione, il potenziale impatto della tecnologia scompare. Questa considerazione è in linea con una scoperta chiave del rapporto del MIT: i progetti di AI generativa spesso falliscono perché ignorano il modo in cui le persone interagiscono con la tecnologia.

La storia indica la strada

Per andare avanti, possiamo trarre ispirazione dal passato. Trent’anni fa, con l’avvento dei computer e di internet nel mainstream, l’attenzione era sui progressi tecnici: potenza di elaborazione, archiviazione e sistemi operativi. Era naturale, la prima sfida era far funzionare la tecnologia.

Ma con la loro crescente diffusione, sono cresciuti anche gli interrogativi sul loro valore. Nel 1997, la Harvard Business Review pubblicò “The Real Problem with Computers”, mettendo in dubbio se i computer aumentassero veramente la produttività aziendale. Allo stesso modo, nel 1995, il pezzo di Newsweek “Why the Web Won’t Be Nirvana” sosteneva che il potenziale di internet era sopravvalutato.

Queste domande sul valore portarono allo sviluppo del cosiddetto human-centered design, una disciplina in cui veniva data priorità agli utenti rispetto alla tecnologia. L’attenzione si è estesa oltre la funzionalità tecnica per rispondere a domande come: Quale valore reale offrono questi sistemi? Come si allineano al modo in cui le persone lavorano realmente? Come possiamo proteggere gli utenti dai danni non intenzionali?

Oggi, a nostro avviso, crediamo che l’AI stia subendo una trasformazione simile. L’attenzione si sta spostando dalle capacità tecniche agli utenti, sebbene con una complessità ulteriore. I sistemi di AI non sono statici; apprendono, si adattano e prendono decisioni autonome. Le nostre domande devono quindi riflettere questa evoluzione. Le aziende devono chiedersi: Quale valore può realmente fornire l’AI agli utenti? Come possiamo garantire che questi sistemi si allineino ai flussi di lavoro del team man mano che apprendono e si adattano? Quali garanzie sono necessarie per proteggere gli utenti dalle decisioni automatizzate?

Gli utenti lungo tutto il ciclo di vita dello sviluppo dell’AI

Una chiara comprensione del processo di sviluppo è il primo passo per costruire soluzioni di AI incentrate sugli umani. Un modello ampiamente utilizzato è il Cross-Industry Standard Process for Data Mining (CRISP-DM), introdotto nel 1999 e ora standard di settore. CRISP-DM si fonda su un approccio iterativo, con i dati come motore centrale di ogni fase. Tuttavia, come anticipato precedentemente e approfondito nel libro The Power of WHY in Data Science, focalizzarsi solo sui dati può essere un limite ai progetti di AI.

CRISP-DM 2.0: mettere al centro le sfide aziendali e gli utenti

In un paper dal titolo “CRISP-DM 2.0 for the Semiconductor Industry and Other Complex Domains”, gli autori propongono una versione aggiornata. Qui le sfide aziendali e i problemi di ricerca (non i dati) sono posti al centro e viene data maggiore enfasi agli utenti. Il quadro introduce anche due miglioramenti chiave: tutte le fasi sono interconnesse, riflettono la natura dinamica dei progetti di AI, e le considerazioni etiche, morali e legali sono esplicitamente integrate durante tutto il ciclo di vita dell’AI.

Sebbene il numero di fasi e le attività tecniche all’interno di ciascuna rimangano invariate, i due framework sono fondamentalmente diversi, con la versione aggiornata che richiede un set di competenze, una mentalità e un approccio distinti, poiché gli obiettivi aziendali e le esigenze degli utenti vengono considerati durante tutto il progetto, e non solo all’inizio.

Considerazioni incentrate sull’utente in ogni fase del ciclo di vita dell’IA

La seguente panoramica illustra come ogni fase incorpori queste considerazioni, assicurando che le iniziative di AI forniscano valore nel mondo reale e rimangano allineate con le aspettative delle parti interessate.

1. Comprensione del business – Gli obiettivi aziendali e le esigenze degli utenti sono definiti esplicitamente e stabiliscono le basi per l’intero progetto.
2. Comprensione dei dati – I dati vengono analizzati per assicurarsi che siano rilevanti, completi e in grado di affrontare i problemi di ricerca definiti, risolvere le sfide aziendali e soddisfare le esigenze degli utenti.
3. Preparazione dei dati – I dati vengono elaborati e strutturati per soddisfare sia i requisiti tecnici che le esigenze pratiche degli utenti e delle parti interessate.
4. Sviluppo del modello – Le decisioni sulla progettazione e l’addestramento del modello sono guidate dagli obiettivi aziendali e dalle aspettative degli utenti, non solo dalle metriche di prestazione tecnica.
5. Valutazione – I modelli sono valutati in base alla loro capacità di fornire valore nel mondo reale e soddisfare i requisiti degli utenti, insieme alla valutazione tecnica standard.
6. Deployment – L’implementazione è allineata con flussi di lavoro e processi, in modo da garantire che il sistema di AI fornisca spunti fruibili e benefici tangibili per gli utenti.

In ogni fase, i cicli di feedback con le parti interessate assicurano che le esigenze in evoluzione degli utenti e le priorità aziendali siano continuamente affrontate, mentre le considerazioni etiche, morali e legali rimangono conformi a buone pratiche, leggi e regolamenti.

Caso di studio: manutenzione predittiva

Molti progetti di AI non forniscono valore duraturo, ma l’esperienza di una società manifatturiera offre una lezione preziosa (alcuni dettagli, come nomi ed eventi sono stati modificati per motivi di riservatezza). L’azienda ha lanciato un progetto di manutenzione predittiva per aumentare il tempo di attività delle apparecchiature e ridurre i costi.

L’obiettivo iniziale prevedeva di prevedere la qualità del prodotto attraverso il monitoraggio delle prestazioni delle macchine. Tuttavia, uno studio di fattibilità successivo rivelò che questo approccio non avrebbe prodotto l’impatto sperato. Le fasi di comprensione del business e dei dati, unite a una preparazione iniziale dei dataset disponibili, dimostrarono che quelle misurazioni non possedevano un sufficiente potere predittivo sulla qualità.

Il progetto tornò così al punto di partenza, ma avendo appreso una lezione cruciale. Il team spostò quindi l’attenzione sul monitoraggio dello stato di salute dei componenti, una sfida tecnica diversa dal monitoraggio delle prestazioni. Mentre la qualità del prodotto migliorava indirettamente grazie ad apparecchiature più performanti, l’obiettivo primario era comunque quello di aumentare il tempo di attività, per migliorare efficienza, produttività e risparmi sui costi.

Questo successo fu possibile solo grazie a una collaborazione iterativa con utenti finali, esperti di dominio e stakeholder in ogni fase. Il coinvolgimento delle figure chiave in tutto il processo permise al team non solo di identificare il problema giusto da risolvere, ma anche di cambiare direzione rapidamente quando il progetto raggiunse un vicolo cieco. Questo metodo portò alla luce nuove opportunità, fondate su una profonda comprensione degli obiettivi aziendali e delle esigenze operative, soprattutto considerando che gli stakeholder non avevano mai richiesto esplicitamente la manutenzione predittiva. L’approccio centrato sulle persone generò un impatto significativo e misurabile, tra cui una riduzione del 18% del tempo di inattività cumulativo, che si traduce in risparmi diretti nell’ordine di milioni di euro all’anno.

Sfide alle competenze tecniche

L’architettura del modello Transformer

Ripensare la formazione – con l’obiettivo di un diverso equilibrio tra competenze tecniche, comprensione degli utenti, contesto aziendale e problem solving collaborativo – permette di affrontare queste sfide. Le organizzazioni dovrebbero sostenere questo processo favorendo la collaborazione cross-funzionale e allineando gli incentivi al valore reale, per garantire davvero un risultato consistente. 

L’UE apre la strada

È interessante notare che l’UE è stata pioniera della human-centered AI già nel 2019, con la sua strategia che pone «le persone al centro dello sviluppo dell’AI». Oggi, questa visione è tangibile: i finanziamenti UE, come le sovvenzioni di Horizon Europe, richiedono spesso che i progetti consultino gli utenti finali durante ogni fase di realizzazione. L’AI Act dell’UE è il pilastro di questa strategia e incorpora nella legge i principi di centralità degli umani. 

Alcune organizzazioni vedono con scetticismo le normative europee sull’AI e le considerano ostacoli piuttosto che opportunità. Sebbene queste politiche, incentrate su sicurezza, trasparenza e design human-centered, siano talvolta criticate perché rallentano l’innovazione o aggiungono burocrazia, in definitiva rappresentano le fondamenta per ciò che gli autori di questo articolo sostengono sia necessario per creare valore in ogni caso: un focus sulle persone.

Promuovendo pratiche incentrate sull’uomo, le normative UE possono aiutare a garantire che le soluzioni di AI siano non solo innovative, ma preziose, etiche e responsabili. E questo approccio sembra guadagnare terreno. A livello globale, l’approccio dell’UE sta influenzando gli standard, con paesi come Brasile, Canada e India che adottano framework simili.

Costruire l’AI con le persone, non per le persone

Nell’attuale panorama dell’AI, dove valore, fiducia e sicurezza sono sottoposti a intense verifiche, un focus centrato sugli umani è essenziale. Coinvolgere le persone nello sviluppo dell’AI crea comprensione, costruisce fiducia e promuove risultati etici, creando sistemi che forniscono valore reale per le imprese, gli individui e la società.

Per avere successo, l’AI non va solamente sviluppata per le persone, ma con le persone. Coinvolgere gli utenti e favorire la collaborazione durante tutto il processo garantisce l’allineamento con i bisogni reali, gli obiettivi aziendali e l’impatto sociale. La sfida è chiara: le organizzazioni devono adottare pratiche di AI che mettono gli umani al centro, mentre i professionisti dell’AI devono espandere le loro competenze oltre l’esperienza tecnica per costruire soluzioni etiche, affidabili e guidate da valori.