L’AI Generativa alla prova dei costi. Per i CIO vince l’approccio “pragmatico”

L’hot topic del momento per i CIO? L’intelligenza artificiale in tutte le sue forme, ma con una sterzata decisa verso l’AI Generativa, di cui si moltiplicano le sperimentazioni. Gli approcci restano cauti: è fondamentale più che mai curare la qualità del dato, condividere la governance col business, trovare i casi d’uso e, soprattutto, calcolare i costi che, per le imprese medio-piccole, potrebbero essere proibitivi.

“L’AI è un tema molto attuale in azienda, anche in parallelo con l’analisi dei dati”, dichiara Sonia Belli, IT Director presso QubicaAMF Worldwide (il maggior produttore globale di attrezzature per il bowling). “Stiamo cercando casi d’uso per applicare l’AI Generativa e trovare benefici a costi competitivi”.

QubicaAMF sta svolgendo diverse sperimentazioni con l’AI. Per esempio, sono in corso i test sull’uso della GenAI embedded in strumenti già presenti in azienda, come Oracle Analytics, che permette di fare ricerca tra i dati e risponde ai prompt.

“Per noi sono delle novità, ma io penso che il futuro vada in questa direzione: l’integrazione dell’AI generativa all’analisi dei dati, per esempio per sapere come sta andando il business partendo dalle informazioni nel nostro data warehouse”, afferma Belli. “Il grande vantaggio è rappresentato dal fatto che la GenAI guida e focalizza la ricerca ed è uno strumento molto utile per dare autonomia al business sugli strumenti di data analytics”.

L’obiettivo di QubicaAMF è valutare l’applicabilità, i benefici e i costi delle soluzioni di intelligenza artificiale e questo è un punto centrale per tutti i CIO, soprattutto delle piccole e medie imprese (la grande maggioranza in Italia) e della Pubblica Amministrazione. 

Mercato AI in Italia trainato dalla GenAI

Nel 2024, il mercato dell’intelligenza artificiale in Italia ha raggiunto il valore di 1,2 miliardi di euro con una crescita del +58% rispetto al 2023, come rileva l’ultima ricerca dell’Osservatorio Artificial Intelligence del Politecnico di Milano. A trainare gli acquisti tecnologici sono soprattutto le sperimentazioni con la Generative AI, che rappresenta il 43% del valore, mentre il restante 57% è costituito in prevalenza da soluzioni di AI tradizionale. La Pubblica Amministrazione vale il 6% del mercato ma ha un tasso di crescita superiore al 100%.

Le nostre grandi imprese sono agli ultimi posti in UE per progetti AI attivi, ma sono prime nell’utilizzo di strumenti di GenAI pronti all’uso: il 53% ha acquistato licenze di strumenti di AI generativa (principalmente ChatGPT o Microsoft Copilot), più di Francia, Germania e Regno Unito. Il 39% di chi utilizza questi tool ha riscontrato un effettivo aumento della produttività, ma un ulteriore 48% non ha ancora valutato in modo quantitativo gli impatti. 

Nelle PMI il quadro è diverso. Il 58% è interessato al tema dell’AI, grazie all’attenzione mediatica e allo sviluppo di un mercato di strumenti pronti all’uso e senza necessità di pagare, ma solo il 7% delle piccole e il 15% delle medie imprese ha avviato progetti, tramite sviluppo interno o rivolgendosi a fornitori esterni. Un forte limite all’adozione dell’intelligenza artificiale è l’immaturità nella gestione dei dati, che è la base per una buona implementazione dell’AI. Inoltre, l’adozione di strumenti di Generative AI pronti all’uso tramite licenze riguarda appena l’8% delle PMI.

Gen AI pronta all’uso. Ma quanto costa?

Un esempio calzante arriva dall’Università dell’Aquila. In linea con il Piano triennale della PA di AGID, che sottolinea il potenziale trasformativo dell’intelligenza artificiale per il settore pubblico, Univaq ha aumentato gli investimenti in AI, condotto formazione specialistica per il personale interno e sviluppato dati aperti, in modo da generare dati di qualità e interoperabili (come previsto dall’Agenda Digitale sia italiana che europea per creare modelli fondazionali basati su dati e knowledge base italiani).

Tuttavia, sulla GenAI si procede a piccoli passi, perché i costi possono velocemente lievitare.

“Sull’AI ci stiamo orientando su soluzioni per ottimizzare i processi amministrativi, come chatbot e agenti conversazionali, usando sia le tecnologie di diversi vendor cloud SaaS, sia soluzioni open source che riaddestriamo sui nostri dati”, riferisce Rocco Matricciani, CIO dell’Università dell’Aquila. “Cerchiamo di portarci in casa i modelli per non mettere dati sensibili nei database dei fornitori esterni, visto che al momento non esiste un vero cloud sovrano; del resto, abbiamo la capacità di calcolo”.

Usare i modelli di grandi dimensioni open source, su cui l’IT effettua il fine tuning, non si lega solo all’esigenza di tenere alcuni dati internamente: c’è anche la questione dei costi dei fornitori cloud.

Matricciani ha calcolato che, se Univaq volesse mettere Copilot a disposizione del personale amministrativo e docente, circa 1800 persone, spenderebbe più di 50.000 euro al mese. Se poi volesse estendere questa funzionalità all’intera comunità accademica si arriverebbe a 500-600 mila euro al mese. 

“È una spesa improponibile, tanto più che il vantaggio non è immediato, sia perché gli utenti vanno formati sia perché l’utilità degli strumenti di GenAI c’è in alcuni contesti e in altri no”, osserva Matricciani. “Tra l’altro, come PA, siamo sottoposti a severi controlli sulla generazione dei testi negli aspetti di sicurezza, copyright ed errori”.

Per questo, dopo una fase di sperimentazione, Univaq ha deciso al momento di limitare l’implementazione della GenAI ad alcuni uffici, in particolare l’IT e la Comunicazione. Nel frattempo, l’ente sta svolgendo attività di formazione sui rischi connessi all’uso di questi strumenti.

Una strategia per ottenere valore

Anche Daniele Deligia, Direttore IT di Italo – Nuovo Trasporto Viaggiatori, ha adottato una precisa strategia sull’AI Generativa che mira a trarre il massimo beneficio evitando il rischio di costi inutili. È un approccio che il manager definisce “di valore perché basato su un processo strutturato in grado di misurare e monitorare l’andamento delle sperimentazioni”. 

“Prima di tutto abbiamo definito un percorso di adozione e formazione del personale di staff sulle tematiche di Generative AI”, spiega Deligia. “Siamo partiti da un numero selezionato di nostri dipendenti nell’headquarter, rappresentanti delle varie aree aziendali, che abbiamo chiamato, nella nostra comunicazione interna, i ‘Rail-blazers’, un efficace gioco di parole con l’inglese trail-blazers, ovvero i precursori od apripista aziendali. Queste persone hanno effettuato un percorso di adozione e training on the job durato 4 settimane, con sessioni di formazione di massimo 30 minuti per 2 volte alla settimana e pillole formative di qualche minuto pubblicate continuamente su un forum dedicato, attivato nella nostra intranet aziendale. Dopo i Rail-blazers lo stesso percorso è stato seguito da tutte le altre persone dell’headquarter. Questo schema è stato molto efficace, creando aspettativa e garantendo un’elevata partecipazione aziendale”.

Italo, dunque, ha scelto di investire inizialmente in un numero ridotto di licenze Microsoft Copilot (una trentina) e fatto formazione agile con servizi Microsoft specialistici e un partner. L’attività si è concentrata su una competenza specifica: imparare a formulare i prompt. In un passo successivo, i corsi sono stati estesi all’intero personale dell’headquarter (300 persone) e per tutti sono state acquistate le licenze. 

Questo programma è stato inserito in un progetto biennale, disegnato dallo stesso Direttore IT, in cui è inclusa la sperimentazione della creazione di Agenti AI e delle Power Apps, sempre all’interno di Microsoft 365. In questo modo, tiene a precisare Deligia, “le licenze per 2 anni non sono solo un costo ma un capex, in quanto inglobate nel progetto di sperimentazione dell’AI, e diventano un valore per l’Ebitda dell’azienda”. 

Terminati i 2 anni di sperimentazione si valuterà se confermare le licenze per tutti o scegliere un’altra strada, ma al momento gli strumenti di AI Generativa sono considerati un elemento propedeutico all’adozione, in generale, dell’AI in azienda e, come tali, generatori di valore.

Deligia sta sperimentando anche altri strumenti di GenAI, compreso ChatGPT. Ma sta procedendo sempre in modo mirato, legando la sperimentazione al percorso di Italo verso l’AI e alle attività di formazione. Il manager ha creato dei gruppi di lavoro specifici e, insieme all’HR, sono stati organizzati dei corsi sui prodotti di AI generativa, con l’obiettivo ultimo di formulare dei casi d’uso utili per l’azienda. La bontà di questi use case è stata poi misurata con dei KPI e i casi più validi sono stati inseriti in una fase di pre-PoC per testarli con prodotti disponibili anche in modalità “license free”: per esempio, al bot di OpenAI è stato fornito un piccolo set di dati e verificato se si otteneva una risposta coerente rispetto agli obiettivi fissati nello use case di riferimento.

“Laddove c’era un risultato convincente, proporzionato ovviamente al pre-PoC, abbiamo proceduto con il disegno di un PoC vero, affinando ulteriormente il dataset”, indica Deligia. “A un certo punto dell’evoluzione dello scenario potremmo arrivare a investire in licenze a pagamento, in modo da poter modellare il prodotto di Gen AI sulle nostre esigenze e isolare i dati proprietari”.

Questo è il modo di Italo di procedere con l’intelligenza artificiale, perché – evidenzia il CIO – esiste un rischio hype che spinge ad investire prima di aver accuratamente valutato lo scenario definendo degli indicatori di misurazione, e quindi senza ottenere beneficio.

“Noi vogliamo prima validare l’ipotesi e poi sperimentare su casi d’uso via via più complessi per evitare di sprecare risorse dell’azienda”, chiarisce Deligia.

Le competenze sono una sfida operativa

Antonio Tosato, Regional IT Manager di Parker Hannifin, Filtration Group, EMEA, conferma come i CIO si orientino verso un approccio basato su concretezza e formazione.

“Abbiamo iniziato facendo training su Copilot per i key user, ma dobbiamo capire se e come usare questo strumento”, chiarisce Tosato. “Stiamo anche valutando ChatGPT e altri prodotti di AI generativa, ma, in ogni caso, non ci sembrano utilizzabili così come sono per questioni di cybersecurity, perché in questi prodotti vengono inseriti dati che non sappiamo dove vanno. La tecnologia della GenAI ha grandi potenzialità e le persone in azienda ci chiedono di poterla usare”, puntualizza il manager. “Per esempio, sarebbe uno strumento eccellente per leggere le corpose documentazioni tecniche o delle gare. Ma stiamo procedendo per gradi”.

Non deve nemmeno essere sottovalutato l’impatto dell’AI Generativa sulle risorse umane, per cui, se il progetto andrà avanti, dovrà essere accompagnato da una forte attività di comunicazione e coinvolgimento, partendo dal basso, prosegue Tosato.

“È fondamentale rendere gli utenti consapevoli del fatto che resta a loro la responsabilità degli output della GenAI: siamo noi che dobbiamo rispondere del risultato, verificando che sia corretto. L’ultimo passo deve sempre essere fatto dall’essere umano”, commenta Tosato.

L’approccio human-centric all’AI è confermato dal ruolo centrale affidato alla formazione, che tutti i CIO prevedono per le persone che utilizzano i prodotti AI (è, del resto, un requisito già obbligatorio dell’AI Act europeo).

“Avere competenze tecniche interne specializzate che garantiscono la continuità e il vantaggio competitivo è una sfida operativa”, afferma Matricciani di Univaq. “L’alternativa è affidarsi a società esterne, ma col rischio di dipendere dai fornitori e non poterne comprendere a pieno e verificare l’offerta. Può succedere che il vendor proponga prodotti che vengono acquistati senza capirne bene funzionalità e applicazioni e senza un piano ragionato”.

Non è necessario avere tantissime risorse in casa, considerando anche che le aziende più piccole e quelle pubbliche non possono permetterselo. Ma è importante possedere un gruppo con competenze specialistiche; altrimenti si rischia un gap di competenze con il vendor e “questo non deve accadere, soprattutto con l’AI”, conclude Matricciani, pena un rallentamento del progresso verso le numerose potenzialità dell’intelligenza artificiale per l’impresa.