6 difficili questioni sull’intelligenza artificiale che ogni leader IT deve affrontare

Poche tecnologie hanno suscitato la stessa quantità di riflessioni e dibattiti come l’intelligenza artificiale, con lavoratori, dirigenti di alto profilo e leader mondiali che hanno spaziato tra elogi e timori.

Certo, i CIO non sono stati chiamati a testimoniare davanti al Congresso. Ma vengono torchiati negli uffici dei dirigenti e nei consigli di amministrazione, poiché i leader aziendali si rivolgono ai loro responsabili tecnologici con domande impegnative a cui i Chief Information Officer devono rispondere.

Siate quindi preparati.

“Il CIO è al centro di queste conversazioni”, esordisce Tim Crawford, CIO strategic adviser della società di consulenza IT AVOA di Los Angeles. “Il Chief Information Officer non deve conoscere tutte le informazioni, ma essendo il depositario della vision tecnologica aziendale, dovrebbe essere in grado di fornire spunti che aiutino gli altri dirigenti a mettere insieme tutti i pezzi”.

I responsabili IT affermano che stanno discutendo di tutto, dai costi delle implementazioni dell’IA al fatto che essa sia la minaccia esistenziale per l’umanità che alcuni temono. Sebbene non possano rispondere a quest’ultima domanda, possono condurre le loro riflessioni sulla prima questione e su altri argomenti simili.

Ecco le principali conversazioni sull’IA che dovreste tenere con i vostri team, i leader delle LOB, i colleghi della C-suite e il consiglio di amministrazione.

1. Quali contesti aziendali hanno effettivamente bisogno dell’IA?

ChatGPT ha fatto scalpore dopo il suo lancio alla fine del 2022, con tanti che chiedevano a gran voce di mettere alla prova la nuova tecnologia. Il lancio ha anche portato l’IA sotto i riflettori e in cima alle agende di molte aziende. Il CEO Outlook Pulse dell’ottobre 2023 [in inglese] della società di servizi professionali EY ha riferito che il 99% degli amministratori delegati prevede di investire nell’IA generativa.

Ma questi CEO stanno facendo gli investimenti giusti? Questa è la domanda che molti CIO si stanno ponendo, dato che alcuni di loro riferiscono di dover sollevare questioni relative alle esigenze e al valore aziendale ogni volta che viene richiesta una soluzione di IA.

Il Chief Information Officer dello Stato dell’Alaska Bill Smith si è trovato in questa situazione. Un dipendente ha dichiarato di aver bisogno di una soluzione di IA, ma quando gli è stato chiesto di spiegarne i motivi, ha risposto: “Abbiamo solo bisogno dell’IA”.

“Parliamo tutti di intelligenza artificiale, e ci sono molte aspettative e clamore intorno ad essa, ma allo stesso tempo c’è davvero una mancanza di rigore intorno ai casi d’uso che possono svilupparsi in questi cicli di hype. Spesso le persone arrivano con in mente delle soluzioni e non dei problemi da risolvere. Quindi chiedo: ‘A cosa state cercando di rispondere in particolare?’, perché forse ciò di cui hanno bisogno non è l’IA”, osserva Smith.

La tendenza odierna a parlare di utilizzo dell’IA, piuttosto che concentrarsi prima sul problema da risolvere o sull’opportunità da cogliere, non è sorprendente, visto il clamore suscitato dalla gen IA, prosegue Smith. Tuttavia, il manager mira a rendere le conversazioni più produttive educando gli altri all’intelligenza artificiale. Lui e il suo team hanno creato schede informative, documenti e presentazioni che descrivono i vari tipi di IA e il modo in cui possono essere utilizzati e spiegano come e dove l’intelligenza artificiale e l’apprendimento automatico possono essere utili, e perché non sono la soluzione a tutti i problemi che hanno.

2. Quali idee forniranno, per davvero, valore al business?

Gli investimenti delle aziende nell’IA stanno dando i loro frutti, e non poco.

Un recente rapporto, The Business Opportunity of AI [in inglese], commissionato da Microsoft e condotto da IDC, ha intervistato 2.100 dirigenti d’azienda a livello mondiale e ha rilevato che i ritorni sono del 350%, con 3,50 dollari per ogni 1 dollaro investito nell’IA. Inoltre, la tempistica media con cui le aziende realizzano i ROI nell’IA è di 14 mesi dall’implementazione.

Nonostante questi risultati, i CIO sostengono di ritrovarsi a ricordare ai loro colleghi e ai loro team che non tutti i progetti di IA valgono la pena di essere portati avanti o, comunque, non nell’immediato.

“È così facile essere entusiasti di una tecnologia come l’IA, e delle persone che vogliono implementare 100 diversi progetti pilota e test, ma bisogna concentrarsi sulle idee che forniranno valore all’azienda”, tiene a precisare Juan Perez, Chief Information Officer del produttore di software Salesforce.

“È un dilemma interessante per i CIO. Vogliamo assicurarci che l’azienda possa utilizzare le nuove tecnologie; questo è il mio obiettivo personale. Ma voglio anche essere certo di come ciò che faccio sia allineato con l’azienda e con i suoi obiettivi, in modo che possa avere successo”, prosegue.

A tal fine, Perez valuta i progetti di IA come farebbe con altri progetti realizzati con tecnologie meno pubblicizzate, collaborando con i team per valutare il caso d’uso, le esigenze di governance, i benefici aziendali previsti e i ritorni attesi.

“Non si può diluire l’impegno su progetti che non forniranno alcun valore”, aggiunge Perez. “Quindi scegliete quelle poche aree chiave in cui potete vedere il valore e il grande valore aggiunto che l’intelligenza artificiale può fornire all’azienda e puntate su quelle, concentratevi su quelle, imparate da quelle ed espandetevi in altre aree via via che imparate”.

3. Che cosa possiamo, ragionevolmente, ottenere con risorse limitate?

Dopo l’esplosione dell’IA generativa, Nicholas Colisto, vice president senior e CIO della multinazionale Avery Dennison, si è impegnato per far sì che la sua azienda ne abbracciasse il potenziale.

“L’IA esiste da molto tempo”, spiega, “ma quando il suo sottoinsieme generativo è esploso, all’inizio del 2023, molte aziende, compresa la nostra, i nostri dirigenti hanno detto di no perché volevano essere certi che ci fossero delle linee guida per proteggere lei, i suoi dati e il suo personale”.

Per superare questi ostacoli, Colisto ha lavorato per educare i leader sulle capacità e sui rischi dell’IA, cercando di portare l’azienda dal “no al sapere”. I suoi sforzi sono stati ripagati e, da allora, Avery Dennison è passata all’ideazione, alla sperimentazione e alla produzione di intelligenza artificiale.

Tuttavia, riconosce di aver dovuto mitigare lo slancio in avanti con una serie di controlli sulle risorse.

“Ho dovuto ricordare alle persone che con l’IA non c’era una nuova disponibilità di denaro”, dice Colisto, aggiungendo che alcuni pensavano erroneamente che le pratiche di finanziamento di lunga data dell’azienda non si applicassero alle iniziative legate all’intelligenza artificiale. “La gente pensava che l’IA fosse diversa in termini di investimenti da parte delle imprese; pensava che le aziende avessero tutti questi fondi per l’IA. Ma non ne sento molte dire che rinunceranno ai loro cicli di investimento per dedicarsi all’IA”.

Altri CIO affermano che anche loro stanno avviando conversazioni sui limiti di denaro, talento e tempo.

“Il talento è un problema, in questo momento”, dichiara Sreekanth Menon, vice president e responsabile dei servizi globali di IA/ML presso la società di servizi di trasformazione aziendale Genpact. “Le aziende hanno bisogno di un tipo di talento diverso per lavorare con l’IA. Hanno bisogno di una massiccia riqualificazione o di nuovi talenti. E tutti stanno cercando di lavorare con i loro partner per costruire un ecosistema [di talenti IA]. Ma tutto questo richiede tempo”.

Molte imprese risentono della carenza dei talenti giusti. Lo studio Microsoft/IDC ha rilevato che il 52% degli intervistati ha indicato la mancanza di lavoratori qualificati come il principale ostacolo all’implementazione e alla scalabilità dell’intelligenza artificiale.

I CIO ricordano ai colleghi che i loro team IT hanno anche altro da fare. “Abbiamo cicli di progetto normali. Abbiamo progetti regolari in cantiere. Non avremmo abbandonato tutto per l’IA”, precisa Colisto.

Piuttosto che discutere su questi punti, i Chief Information Officer dicono di ricondurre le conversazioni alle priorità aziendali.

“Chiediamo alle nostre unità di business di identificare le idee che si allineano con gli obiettivi strategici e di parlare dei costi di tali idee, dell’efficienza dei costi o dell’impatto di generazione dei ricavi di tali idee, e della fattibilità del raggiungimento di tali traguardi”, evidenzia Colisto. “Con l’intelligenza artificiale, abbiamo ancora bisogno delle unità aziendali per identificare i programmi più validi. Abbiamo centinaia di casi d’uso in tutte le funzioni principali e stiamo finanziando quelli che hanno una priorità elevata”.

4. Lo stato attuale delle nostre operation sui dati può fornire i risultati che cerchiamo?

Un altro argomento spinoso che i CIO devono affrontare con i loro colleghi: i problemi di qualità dei dati aziendali che ostacolano le loro ambizioni di IA.

Un sondaggio, condotto nel 2003 su oltre 1.500 professionisti e decisori in materia di intelligenza artificiale [in inglese] da S&P Global Market Intelligence per il produttore di piattaforme dati WEKA, ha rilevato che la gestione dei dati è l’ostacolo tecnologico più frequentemente citato per le implementazioni di IA e ML. Analogamente, il rapporto 2023 US AI Risk Survey Report della società di servizi professionali KPMG [in inglese], ha rilevato che l’integrità dei dati è al primo posto tra i tre principali rischi, seguita dalla validità statistica e dall’accuratezza del modello.

La questione dei dati è molto attuale e, spesso, sono gli stessi CIO a dire: “Se non la risolvete, non otterrete i risultati che desiderate”, racconta Krishna Prasad, Chief Strategy Officer e CIO di UST, una società di soluzioni per la trasformazione digitale.

Prasad dice di aver sentito questa conversazione nella propria impresa e nelle aziende clienti della società.

I Chief Information Officer sostengono che si tratta di una discussione particolarmente difficile perché in genere non sono responsabili dello stato dei dati aziendali; tutto ciò che possono fare è condividere le loro osservazioni e contribuire a elaborare i rimedi.

D’altro canto, affermano anche che i loro appelli ad agire di più sulla qualità dei dati, oggi stanno ottenendo una maggiore attenzione, proprio grazie all’IA. “L’intelligenza artificiale sta elevando la questione sui dati, perché questi ultimi, per l’azienda, sono ora più critici che mai”, sottolinea Perez di Salesforce.

5. Qual è la nostra propensione al rischio e come la affrontiamo?

I rischi e i problemi di sicurezza legati alle iniziative di IA dominano anche molte delle conversazioni che i CIO hanno con i loro colleghi e con i team esecutivi. Ed è per una buona ragione: le aziende hanno visto i loro dati proprietari e protetti dalle normative confluire in strumenti di IA aperti, come ChatGPT. Hanno visto l’IA fornire risposte distorte e risultati completamente falsificati (noti come AI hallucination). E hanno ottenuto risultati che non sono in grado di autenticare o convalidare, a causa della mancanza di spiegazioni.

“Ci sono esempi a destra e a manca di persone che utilizzano questa tecnologia in modi che mettono a rischio se stessi e la propria azienda senza rendersi conto di farlo”, spiega Crawford.

I CIO sottolineano che bloccare l’uso dell’IA non è la soluzione. Vietarne l’uso non la fermerà, perché è probabile che alcuni dipendenti continuino a sperimentarla [in inglese]. Inoltre, i produttori di software aziendali stanno incorporando l’IA [in inglese] nei prodotti e nei servizi che vendono, quindi l’intelligenza artificiale sta entrando comunque in azienda. Inoltre, vietarne o limitarne l’uso per paura dei rischi svantaggia l’azienda rispetto ai concorrenti che stanno portando avanti iniziative di intelligenza artificiale.

Crawford e altri sostengono che i Chief Information Officer devono portare questi punti sul tavolo. I CIO devono anche seguire le discussioni legislative sulle possibili regolamentazioni e capire in che modo avrebbero un impatto sull’agenda dell’IA della loro impresa.

“È una conversazione difficile da affrontare per i CIO, i quali incoraggiano l’innovazione ma allo stesso tempo cercano di proteggere i dati dei clienti e la proprietà intellettuale, perché se non stanno attenti a ciò che dicono, possono apparire come persone contrarie o non favorevoli a questa nuova tecnologia e alle persone che lavorano intorno a loro”, aggiunge Crawford.

6. In che modo la nostra strategia IA affronta i problemi etici?

Amanda Crawford, executive director del Texas Department of Information Resources e CIO dello Stato del Texas, afferma di parlare dei parametri etici e accettabili sull’uso dell’IA nell’ambito delle sue conversazioni sulla presenza della tecnologia all’interno dell’amministrazione statale.

“Non vogliamo essere all’avanguardia; non è qualcosa che aspiriamo a fare, a causa degli obblighi e delle responsabilità che derivano dall’essere il governo. Questo si verifica con altre tecnologie emergenti, e questo è certamente vero per una tecnologia dirompente come l’IA”, dichiara l’esperta. “Quindi il ritmo con cui ci muoviamo nel governo è un po’ più lento, è un po’ più ponderato, intenzionale e deliberato perché deve esserlo, data la natura di ciò che facciamo. Dobbiamo mantenere la fiducia”.

Questo non significa che lo Stato del Texas non utilizzi l’IA, dice Crawford. Infatti, come molti enti privati, l’amministrazione statale del Texas ha implementato chatbot, automazione e sistemi intelligenti in tutte le sue operation, e sta studiando dove l’IA generativa e altre tecnologie IA più recenti potrebbero essere utilizzate.

“Ma le riflessioni che stiamo facendo riguardano, soprattutto, le problematiche di carattere etico e relative alla privacy, e gli obblighi che abbiamo nel governo per i diritti costituzionali e i diritti di privacy dei nostri elettori. Questi aspetti devono essere presi in considerazione nelle nostre decisioni”, spiega Crawford.

Per esempio, potrebbero essere incentrate sul fatto che alcuni compiti devono essere svolti dagli esseri umani piuttosto che da sistemi intelligenti a causa della legge, delle politiche pubbliche, delle best practice o delle aspettative dei cittadini.

“Spesso mi accorgo che, in qualità di CIO, è mio compito porre queste domande”, aggiunge Crawford, aggiungendo che lei e molti altri leader IT dello Stato del Texas stanno cercando “una leadership a livello esecutivo e legislativo che ci aiuti durante l’implementazione”.

Crawford e gli enti governativi non sono gli unici a interrogarsi sui parametri etici dell’IA.

I Chief Information Officer stanno parlando con i colleghi dirigenti delle loro responsabilità nel caso in cui i loro sistemi di intelligenza artificiale producano bias o hallucination, precisa Prasad dell’UST. Parlano di come poter tracciare e spiegare i risultati dell’IA e di cosa dovrebbe accadere se non ci riuscissero.

“L’IA consente di fare ogni genere di cose, ma la domanda è se si vuole davvero farlo. È un argomento che richiede una discussione con il team esecutivo e persino con il consiglio di amministrazione”.