Quanto ci si può fidare, oggi, dell’Agentic AI?

Le imprese stanno implementando l’Agentic AI a un ritmo rapido, ma secondo molti esperti i seri dubbi sulla sua accuratezza fanno intravvedere potenziali disastri all’orizzonte.

L’assunto di base è che, sebbene gli agenti AI abbiano bisogno di autonomia decisionale per fornire il massimo valore, molti esperti di intelligenza artificiale li vedono ancora come scatole nere che rendono invisibile il ragionamento che alla base delle loro azioni.

Questa mancanza di trasparenza nel processo decisionale crea un potenziale ostacolo alla piena implementazione degli agenti come strumenti autonomi che possano produrre le grandi efficienze, che ci si aspetta da loro, affermano.

Le preoccupazioni in materia di fiducia espresse da molti professionisti dell’AI non sembrano, tuttavia, raggiungere i potenziali utenti, dato che sono sempre più numerose le imprese che introducono gli agenti al loro interno.

Secondo un sondaggio [in inglese] pubblicato lo scorso ottobre dal marketplace di software G2, circa il 57% delle aziende B2B ha già messo in produzione gli agent e diverse società di analisi IT stimano un’enorme crescita del mercato degli nei prossimi anni. Per esempio, Grand View Research [in inglese] prevede un tasso di crescita annuale composto di quasi il 46% tra il 2025 e il 2030.

Molte aziende che utilizzano agenti non comprendono ancora quanto questi possano essere opachi senza le giuste misure di sicurezza, suggeriscono gli esperti. E, anche se vengono introdotte misure di protezione, la maggior parte degli strumenti attuali non è ancora sufficiente a impedire comportamenti scorretti da parte loro.

Incompresi e utilizzati in modo improprio

I diffusi malintesi sul ruolo e la funzionalità degli agenti [in inglese] potrebbero frenare lo sviluppo della tecnologia, osserva Matan-Paul Shetrit [in inglese], direttore della gestione dei prodotti presso la piattaforma di creazione di agenti Writer. Molte organizzazioni considerano gli agent simili a semplici chiamate API, con risultati prevedibili, mentre gli utenti dovrebbero trattarli più come stagisti junior, spiega.

“Come questi ultimi, hanno bisogno di determinate misure di sicurezza, a differenza delle API, che sono relativamente semplici da controllare”, aggiunge Shetrit. “Controllare uno stagista è in realtà molto più difficile, perché può causare danni consapevolmente o inconsapevolmente e può accedere o fare riferimento a informazioni che non dovrebbe”.

Una delle principali sfide per gli sviluppatori di agenti AI e per le aziende che li utilizzano sarà quella di gestirli, afferma.

“È facile immaginare che un’impresa di 1.000 persone distribuisca 10.000 agenti”, sostiene Shetrit. “E che, di conseguenza, diventi un’azienda di 11.000 ‘persone’, e diventi quindi molto diversa da gestire”.

Per le grandi società come le banche, la popolazione di agenti potrebbe raggiungere nel tempo le 500.000 unità, ipotizza Shetrit: una situazione che richiederebbe approcci completamente nuovi alla gestione delle risorse organizzative e all’osservabilità e alla supervisione IT.

“Ciò richiede un ripensamento dell’intera struttura organizzativa e del modo di fare business”, tiene a precisare. “Finché noi, come industria, non risolveremo questo problema, non credo che la tecnologia degli agenti si diffonderà e verrà adottata in modo tale da mantenere le promesse degli agenti”.

Molte organizzazioni che implementano agenti non si rendono ancora conto che c’è un problema da risolvere, aggiunge Jon Morra [in inglese], Chief AI Officer presso il fornitore di tecnologia pubblicitaria Zefr.

“Non è ben chiaro nello spirito del tempo quanti problemi di fiducia ci siano con gli agent”, sottolinea Morra. “L’idea degli agenti di AI è ancora relativamente nuova per le persone e spesso sono una soluzione che necessita di un problema”.

In molti casi, sostiene Morra, è possibile implementare una tecnologia più semplice e deterministica al posto di un agente. Molte organizzazioni che implementano i modelli linguistici di grandi dimensioni (LLM) che alimentano gli agenti sembrano ancora non avere una comprensione di base dei rischi, dice.

“Le persone hanno troppa fiducia in questi strumenti, in questo momento, e questo sta ritorcendo contro di loro”, rileva. “Ho partecipato a diverse chiamate in cui le persone che utilizzano gli LLM mi hanno chiesto: ‘Jon, hai mai notato che sbagliano i calcoli matematici o a volte inventano le statistiche?’. E io ho risposto: ‘Sì, succede’”.

Mentre molti esperti vedono migliorare la fiducia negli agenti nel lungo termine con il miglioramento dei modelli di intelligenza artificiale, Morra ritiene che una fiducia completa non sarà mai garantita perché l’AI avrà sempre il potenziale di generare hallucination [in inglese].

Gli attriti nel flusso di lavoro dovuto alla sfiducia nell’autonomia

Mentre Morra e Shetrit ritengono che gli utenti dell’AI non comprendano la questione della trasparenza degli agenti, il rapporto di ricerca di G2 rileva una crescente fiducia negli agenti per l’esecuzione di alcune attività, come il blocco automatico di IP sospetti o il rollback di distribuzioni software non riuscite, anche se il 63% degli intervistati sostiene che i propri agenti necessitano di una supervisione umana maggiore del previsto. Meno della metà degli intervistati afferma di fidarsi degli agenti in generale per prendere decisioni autonome, anche con l’adozione di misure di sicurezza, e solo l’8% si sente a proprio agio nel concedere agli agenti la totale autonomia.

Tim Sanders [in inglese], Chief Innovation Officer di G2, non è d’accordo con alcune delle avvertenze: ritiene che la mancanza di fiducia negli agenti sia un problema più grave della mancanza di trasparenza nella tecnologia. Sebbene la sfiducia nei confronti di una nuova tecnologia sia naturale, la promessa degli agenti risiede nella loro capacità di agire senza l’intervento [in inglese] umano, dice.

Il sondaggio mostra che quasi la metà di tutte le aziende B2B sta acquistando agenti ma non sta concedendo loro una reale autonomia, osserva. “Ciò significa che gli esseri umani devono valutare e poi approvare ogni azione”, commenta Sanders. “E questo sembra vanificare l’intero scopo dell’adozione degli agenti a fini di efficienza, produttività e velocità”.

Questo divario di fiducia potrebbe essere costoso per le organizzazioni che sono troppo caute con gli agenti, sostiene. “Perdono miliardi di dollari di risparmi sui costi perché hanno troppe persone coinvolte nel processo, creando un collo di bottiglia all’interno dei flussi di lavoro degli agenti”, spiega Sanders. “La fiducia è difficile da conquistare e facile da perdere. Tuttavia, la promessa economica e operativa degli agenti sta effettivamente spingendo i leader aziendali orientati alla crescita ad estendere la fiducia piuttosto che a ritirarsi”.

Cura necessaria

Altri esperti di AI avvertono i leader IT aziendali di prestare attenzione quando implementano gli agenti, dato il problema di trasparenza che i fornitori di intelligenza artificiale devono ancora risolvere.

Tamsin Deasey-Weinstein [in inglese], leader della task force per la trasformazione digitale dell’AI delle Isole Cayman, riconosce che la tecnologia funziona al meglio con un essere umano nel ciclo e con una governance rigorosa, ma molti agenti sono troppo poco controllati.

“Sebbene siano straordinari perché eliminano l’intervento umano, questo li rende anche estremamente pericolosi”, argomenta Deasey-Weinstein. “Stiamo vendendo la prospettiva di agenti autonomi quando in realtà ciò che abbiamo sono disastri in agguato senza rigorosi sistemi di protezione”.

Per combattere questa mancanza di trasparenza [in inglese], raccomanda di limitare l’ambito di applicazione degli agenti.

“Quelli che sono più affidabili hanno capacità noiosamente limitate”, ritiene Deasey-Weinstein. “Più ampio e libero è il margine di manovra dell’agente, più il risultato può essere errato. Gli agenti più affidabili hanno compiti piccoli e chiaramente definiti e misure di sicurezza molto rigorose”.

Riconosce, tuttavia, che l’implementazione di agenti altamente mirati potrebbe non essere allettante per alcuni utenti. “Questo non è né vendibile né attraente per il consumatore sempre esigente che vuole più lavoro svolto in meno tempo e con meno competenze”, indica. “Ricordate solo che se il vostro agente AI può scrivere ogni e-mail, toccare ogni documento e intervenire su ogni API, senza alcun intervento umano, avete qualcosa su cui non avete alcun controllo. La scelta è vostra”.

Molti esperti di intelligenza artificiale ritengono, inoltre, che gli agenti autonomi siano più adatti a prendere decisioni a basso rischio. “Se una decisione influisce su libertà, salute, istruzione, reddito o sul futuro di qualcuno, l’intelligenza artificiale dovrebbe solo fornire assistenza”, avverte Deasey-Weinstein. “Ogni azione deve essere spiegabile, e con l’AI non lo è”.

Dopodiché, raccomanda di studiare framework quali i Principi dell’OCSE sull’IAI e il NIST AI Risk Management Framework statunitense come guide per aiutare le aziende a comprendere i rischi dell’intelligenza artificiale.

Osservare e orchestrare

Altri professionisti dell’intelligenza artificiale indicano la pratica emergente dell’osservabilità come soluzione al comportamento scorretto degli agenti, anche se altri sostengono che gli strumenti per svolgere questo tipo di attività da soli potrebbero non essere in grado di diagnosticare i problemi di un agente.

Le società che utilizzano agent possono anche implementare un livello di orchestrazione [in inglese] che gestisce il ciclo di vita, la condivisione del contesto, l’autenticazione e, appunto, l’osservabilità, afferma James Urquhart [in inglese], CTO di Kamiwaza AI.

Come Deasey-Weinstein, Urquhart sostiene che gli agenti dovrebbero avere ruoli limitati e paragona l’orchestrazione a un arbitro che può supervisionare un team di agenti specializzati. “Non utilizzate un unico agente ‘tuttofare’”, precisa. “Trattate gli agenti come una squadra di meccanici e non come un coltellino svizzero”.

L’AI ha un problema di fiducia, ma si tratta di una questione che ha a che fare con l’architettura, sostiene.

“La maggior parte delle aziende oggi è in grado di mettere in piedi un agente, ma pochissime sono in grado di spiegare, limitare e coordinare uno sciame”, conclude. “Si crea più caos se non si dispone di un piano di controllo che renda possibili la scalabilità, la sicurezza e la governance”.