Ecco come i leader IT si preparano alla grande sfida per la gestione degli agenti AI

Via via che gli AI agent arriveranno a occupare porzioni sempre più significative dei flussi di lavoro aziendali, i leader IT dovranno affrontare una sfida sempre più complessa: gestirli.

“C’è una grande preoccupazione che aleggia, quella che si riferisce a come gestire gli agenti AI nel cloud”, spiega Dave McCarthy, Research Vice President di IDC, notando come l’espansione della disponibilità di queste tecnologie da parte di startup e fornitori affermati possa porre i CIO di fronte a problematiche di gestione di asset, sicurezza e versioning.

Gli analisti affermano che i tre grandi hyperscaler e i vendor di soluzioni per la gestione del cloud sono consapevoli del divario e ci stanno lavorando. McCarthy, per esempio, indica l’annuncio di Google Agentspace, a dicembre [in inglese], una piattaforma che dovrebbe soddisfare alcune delle esigenze di gestione multiforme. Una serie di innovatori, tra cui AgentOps e OneReach.ai, oltre a Fiddler, Arize, Pezzo, Helicone e AimStack, sono intervenuti per soddisfare le esigenze di gestione degli agenti AI dei clienti aziendali.

“Si tratta di un settore emergente”, osserva Tom Coshow, analista e senior director per l’AI di Gartner. “Se sono una grande azienda, probabilmente, non costruirò tutti i miei agenti in un unico luogo e non sarò vincolato al fornitore, ma probabilmente non voglio 30 piattaforme. Ciò che serve è una visione unica di tutti gli AI agent che sto costruendo, e che mi possa dare un avviso quando le prestazioni sono scarse o c’è un problema di sicurezza”.

Sebbene il mercato dell’agentic AI sia agli inizi, i CIO – che sono ottimisti sulle promesse che questa tecnologia potrà mantenere [in inglese] – hanno la consapevolezza di quanto sia importante gestire e monitorare i suoi flussi di lavoro in tempo reale.

“La gestione dell’agenti AI è davvero una grande sfida, poiché, oggi, i tradizionali strumenti di gestione per il cloud e l’AI sono insufficienti”, afferma Sastry Durvasula, Chief Operating, Information and Digital Officer di TIAA.

I sistemi di agentic AI richiedono meccanismi di monitoraggio, sicurezza e governance più sofisticati, a causa della loro natura autonoma e dei complessi processi decisionali [in inglese]. Gli attuali strumenti cloud e le capacità di automazione sono insufficienti per gestire il processo decisionale dinamico dell’intelligenza artificiale.

Durvasula osserva, inoltre, che i carichi di lavoro in tempo reale dell’agentic AI potrebbero anche soffrire di ritardi dovuti alla latenza della rete cloud.

“Per supportare le proprie esigenze, le aziende devono investire in strumenti di gestione avanzati specifici per l’AI, in grado di gestire i carichi di lavoro dinamici, garantire la trasparenza e mantenere la responsabilità negli ambienti multicloud”, commenta. “Questo approccio aiuterà le imprese a massimizzarne i vantaggi, mitigando i rischi e garantendo un’implementazione responsabile”.

La sfida, tuttavia, si aggraverà quando più agenti saranno coinvolti in un flusso di lavoro che probabilmente cambierà e si evolverà in base ai diversi input di dati, dato che questi agenti “imparano” e si adattano mentre prendono decisioni.

“Se utilizzano l’AI e sono adattabili, sarà necessario un modo per verificare se le loro prestazioni sono ancora al livello di fiducia desiderato”, dichiara Coshow di Gartner.

L’agentic AI e il flusso costante

La natura dinamica del processo decisionale autonomo implica l’esistenza di seri controlli e governance per evitare conseguenze indesiderate, sostiene il CIO di PagerDuty, Eric Johnson.

“Se, da un lato, gli agenti per l’intelligenza artificiale possono generare un aumento significativo dell’efficienza, dall’altro possono anche introdurre complessità in merito alla supervisione e alla responsabilità dell’AI. È importante che le aziende stabiliscano quadri chiari con i quali evitare che i loro agenti AI mettano a rischio le operazioni cloud, compreso il monitoraggio delle attività di gestione per la conformità alle normative sui dati”, avverte. “Costruire la fiducia attraverso la convalida umana nel loop e strutture di governance chiare è essenziale per stabilire protocolli rigorosi che guidino le decisioni più sicure degli agenti”.

Johnson aggiunge che quest’area sta ancora maturando sulle piattaforme di gestione del cloud, così come all’interno dei team legali, di sicurezza e di conformità.

Abhas Ricky, Chief Strategy Officer di Cloudera, ha recentemente sottolineato su LinkedIn le sfide in termini di costi legate alla gestione degli agenti AI.

“Gli sviluppatori vogliono creare flussi di lavoro di agenti multi-step senza preoccuparsi di come i costi potrebbero rivelarsi eccessivi. Ci sono aziende che spendono più di 1 milione di dollari all’anno per le chiamate LLM”, ha scritto Ricky. “Le operation degli agenti rappresentano una capacità critica, si pensi agli SDK Python per il loro monitoraggio e per quello dei costi LLM, il benchmarking, per ottenere visibilità sulle chiamate API, per la gestione dei costi in tempo reale e i punteggi di affidabilità per gli agenti in produzione”.

Man mano che il loro numero e la loro varietà cresce più velocemente di quanto le aziende possano consumare, aumentano anche i requisiti per tutti gli aspetti della gestione.

Reed McGinley-Sempel, CEO della identity platform Stytch, per esempio, osserva che l’“esperienza dell’agente” sta emergendo come una priorità chiave per le aziende, mentre in passato erano la UX (esperienza dell’utente) e la DX (esperienza dello sviluppatore) a determinare il modo in cui gli esseri umani e gli sviluppatori interagivano con il software. L’ampia gamma coperta dall’agentic AI – dai copilot agli strumenti di codifica agli assistenti autonomi – compone il modo in cui i Chief Information Officer garantiranno che i flussi di lavoro di questa tecnologia siano monitorati e gestiti correttamente, tiene a precisare.

“A differenza dell’autenticazione tradizionale degli utenti, in cui l’identità è legata a un individuo, gli agenti AI agiscono per conto degli utilizzatori, sollevando nuove questioni sulla fiducia, sulle autorizzazioni e sui confini della sicurezza”, sottolinea McGinley-Sempel. Se le applicazioni non si evolvono per adattarsi ai flussi di lavoro degli agenti, le aziende rischiano di bloccare un’automazione preziosa o di aprirsi ad accessi non autorizzati”. Le imprese che stabiliscono flussi di autenticazione chiari e standardizzati per gli agenti AI saranno quelle che guideranno questa nuova era dell’automazione”.

Lavori in corso

Gli analisti notano che, sebbene gli hyperscaler del cloud stiano lavorando per affrontare il problema, non si sa fino a che punto Agentspace di Google, Microsoft Azure AI Services, xAI o la piattaforma di gestione di OpenAI offriranno il supporto, per non parlare di tutti gli agenti. Questo apre la porta a un nuovo gruppo di startup, tra cui AgentOps e OneReach.ai.

Jim Liddle, responsabile dell’innovazione per l’AI e la strategia dei dati presso l’azienda di storage ibrido-cloud Nasuni, mette in dubbio la probabilità che i grandi hyperscaler offrano servizi di gestione per tutti gli agenti.

“La sfida principale con i framework agenziali è che ogni fornitore adotti un approccio fondamentalmente diverso all’architettura degli agenti, alla gestione degli stati e ai protocolli di comunicazione. Man mano che i fornitori spingono le proprie piattaforme e i propri agenti, le aziende dovranno affrontare sfide di adozione, tra cui un aumento significativo del debito tecnico e dei costi di manutenzione”, riflette Liddle. “Non vedo emergere un unico sistema in grado di unificare tutti gli agenti, rendendo questa complessità una realtà continua”.

Nel frattempo, i fornitori aziendali che stanno introducendo servizi di agentic AI come parte delle loro offerte di punta, si esprimono a favore di un approccio alla gestione degli agenti basato sulla piattaforma.

“La gestione su scala di questa tecnologia è un obiettivo multidimensionale. Per intenderci, si tratta di una sfida di governance, operativa, etica e di integrazione, tutto insieme”, riconosce Chris Bedi, Chief Customer Officer ed Enterprise AI Advisor di ServiceNow. “Per gestire l’agentic AI, occorre una piattaforma in grado di unire gli agenti, i dati e i flussi di lavoro, con un unico modello che porti l’intelligenza artificiale in ogni angolo dell’azienda e assecondi tutte queste condizioni”.

In ogni caso, Debojyoti Dutta, vice president della divisione che si occupa di ingegneria di Nutanix, afferma che sarà necessario coinvolgere l’intera C-suite per far funzionare tutto insieme e in modo sicuro.

“Siamo nelle prime fasi della trasformazione multi-agentic dell’impresa. Oggi, ogni agente AI viene costruito e gestito in modo personalizzato e questo potrebbe portare a qualche difficoltà di tipo operativo per la prima linea manageriale”, ammette Dutta. “Il CIO ha bisogno di strumenti e infrastrutture per far funzionare questi agenti, il CDO deve garantire una corretta governance dei dati, il CLO deve assicurare la conformità e la governance dell’AI in generale, il CISO deve predisporre le misure più adatte per proteggere l’azienda. Il CAIO, insieme agli altri CXO, deve, poi, collaborare per garantire che questa ondata di agenti AI produca i reali ritorni commerciali di questo investimento nell’apparato di intelligenza artificiale, proteggendo al contempo l’azienda e tenendo sotto controllo i costi”.

Sebbene si tratti di una tecnologia nascente, Coshow di Gartner stima che, già oggi, ci siano CIO che si preoccupano di questa complessa questione.

“I Chief Information Officer sono molto cauti e riflessivi sull’implementazione, perché ci sono problemi di sicurezza, governo, governance, accuratezza e prestazioni che devono ancora essere risolti”, conclude.