Cosa è Azure AI agent

Cosa è Azure AI agent

Azure annuncia funzionalità gestite per consentire agli sviluppatori di creare agenti di intelligenza artificiale autonomi, sicuri e con stato che automatizzano ogni processo aziendale
Oggi, più di 60.000 organizzazioni si rivolgono a Microsoft Azure AI per accelerare i risultati aziendali e potenziare i team. Mentre i grandi modelli linguistici hanno fornito notevoli guadagni di produttività, molte organizzazioni incontrano ancora sfide significative quando hanno a che fare con flussi di lavoro complessi, manuali e dispendiosi in termini di tempo con un’automazione minima dei processi.

Gli agenti AI hanno dimostrato di essere una soluzione perfetta per automatizzare tali flussi di lavoro. Tuttavia, distribuire agenti AI affidabili in ambienti reali si è rivelato difficile poiché gli attuali framework non dispongono di strumenti sicuri e integrati per attivare azioni e abilitare il data grounding sicuro e le organizzazioni continuano ad affrontare problemi di privacy dei dati, sfide con il monitoraggio dei costi e della qualità delle prestazioni degli agenti, scarsa interoperabilità e difficoltà di scalabilità.

Per realizzare appieno il potenziale degli agenti AI autonomi, le organizzazioni hanno bisogno di piattaforme flessibili e sicure per la creazione, la distribuzione e il monitoraggio degli agenti.

Microsoft quindi presenta le funzionalità degli agenti autonomi con Azure AI Agent Service
Ispirati dalle esigenze dei nostri clienti e dalla promessa di agenti di intelligenza artificiale autonomi, oggi ad Ignite 2024 viene annunciato l’imminente anteprima pubblica di Azure AI Agent Service , un set di funzionalità gestite e ricche di funzionalità che riunisce tutti i modelli, i dati, gli strumenti e i servizi di cui le aziende hanno bisogno per automatizzare i processi aziendali di qualsiasi complessità .

Azure AI Agents Service integra i modelli, gli strumenti e la tecnologia più recenti di Microsoft, OpenAI e partner leader del settore come Meta, Mistral e Cohere; estende senza soluzione di continuità i tuoi agenti con le conoscenze di Bing, SharePoint, Fabric, Azure AI Search, Azure Blob e dati con licenza e consente di intraprendere azioni su applicazioni Microsoft e di terze parti con Azure Logic Apps, Azure Functions, strumenti specificati OpenAPI 3.0 e Code Interpreter; un’esperienza intuitiva di creazione di agenti tramite Azure AI Foundry ; e ricche funzionalità pronte per l’uso aziendale , tra cui la possibilità di portare il proprio storage (BYO), BYO-virtual private network, autenticazione on-behalf-of e osservabilità avanzata degli agenti tramite valutazione basata su OpenTelemetry.

Di seguito una rapida panoramica:

Azure AI Agent Service è flessibile e indipendente dal caso d’uso. Ciò rappresenta infinite possibilità per automatizzare le attività di routine e sbloccare nuove possibilità per il lavoro di conoscenza, che si tratti di agenti di produttività personale che inviano e-mail e pianificano riunioni, agenti di ricerca che monitorano costantemente le tendenze di mercato e automatizzano la creazione di report, agenti di vendita che possono ricercare lead e qualificare automaticamente i lead, agenti del servizio clienti che seguono in modo proattivo con messaggi personalizzati o agenti di sviluppo che possono aggiornare la base di codice o far evolvere un repository di codice in modo interattivo.

Cosa distingue il servizio Azure AI Agent?
Grazie alla suaesperienza, parlando con centinaia di organizzazioni, Microsoft ha imparato che per sviluppare rapidamente agenti sicuri e affidabili sono necessari quattro ingredienti principali:

• Sviluppare e automatizzare rapidamente i processi: gli agenti devono integrarsi perfettamente con gli strumenti, i sistemi e le API giusti per eseguire azioni deterministiche o non deterministiche.
• Integrazione con connettori di memoria e conoscenza estesi: gli agenti devono gestire lo stato della conversazione e connettersi a fonti di conoscenza interne ed esterne per disporre del contesto giusto per completare un processo.
• Scelta flessibile del modello: gli agenti creati con il modello appropriato per la loro attività possono consentire una migliore integrazione delle informazioni da più tipi di dati, produrre risultati migliori per scenari specifici dell’attività e migliorare l’efficienza dei costi nelle distribuzioni di agenti su larga scala.
• Prontezza aziendale integrata: gli agenti devono essere in grado di supportare le esigenze specifiche di un’organizzazione in materia di privacy e conformità dei dati, di adattarsi alle esigenze dell’organizzazione e di completare le attività in modo affidabile e con elevata qualità.

Sfruttando l’interfaccia intuitiva e il set di strumenti completo di Azure AI Foundry SDK e del portale , Azure AI Agent Service fornisce questi ingredienti per lo sviluppo di agenti end-to-end tramite una superficie di prodotto unificata.

Vediamo invece più da vicino le funzionalità del servizio Azure AI Agent.

1. Sviluppo rapido degli agenti e automazione tramite potenti integrazioni
   Basandosi sulla potente ma flessibile API degli assistenti di OpenAI, Azure AI Agent Service consente uno sviluppo rapido di agenti con gestione della memoria integrata e un’interfaccia sofisticata per integrarsi perfettamente con le piattaforme di elaborazione più diffuse, collegando le funzionalità LLM con azioni programmatiche di uso generale.

• Consenti al tuo agente di eseguire azioni con oltre 1400 connettori di Azure Logic Apps : sfrutta un ampio ecosistema di connettori in Logic Apps per consentire al tuo agente di completare attività ed eseguire azioni per conto dei tuoi utenti. Con Logic Apps, devi semplicemente definire la logica aziendale per il tuo flusso di lavoro in Azure Portal per connettere il tuo agente a sistemi, strumenti e API esterni. Esempi di connettori includono prodotti Microsoft come Azure App Service, Dynamics365 Customer Voice, Microsoft Teams, M365 Excel e servizi aziendali leader come MongoDB, Dropbox, Jira, Gmail, Twilio, SAP, Stripe, ServiceNow e molti altri.
• Pensa oltre la modalità chat implementando azioni basate su codice stateless o stateful con Azure Functions : consenti al tuo agente di eseguire interazioni esterne con il mondo, come la chiamata di API o l’invio e l’attesa asincrona di eventi. Azure Functions e Azure Durable Actions ti consentono di eseguire codice serverless per azioni sincrone, asincrone, di lunga durata e basate su eventi, come l’approvazione di fatture con human-in-the-loop , il monitoraggio di una supply chain di prodotti end-to-end per lunghi periodi di tempo e molto altro.
• Esegui analisi dati avanzate con Code Interpreter: consenti al tuo agente di scrivere ed eseguire codice Python in un ambiente sicuro, gestire diversi formati di dati e generare file con dati e immagini. A differenza dell’API Assistants, puoi integrare i dati nel tuo archivio per utilizzarli con questo strumento.
• Crea una libreria standardizzata di strumenti con specifiche OpenAPI : collega il tuo agente AI a un’API esterna utilizzando uno strumento specificato OpenAPI 3.0, consentendo un’interoperabilità scalabile con varie applicazioni. Abilita i tuoi strumenti personalizzati per autenticare l’accesso e le connessioni con identità gestite (ID Microsoft Entra) per una maggiore sicurezza, rendendolo ideale per l’integrazione con infrastrutture o servizi Web esistenti.
• Estendi gli agenti Llama Stack con strumenti ospitati nel cloud: Azure AI Agent Service supporta il protocollo agente per gli sviluppatori che utilizzano SDK Llama Stack. Offriremo in modo nativo strumenti scalabili, ospitati nel cloud e di livello aziendale, pur essendo compatibili con la linea fissa con Llama Stack.

2. Fondere in modo sicuro gli output del tuo agente con un ricco ecosistema di fonti di conoscenza
   Configura facilmente un ricco ecosistema di fonti di conoscenza aziendali per consentire all’agente di accedere ed elaborare dati da più fonti, migliorando l’accuratezza delle risposte alle query degli utenti. Progettati per funzionare senza problemi con i tuoi dati, questi connettori dati operano all’interno dei tuoi parametri di rete. Queste fonti dati integrate includono:

• Grounding dei dati web in tempo reale con Bing : il grounding con i dati web consente al tuo agente di fornire agli utenti le informazioni più aggiornate. Ciò soddisfa le carenze degli LLM odierni di non essere in grado di fornire risposte fattuali alle richieste sugli eventi correnti (ad esempio, chiedendo i titoli delle principali notizie di oggi).
• Grounding con dati privati ​​in Microsoft SharePoint : collega il tuo agente ai documenti interni della tua organizzazione in SharePoint per risposte fondate. Gli agenti semplificano l’accesso sicuro ai dati in SharePoint tramite l’autenticazione per conto di (OBO), in modo che il tuo agente possa accedere solo allo SharePoint per cui l’utente finale ha le autorizzazioni.
• Chatta con i tuoi dati strutturati in Microsoft Fabric : potenzia il processo decisionale basato sui dati nella tua organizzazione senza che l’utente abbia conoscenze di linguaggi di query come SQL o del contesto dei dati. Abilita il tuo agente con le competenze Fabric AI integrate per creare i tuoi sistemi Q&A conversazionali sui dati Fabric utilizzando l’intelligenza artificiale generativa. Fabric supporta anche il meccanismo di autenticazione OBO per una connessione dati sicura.
• Arricchisci gli output dell’agente con dati privati ​​in Azure AI Search, Azure Blob e i tuoi file locali : abbiamo reinventato lo strumento File Search nell’API Assistants per consentirti di importare il tuo indice Azure AI Search o crearne uno nuovo utilizzando i file nel tuo Blob Storage o i file nel tuo storage locale che sfrutta una pipeline di inserimento dati integrata. Questa nuova ricerca file fornisce il controllo completo sui tuoi dati privati ​​supportando l’archiviazione file nel tuo account di archiviazione di Azure e gli indici di ricerca nella tua risorsa di Azure Search.
• Ottieni un vantaggio competitivo con i dati concessi in licenza : migliora le risposte del tuo agente con dati concessi in licenza da provider di dati proprietari, come Tripadvisor, per fornire al tuo agente i dati più recenti e di alta qualità, personalizzati per il tuo caso d’uso. In futuro ti forniremo più fonti di dati concessi in licenza da una varietà di settori verticali e specializzazioni del settore.

• Gestione dello stato della conversazione integrata : oltre alla conoscenza aziendale, la gestione dei thread o dello stato della conversazione è essenziale per gli agenti AI in quanto consente loro di mantenere il contesto, fornire interazioni personalizzate e migliorare le proprie prestazioni nel tempo. Azure AI Agent Service semplifica la creazione di sistemi di gestione dei thread gestendo e recuperando la cronologia delle conversazioni dalle interazioni di ciascun utente finale, fornendo un contesto coerente all’interno delle loro sessioni per interazioni più complete. Ciò consente inoltre di aggirare potenziali vincoli della finestra di contesto del modello che alimenta l’agente AI.

3. Utilizzare il modello migliore per il lavoro, che sia GPT-4o, Llama 3 o altri
   Gli sviluppatori hanno amato creare assistenti AI con gli ultimi modelli GPT di OpenAI nell’API Azure OpenAI Service Assistants. Ora stiamo espandendo la selezione dei modelli per includere modelli all’avanguardia da provider di modelli leader del settore, in modo da poter creare agenti specifici per attività, ottimizzare il costo totale di proprietà e altro ancora.

• Sfrutta i modelli come servizio : Azure AI Agent Service supporterà una varietà di modelli dal catalogo modelli di Azure AI Foundry, riutilizzando al contempo strumenti compatibili tra modelli e ospitati nel cloud che eseguono l’esecuzione del codice, la generazione aumentata dal recupero e molto altro. Oltre ai modelli di OpenAI da Azure OpenAI, gli sviluppatori possono ora creare agenti con Meta Llama 3.1, Mistral Large e Cohere Command R+, supportati tramite l’API Azure Models-as-a-Service.
• Supporto multimodale: sblocca nuovi scenari con il supporto multimodale, consentendo agli agenti AI di elaborare e rispondere a diversi formati di dati oltre al testo, espandendo i potenziali casi d’uso. Lanceremo il supporto per le modalità immagine e audio di GPT-4o in modo che tu possa analizzare e combinare dati da vari formati per fornire approfondimenti completi, prendere decisioni e fornire output pertinenti su misura per le esigenze specifiche dell’utente.

4. Progettato per creare agenti sicuri e pronti per l’uso aziendale da zero
   I leader aziendali sono ansiosi di creare e innovare con agenti basati sull’intelligenza artificiale. Tuttavia, i clienti aziendali temono che i loro dati aziendali critici finiscano nelle mani sbagliate, che la soddisfazione del cliente sia influenzata dai lenti tempi di risposta degli agenti e dall’incapacità di diagnosticare rapidamente cosa è andato storto per garantire agenti affidabili. Azure AI Agent Service confeziona le funzionalità aziendali necessarie per aiutare le organizzazioni a proteggere i propri dati sensibili, soddisfacendo al contempo i requisiti normativi.

• Porta il tuo storage : a differenza dell’API degli assistenti, ora puoi connettere le tue fonti di dati aziendali per consentire al tuo agente di recuperare in modo sicuro i dati aziendali.
• Porta la tua rete virtuale : progetta applicazioni di agenti tenendo a mente la privacy e la conformità dei dati, vietando rigorosamente l’uscita pubblica per il traffico dati, mantenendo le interazioni sicure all’interno della tua rete.
• Configurazione senza chiave e autenticazione OBO : configura e autentica facilmente i tuoi agenti con funzionalità come la configurazione senza chiave e l’autenticazione per conto proprio, semplificando la gestione e l’implementazione delle risorse.
• Scalabilità illimitata : sfrutta prestazioni e scalabilità illimitate quando esegui Azure AI Agent Service sulle tue distribuzioni provisionate. Ora puoi creare app basate su agenti con latenza prevedibile e throughput elevato, mantenendo la flessibilità.
• Monitora le prestazioni dell’agente con il tracciamento basato su OpenTelemetry: ottieni informazioni sulle prestazioni e l’affidabilità del tuo agente AI. Puoi strumentare metriche compatibili con OpenTelemetry nella tua dashboard di monitoraggio per la valutazione offline e online degli output dell’agente tramite Azure AI Foundry SDK.
• Crea in modo responsabile con filtri di contenuto e mitigazione XPIA : Azure AI Agent Service supporta filtri di contenuto predefiniti e personalizzati che rilevano contenuti dannosi a vari livelli di gravità. Gli scudi di prompt proteggono gli agenti dagli attacchi di iniezione cross-prompt da parte di attori malintenzionati. Come con Azure OpenAI Service, i prompt e i completamenti elaborati da Azure AI Agent Service non vengono utilizzati per addestrare, riaddestrare o migliorare prodotti o servizi Microsoft o di terze parti senza la tua autorizzazione. I clienti possono eliminare i propri dati archiviati quando lo ritengono opportuno.

Orchestrare sistemi multi-agente performanti con Azure AI Agent Service

I clienti hanno sperimentato sistemi multi-agente come strategia per ottenere flussi di lavoro autonomi performanti. Nei sistemi multi-agente, più agenti autonomi consapevoli del contesto, siano essi umani o AI, interagiscono o lavorano insieme per raggiungere obiettivi individuali o collettivi.

Azure AI Agent Service funziona immediatamente con framework di orchestrazione multi-agente compatibili con la linea fissa con l’API degli assistenti, come AutoGen , un SDK di ricerca all’avanguardia per Python creato da Microsoft Research, e Semantic Kernel , un SDK di intelligenza artificiale aziendale per Python, .NET e Java.

Quando si crea una nuova soluzione multi-agente, iniziare con la creazione di agenti singleton con Azure AI Agent Service per ottenere gli agenti più affidabili, scalabili e sicuri. È quindi possibile orchestrare questi agenti insieme. AutoGen è in continua evoluzione per trovare i migliori modelli di collaborazione per agenti (e umani) per lavorare insieme. Le funzionalità che mostrano valore di produzione con AutoGen possono quindi essere spostate in Semantic Kernel se si sta cercando supporto di produzione e modifiche non-breaking.

(fonte)

Innovaformazione, scuola informatica specialistica promuove la formazione continua dei team di sviluppatori e segue costantemente il mercato IT. Nell’offerta formativa trovate il Corso Azure Developer ed Admin e tutta l’offerta formativa al seguente LINK.

INFO: info@innovaformazione.net – tel. 3471012275 (Dario Carrassi)