Cosa è il Function Calling

Cosa è il Function Calling

Cosa È il Function Calling

Function calling (chiamata di funzione) è la capacità di un modello di linguaggio di generare un output strutturato (tipicamente in formato JSON) per invocare funzioni o API esterne . In pratica il modello non si limita a rispondere con testo libero, ma “sceglie” di chiamare una funzione fornita con determinati parametri. Questa funzione viene eseguita dal sistema (ad esempio chiamando un servizio web, interrogando un database, eseguendo del codice), e il suo risultato viene reintegrato nel processo di conversazione. In questo modo l’LLM può superare i propri limiti d’addestramento, attingendo a dati aggiornati o capacità specifiche (calcoli, ricerche, ecc.).

Flusso di processo

Il workflow tipico del function calling è articolato in più fasi . Ad alto livello:

  1. Definizione di strumenti: lo sviluppatore registra nel sistema le funzioni disponibili (nome, descrizione, schema JSON dei parametri) e inoltra la richiesta dell’utente al modello.
  2. Risposta del modello: l’LLM valuta la domanda e decide se è necessario usare uno strumento. Se sì, genera un JSON con il nome della funzione e i relativi argomenti, senza eseguire direttamente la funzione
  3. Esecuzione della funzione: l’applicazione cliente estrae il nome e gli argomenti dalla risposta del modello, invoca la funzione esterna corrispondente e ottiene un risultato concreto.
  4. Risposta finale: il risultato ottenuto viene passato nuovamente al modello (ad esempio come nuovo “messaggio funzione” nell’API), che lo integra e produce la risposta testuale finale all’utente

Ad esempio, Mistral AI descrive il flusso in 4 fasi:

  • (1) l’utente fornisce strumenti e query;
  • (2) il modello genera argomenti funzione;
  • (3) il sistema esegue la funzione;
  • (4) il modello genera la risposta finale” .

Esempi in Python e JavaScript

Nella pratica si integrano funzioni definendole in codice e includendole nella chiamata all’API del modello.

Python: usando la libreria openai, si può fare così:

import openai, json

def get_weather(city):
    # Restituisce un dizionario con il meteo simulato
    return {"temperature": 20, "unit": "C"}

functions = [{
    "name": "get_weather",
    "description": "Restituisce il meteo per una città",
    "parameters": {
        "type": "object",
        "properties": {"city": {"type": "string"}},
        "required": ["city"]
    }
}]

messages = [{"role": "user", "content": "Che tempo farà a Bari domani?"}]
response = openai.ChatCompletion.create(
    model="gpt-4-0613",
    messages=messages,
    functions=functions
)
print(response.choices[0].message)

In questo esempio registriamo una funzione get_weather(city). Passiamo al modello la lista functions (descritta in JSON Schema) insieme al messaggio utente. L’API risponderà con un oggetto function_call se il modello decide di usarla. A quel punto estraiamo nome (response.choices[0].message.function_call.name) e argomenti, eseguiamo get_weather(city), e inviamo il risultato a un secondo ChatCompletion.create con ruolo function per ottenere la risposta finale.

JavaScript (Node.js): analogamente, con l’SDK OpenAI per JS si può scrivere:

const { Configuration, OpenAIApi } = require("openai");
const config = new Configuration({ apiKey: process.env.OPENAI_API_KEY });
const openai = new OpenAIApi(config);

function getWeather(city) {
  return { temperature: 20, unit: "C" };
}

const functions = [{
  name: "get_weather",
  description: "Restituisce il meteo per una città",
  parameters: {
    type: "object",
    properties: { city: { type: "string" } },
    required: ["city"]
  }
}];

async function run() {
  const messages = [{ role: "user", content: "Che tempo farà a Bari domani?" }];
  const res = await openai.createChatCompletion({
    model: "gpt-4o-0613",
    messages: messages,
    functions: functions
  });
  console.log(res.data.choices[0].message);
}
run();

Qui impostiamo lo stesso schema JSON per la funzione get_weather. La risposta (res.data.choices[0].message) includerà il blocco di chiamata funzione con nome e argomenti, che possiamo poi usare per eseguire la funzione getWeather. L’SDK gestisce in modo simile la conversazione a fasi.

Vantaggi principali

  • Output strutturato: il modello risponde con JSON ben formato, semplificando l’estrazione automatica dei dati Si riducono errori di parsing rispetto a output testuali liberi.
  • Dati in tempo reale: integrando API e database, il modello può fornire informazioni aggiornate e precise (es. meteo, dati finanziari, prenotazioni), superando i limiti delle sue conoscenze statiche .
  • Decisione autonoma: il modello “decide” autonomamente quale strumento usare in base alla richiesta . Ciò rende il sistema più flessibile e intelligente nel risolvere compiti diversi senza istruzioni esplicite ad hoc.
  • Automazione di compiti: abilita bot e assistenti virtuali avanzati che eseguono azioni pratiche per l’utente (come ordinare prodotti, prenotare eventi, interrogare sistemi aziendali) senza intervento umano . Ad esempio, un bot di servizio clienti può usare funzioni per controllare lo stato ordini e rispondere automaticamente.

Agenti AI e function calling

Gli agenti AI (o agenti LLM) sono sistemi autonomi basati su modelli di linguaggio di grandi dimensioni che pianificano ed eseguono compiti complessi usando strumenti esterni. Usano NLP avanzato per comprendere gli input, stabilire sequenze di azioni e decidere quando chiamare strumenti specifici nel backend. In sostanza, un agente AI progettato per un dominio definisce un set di “tool” (funzioni) a disposizione, simili a plugin interni.

La chiamata di funzione è fondamentale per far dialogare l’agente con questi strumenti. Quando l’utente fornisce un obiettivo (es. “Prenota un volo a Roma”), l’agente analizza la richiesta, scompone il compito in fasi ed eventualmente decide di invocare una funzione appropriata. Ad esempio, potrebbe definire funzioni come cerca_voli(data, destinazione) o acquista_biglietto(id_volo). Il modello genera quindi una struttura JSON con il nome della funzione scelta e i parametri richiesti, proprio come negli esempi precedenti. Il sistema esegue la funzione esterna e reinserisce l’output nell’ambiente conversazionale. In questo modo l’agente combina ragionamento a linguaggio naturale e esecuzione pratica di compiti. Un agente AI «impara» a usare le chiamate di funzione per ottenere dati aggiornati e svolgere azioni concrete in modo autonomo.

Strumenti e piattaforme disponibili

Sul fronte open source esistono diversi framework per abilitare il function calling:

  • LangChain (Python): libreria popolare che semplifica l’integrazione di modelli LLM con tool esterni. Supporta la funzione di “tool calling” di vari provider (OpenAI, Anthropic, Google, Mistral, ecc.), e offre già molti strumenti integrati e interfacce pronte.
  • Langroid (Python): framework flessibile per costruire applicazioni agentiche. Fornisce un’interfaccia uniforme per il function calling di modelli OpenAI e di altri LLM, anche tramite schemi Pydantic che rendono più affidabile il parsing.
  • BentoML (Python): piattaforma open-source di deployment ML con esempi di agenti LLM. Include un esempio di assistente che chiama funzioni per fare conversioni di valuta.
  • LocalAI: server LLM locale basato su llama.cpp che supporta lo standard OpenAI functions. Permette di eseguire modelli Llama con chiamate di funzione in stile OpenAI.
  • Altri tool open-source minori o emergenti includono vari agent framework (Auto-GPT, Agent-Anything, ecc.) che internamente sfruttano concetti simili.

Una soluzione commerciale è l’API di OpenAI (ChatGPT/GPT-4) che supporta nativamente il function calling. Si tratta di un servizio a pagamento; ad esempio, GPT-4 Turbo costa circa 0,002€ per 1000 token di input e 0,008€ per 1000 token di output. Anche l’API di Anthropic (Claude 3.7 Sonnet) supporta function calling: i costi partono da circa 3€ per milione di token di input e 15€ per milione di token di output. Questi costi si aggiungono agli eventuali oneri di infrastruttura per il deployment. Altri cloud AI (Google Vertex AI, Azure OpenAI, IBM watsonx) offrono funzionalità simili come parte delle loro piattaforme, sempre dietro abbonamento o consumo.

Function Calling vs Model Context Protocol (MCP)

Il Model Context Protocol (MCP) è un nuovo standard aperto introdotto da Anthropic (fine 2024) per collegare modelli AI ai sistemi dove risiedono i dati, come repository aziendali, applicazioni e ambienti di sviluppo. Mentre il function calling riguarda come il modello genera le istruzioni per invocare funzioni, il MCP si concentra su come formattare ed eseguire queste istruzioni su larga scala. In pratica, il MCP definisce un protocollo di comunicazione (basato su JSON-RPC) che standardizza il modo in cui le chiamate di funzione vengono fatte, gestite e ordinate tra AI e strumenti esterni.

In sintesi, i due approcci sono complementari: il function calling traduce il linguaggio naturale in azioni strutturate, mentre il MCP standardizza l’implementazione di queste azioni nel backend . Attualmente MCP non sostituisce il function calling, perché non si occupa del processo decisionale del modello; serve piuttosto a rendere scalabile e interoperabile l’uso di molti strumenti in ambiente enterprise . Alcuni esperti sottolineano che gli standard esistenti (es. OpenAPI) possono già ottenere risultati simili, ma MCP mira a unificare le integrazioni e l’aggiornamento del contesto del modello in applicazioni multi-tool.

(fonte) (fonte) (fonte)

Innovaformazione, scuola informatica specialistica promuove la cultura AI applicandola in maniera consapevole. Affianchiamo le aziende nella formazione continua del team di sviluppatori. Trovate sul nostro sito i Corsi AI Generativa.

Per altri articoli tecnici consigliamo di navigare sul nostro blog QUI.

INFO: info@innovaformazione.net – tel. 3471012275 (Dario Carrassi)

Ti potrebbe interessare

Articoli correlati