Fine-tuning

Cos'è il fine-tuning

Il fine-tuning è la tecnica con cui si prende un modello AI già addestrato su grandi quantità di dati generici e lo si ri-addestra su un insieme di dati specifico e più ristretto, per specializzarlo in un dominio o compito particolare.

L'analogia più utile è quella del medico specialista: la laurea in medicina è l'addestramento generale, la specializzazione in cardiologia è il fine-tuning. Il medico non ricomincia da zero, usa la conoscenza base e la approfondisce in un'area precisa. Allo stesso modo, un LLM come GPT o Claude può essere specializzato su documenti tecnici, contratti legali o dialetti di settore senza dover essere riaddestrato dall'inizio.

Come funziona

Il processo di fine-tuning richiede:

1. Dataset di addestramento specifico, un insieme di coppie input/output che rappresentano il comportamento desiderato nel dominio target (es. domande e risposte su normative fiscali, o esempi di tono e stile redazionale aziendale)
2. Selezione del modello base, si sceglie un modello pre-addestrato adatto per dimensione e capacità
3. Addestramento supervisionato, il modello aggiorna i propri parametri interni sulla base dei nuovi esempi, modificando solo una parte dei pesi (non tutto il modello)
4. Valutazione e iterazione, si misura la qualità delle risposte sul dominio target e si raffina il dataset se necessario

Il fine-tuning si distingue dal RAG: il RAG recupera informazioni esterne al momento dell'inferenza, il fine-tuning le incorpora permanentemente nel modello.

Perché conta per le aziende

Il fine-tuning è utile in scenari specifici in cui le tecniche più semplici non bastano:

• Tono e stile, addestrare un modello a scrivere sempre nel tono del brand aziendale, con vocabolario e registro specifici
• Competenza di dominio, un modello specializzato su documentazione tecnica di settore risponde con maggiore precisione rispetto a un modello generico
• Riduzione degli errori critici, in ambiti come il medicale, il legale o il finanziario, il fine-tuning riduce le risposte imprecise o fuori contesto
• Efficienza, un modello fine-tunato richiede prompt più brevi per ottenere lo stesso risultato, riducendo i costi di inferenza

Esempio pratico

Un'assicurazione vuole automatizzare la lettura e classificazione di sinistri. Il team tecnico raccoglie 5.000 esempi di sinistri già classificati e li usa per fare fine-tuning su un modello base. Il risultato è un sistema che classifica automaticamente i nuovi sinistri per tipo, gravità e priorità con un'accuratezza del 94%, ben superiore a quella ottenuta con prompt engineering generico.