Prompt Engineering

Lee Boonstra
Prompt Engineering

Introduzione: L’Arte di Parlare con le Macchine

“Non serve essere un mago dell’AI per scrivere un prompt efficace.”

Questo documento esplora come comunicare efficacemente con i modelli linguistici di grandi dimensioni (LLM) come Gemini. Un prompt, che può essere un testo o anche un’immagine, è l’input che guida il modello. Scrivere un buon prompt è un’arte: richiede attenzione alla scelta delle parole, allo stile, al tono e al contesto. Un prompt mal formulato può portare a risultati imprecisi o ambigui, mentre un prompt ben congegnato può sbloccare il vero potenziale del modello.

Cos’è il Prompt Engineering?

Immagina un LLM come un motore di previsione. Prende un testo in input e, basandosi su ciò che ha imparato durante l’addestramento, predice la sequenza di parole successiva. Il prompt engineering è l’arte di “sintonizzare” questo motore, guidandolo a produrre risultati accurati e pertinenti. Questo significa sperimentare, ottimizzare la lunghezza del prompt e valutare come lo stile e la struttura influenzano il risultato.

Configurazione dell’Output di un LLM

Ogni LLM ha delle “manopole” che controllano il suo output. Ecco le principali:

• Lunghezza dell’output: Quanti “token” (unità di testo) deve generare il modello? Più token significano più elaborazione, quindi costi e tempi più elevati.
• Controllo del campionamento: Invece di scegliere un’unica parola, l’LLM calcola le probabilità per ogni parola del suo vocabolario. Come vengono usate queste probabilità? La temperatura, Top-K e Top-P sono le impostazioni più comuni.
  • Temperatura: Controlla la casualità. Temperature basse danno risposte più prevedibili, mentre temperature alte generano risultati più creativi. Una temperatura di 0 è come un “decoding avido”, che sceglie sempre la parola più probabile.
  • Top-K e Top-P: Limitano le parole candidate a quelle con le probabilità più alte. Top-K seleziona le K parole più probabili, mentre Top-P sceglie le parole fino a raggiungere una certa probabilità cumulativa.

Un consiglio: Se vuoi risposte precise (es. un calcolo matematico), inizia con una temperatura di 0.

Attenzione: Troppa “libertà” (temperatura alta, molti token) può portare l’LLM a divagare o a ripetersi.

Tecniche di Prompting: Dal Generale al Specifico

• Prompting Zero-Shot: Il metodo più semplice. Fornisci solo una descrizione del compito e un testo di partenza.
  • Esempio: “Classifica questa recensione di film come POSITIVA, NEUTRA o NEGATIVA: ‘Questo film è stato fantastico!'”
• Prompting One-Shot e Few-Shot: Fornisci uno o più esempi di come vuoi che il modello risponda. È come dare un “modello” da imitare.
  • Esempio (Few-Shot):
    • “Recensione: ‘Questo film è stato orribile.’ Sentiment: NEGATIVO”
    • “Recensione: ‘Questo film è stato ok.’ Sentiment: NEUTRO”
    • “Recensione: ‘Questo film è stato fantastico!’ Sentiment:”
• Prompting di Sistema, Contestuale e di Ruolo: Tecniche avanzate per guidare l’LLM.
  • Sistema: Definisce il contesto generale e lo scopo del modello (es. “Sei un traduttore”).
  • Contestuale: Fornisce dettagli specifici e informazioni di sfondo rilevanti per la conversazione (es. “Traduci questa frase in francese”).
  • Ruolo: Assegna un personaggio o un’identità al modello (es. “Agisci come un guida turistica”).
• Step-Back Prompting: Incoraggia l’LLM a considerare una domanda generale prima di affrontare il compito specifico. È come fare un passo indietro per vedere il quadro generale.
• Chain of Thought (CoT): Incoraggia l’LLM a mostrare i passaggi del suo ragionamento. Aiuta a ottenere risposte più accurate e a capire come il modello è arrivato alla conclusione.
• Self-Consistency: Invia lo stesso prompt più volte e scegli la risposta più frequente. Aumenta l’accuratezza e la coerenza.
• Tree of Thoughts (ToT): Permette all’LLM di esplorare diversi percorsi di ragionamento contemporaneamente.
• ReAct (Reason & Act): Combina il ragionamento linguistico con strumenti esterni (es. ricerca web) per risolvere compiti complessi.

Automatic Prompt Engineering (APE): Delega la Creazione dei Prompt!

L’APE è un metodo per automatizzare la creazione di prompt. Invece di scriverli manualmente, chiedi a un modello di generarne diversi, valutali e seleziona i migliori.

Code Prompting: LLM come Assistente alla Programmazione

Gemini può aiutarti a scrivere, spiegare, tradurre e correggere codice.

Best Practices: I Segreti dei Prompt di Successo

• Fornisci esempi: Sono un potente strumento di insegnamento.
• Sii semplice: Evita linguaggio complesso e informazioni inutili.
• Sii specifico: Definisci chiaramente l’output desiderato.
• Usa istruzioni, non vincoli: Incoraggia il modello a fare, invece di limitarlo.
• Controlla la lunghezza: Imposta un limite massimo di token.
• Usa variabili: Rendi i prompt più dinamici e riutilizzabili.
• Sperimenta: Prova diversi formati di input e stili di scrittura.
• Mescola le classi: Nei prompt few-shot per la classificazione, varia l’ordine delle risposte.
• Adatta ai nuovi modelli: Aggiorna i prompt per sfruttare le nuove funzionalità.
• Sperimenta con i formati di output: JSON e XML possono essere utili per dati strutturati.

JSON Repair: Quando l’Output JSON è Incompleto

JSON è ottimo per strutturare i dati, ma può essere “pesante” e facilmente troncato. Strumenti come json-repair possono aiutarti a riparare JSON incompleti.

Working with Schemas: Definisci la Struttura dei Dati

Le JSON Schema definiscono la struttura e i tipi di dati che il modello dovrebbe aspettarsi in input. Aiuta a focalizzare l’attenzione del modello e a ridurre il rischio di errori.

Documenta i Tuoi Tentativi: Crea un Diario dei Prompt

Registra ogni tentativo di prompt, inclusi i risultati e le impostazioni utilizzate. Ti aiuterà a imparare cosa funziona e cosa no.