Quando l'AI Inventa: Il Problema delle Allucinazioni

Le Allucinazioni sono il tallone d'Achille dei modelli linguistici (LLM). Avvengono perché l'AI è un "pappagallo stocastico": non sa cosa sia vero, sa solo quale parola è matematicamente probabile dopo quella precedente. Se i dati sono ambigui, il modello colmerà i vuoti con la fantasia.

Esempi Pericolosi

Un'AI potrebbe inventare citazioni legali inesistenti, creare date storiche errate o fornire istruzioni mediche basate su fatti mescolati. La sfida è che le risposte sembrano così ben scritte e sicure da trarre in inganno anche gli esperti.

Strategie di Controllo

Per combattere le allucinazioni si usano il **Grounding**, l'uso di **Prompt specifici** ("rispondi solo se trovi la fonte") e sistemi di verifica incrociata tra diversi modelli AI.