La Memoria di Lavoro dell'AI: Context Window

La Finestra di Contesto (Context Window) determina quanto testo il modello può analizzare prima di iniziare a "dimenticare" i pezzi precedenti. È simile alla memoria a breve termine umana: se superi questo limite, l'AI perde il filo del discorso.

Perché Grandezze Maggiori sono Importanti

Modelli con una finestra ampia possono leggere interi codici sorgente, libri di centinaia di pagine o consultare diverse ore di registrazioni audio senza aver bisogno di tecniche esterne di sintesi.

Costi e Performance

Tuttavia, finestre di contesto più grandi richiedono molta più memoria RAM e potenza di calcolo, rendendo le query più costose e potenzialmente meno precise se il modello non è bene ottimizzato (problema "Lost in the Middle").