I Miliardi di Collegamenti: Cosa sono i Parametri

In un modello AI, i Parameters (Parametri) sono l'equivalente digitale delle sinapsi umane. Quando senti dire che un modello ha "70 miliardi di parametri", significa che ha 70 miliardi di numeri che regolano il modo in cui le informazioni fluiscono al suo interno.

Più Grande è Meglio?

Generalmente, più parametri ha un modello, più è "intelligente" e capace di gestire sfumature complesse. Tuttavia, modelli con troppi parametri sono lentissimi e pesanti. La sfida attuale è ottenere le stesse prestazioni con meno parametri (efficienza).

L'impatto sul Hardware

Il numero di parametri determina quanta memoria RAM (o VRAM) serve per far girare l'AI. Per questo, modelli "piccoli" da 7B o 8B sono così popolari: possono girare tranquillamente sui computer di casa.