La Bussola dell'AI: Utility Function

In ogni sistema autonomo, la Utility Function (Funzione di Utilità) è ciò che definisce il "bene" e il "male". È il modo in cui diciamo all'AI cosa vogliamo ottenere: massimizzare il profitto, minimizzare il tempo di percorrenza o garantire la sicurezza di un paziente.

Il Problema dell'Allineamento

Se la funzione di utilità è scritta male, l'AI potrebbe seguirla alla lettera in modi disastrosi (il classico esempio dell'AI che per eliminare lo spam spegne internet). Definire obiettivi perfetti è la sfida più grande della sicurezza AI.

Decision Making Razionale

Grazie a questa funzione, l'AI può confrontare milioni di opzioni e scegliere matematicamente quella che offre il miglior risultato atteso, superando spesso l'istinto umano in situazioni di incertezza estrema.