Il problema degli agenti AI non è che possono sbagliare. È che possono agire.
Quando un modello può utilizzare strumenti, credenziali e reti, una risposta sbagliata non rimane più sullo schermo. Il vero problema diventa il confine che abbiamo costruito attorno all’agente. Per molto tempo, quando si parlava dei rischi dell’intelligenza artificiale, l’esempio più immediato era l’allucinazione. Il modello poteva inventare una fonte, interpretare male una richiesta oppure fornire … Leggi tutto