Si parla di allucinazione quando un'intelligenza artificiale si inventa qualcosa: una data sbagliata, una citazione mai detta, un libro che non esiste, una legge immaginaria. E lo fa con lo stesso tono sicuro con cui dice le cose giuste.
Succede perché un assistente AI non consulta un archivio di fatti certi: costruisce la risposta che "suona" più probabile in base a ciò che ha imparato. Di solito ci prende, ma a volte riempie i vuoti inventando.
Per questo, quando si tratta di salute, soldi, leggi, scuola o lavoro, verifica sempre su fonti ufficiali. Chiedere all'AI le sue fonti aiuta, ma controlla che esistano davvero.
In praticaChiedi a un chatbot tre libri su un argomento e uno dei titoli, con tanto di autore e anno, non esiste: è un'allucinazione.
Approfondisci nella guida
Parole collegate:Modello linguisticoFact-checkingChatbot