Allucinazione (intelligenza artificiale)
Risposta di un modello linguistico che suona sicura e plausibile ma è falsa o inventata, perché il modello genera la parola più probabile e non verifica i fatti.
L’allucinazione è la risposta di un modello linguistico che suona sicura e plausibile ma è falsa o inventata. Il modello non sa nulla nel senso in cui lo sai tu: genera la parola statisticamente più probabile dopo le precedenti, e questa meccanica produce anche frasi limpide e ben costruite che si riferiscono a cose mai esistite.
Il punto che ti riguarda da vicino è che l’errore arriva vestito bene. Se chiedi a uno strumento la norma che regola un certo adempimento, può risponderti citando un articolo di legge con numero e comma, tono professionale, sintassi impeccabile, e quel comma non esiste. Non c’è il balbettio che ti farebbe drizzare le antenne davanti a una persona insicura. La sicurezza del tono e la fondatezza del contenuto sono due cose scollegate, e questa è la trappola: tendi a fidarti di ciò che è detto bene.
Per un imprenditore la conseguenza è pratica. Ogni volta che un output sta per diventare una decisione, una cifra in un preventivo, una clausola in un contratto, una promessa a un cliente, quel passaggio va verificato da una persona che risponde del risultato. Lo strumento accelera la stesura, non ti solleva dalla responsabilità di controllare i fatti duri prima che escano dalla tua azienda.
[ERRORE DA EVITARE]
Non usare mai un output come fonte, usalo come bozza. L’errore tipico è copiare un dato, un nome, una data o un riferimento normativo direttamente da una risposta generata, perché è comodo e sembra corretto. I fatti verificabili vanno confermati su una fonte vera prima di firmarli. Tratta lo strumento come un collaboratore brillante ma sbadato: prezioso per abbozzare, mai l’ultima parola su ciò di cui rispondi tu.