Intervista a Walter Quattrociocchi sulla Intelligenza Artificiale:
"(...) Con il termine epistemia indico una condizione in cui la plausibilità linguistica viene scambiata per conoscenza. È il cuore del problema. I modelli linguistici generativi producono testi convincenti, fluidi, coerenti in superficie. Ma questa coerenza non coincide con la verità, né con la comprensione, né con la capacità di giustificare ciò che si afferma. Il sistema non sa nel senso umano del termine.
Genera la continuazione statisticamente più compatibile con il contesto linguistico dato. Per questo la parola “allucinazione” è in parte fuorviante. Fa pensare a un errore occasionale dentro un sistema che normalmente conosce e ogni tanto devia. Ma non è così. Il problema non è che il modello, ogni tanto, “impazzisce”.
Il problema è più radicale: il modello non ha un rapporto epistemico con il mondo. Non verifica, non distingue tra vero e falso come farebbe un soggetto capace di orientarsi tra fonti, evidenze, contesti e contraddizioni. Produce output plausibili. Quando quella plausibilità si sgancia dalla realtà, vediamo l’errore. Ma il meccanismo che lo genera è lo stesso che genera anche le risposte corrette. Ecco perché il tema non è l’incidente, ma la struttura.
L’epistemia nasce proprio da questo: dal fatto che la forma del sapere viene simulata così bene da far dimenticare l’assenza della sua sostanza. (...)"
https://www.mentinfuga.com/intervista-al-professor-walter-quattrociocchi/
Nessun commento:
Posta un commento