Istruzione e intelligenza artificiale, prime prove e impressioni - Tome e il fallimento dell'AI

Chi bazzica le cose della scuola e dell'istruzione sa quanto in questo periodo si parli di intelligenza artificiale, di ChatGPT o delle altre AI. Indubbiamente lo strumento si presta a diverse prove e sperimentazioni, ma poi si stressa l'intelligenza artificiale più ne emergono i limiti attuali. Nel mio piccolo posso fare un esempio: ho chiesto a Tome, un software basato su AI capace di produrre slides a partire da una richiesta ben determinata, di preparare a punto due presentazioni, una sulle foibe e una sul campo di concentramento di Arbe. La prima presentazione è risultata molto generica e non particolarmente precisa nei numeri. Peggio ancora per la presentazione su Arbe. Il software ha evidentemente scambiato il campo di concentramento italiano con Auschwitz, fornendo informazioni scorrette sia in merito alla datazione, sia in merito alla liberazione dei prigionieri. Il software non è stato in grado di dare numeri, dati, fonti. Insomma, a parte l'aspetto più propriamente discorsivo l'elemento realmente interessante delle AI attuali, un fallimento. Pericoloso, per di più, perché l'affabulazione della narrazione potrebbe dare credibilità a risultati di ricerche sgangherate e senza metodo. Insomma, occorre ricordare che nella sostanza le AI attuali mettono in forma discorsiva una serie di informazioni raccolte in rete, selezionandole in maniera probabilistica, sostanzialmente scommettendo su cosa possa risultare più interessante per il lettore che ha posto la richiesta, o più affine a quanto chiesto. Le intelligenze artificiali però non sono in grado davvero di comparare la qualità delle fonti, di selezionare sulla mase di criteri che non siano il numero di visualizzazioni delle pagine da cui attingono le risposte, la comparazione. Insomma, alla prova dei fatti le AI attuali risultano molto più stupide di quanto si pensi, più adatte a ridurre i tempi di produzione di testi discorsivi su argomenti semplici che a sostituire il vaglio umano sulle ricerche e su produzioni più complesse. E forse sarebbe il caso di spiegarlo ai nostri alunni.