E quando l’intelligenza artificiale sbaglia?

L’intelligenza artificiale, detta così, sembra una cosa lontana. Una parola grande, da convegno, da ingegneri con grafici complicati.

In realtà è già dentro la vita di tutti i giorni.

La usiamo quando chiedi una ricetta online, quando il telefono suggerisce la strada più veloce, quando una piattaforma propone cosa guardare la sera. Fin qui tutto bene. Se sbaglia la ricetta della pasta, al massimo viene scotta. Pazienza.

Il punto cambia, però, quando non suggerisce il tempo di cottura, ma entra in decisioni che contano o, fornisce informazioni errate perché qualcuno ha deciso di usare parametri discriminatori.

Se la usa un’azienda per valutare un curriculum, se la usa una banca per concedere un prestito, se la usa una scuola per stabilire percorsi o valutazioni, allora non parliamo più di un sugo venuto male. Parliamo di opportunità, reputazione, futuro.

Chi risponde?

Non certo la macchina. Non risponde il computer. Ma una persona o un’organizzazione. Se un’azienda usa un sistema automatico e quel sistema produce un danno, non può dire “non siamo stati noi, è stato l’algoritmo”. Sarebbe come dire che non è colpa del conducente ma dell’auto.

Fin qui è chiaro. Ma c’è un’altra questione più sottile.

E se l’intelligenza artificiale non sbaglia in modo evidente, ma mi porta a sbagliare? Se mi fido troppo? Se penso che, siccome lo dice il sistema, allora dev’essere giusto?

Torniamo all’esempio semplice.

Se uso l’IA per cercare una ricetta, so che è un aiuto. Posso controllare, posso correggere, posso decidere che quel consiglio non mi convince. Resto io a cucinare.

Ma se un insegnante, o un dirigente, o un responsabile del personale riceve un punteggio, una classifica, una valutazione automatica, il rischio è diverso. Quel numero sembra oggettivo. Sembra neutro. Sembra più affidabile dell’intuizione umana. E allora ci si fida.

È qui che nasce il problema moderno. Non l’errore della macchina, ma quello della fiducia cieca.

L’intelligenza artificiale lavora sui dati che le vengono forniti. Se quei dati sono incompleti, sbilanciati, parziali, anche il risultato lo sarà. Non per cattiva volontà, ma per costruzione. E se nessuno controlla, se nessuno si assume la responsabilità di verificare, l’errore diventa decisione.

Pensiamo alla scuola. Se un sistema suggerisce che uno studente ha “basse probabilità di successo” perché analizza risultati passati, comportamenti, statistiche, quel suggerimento può influenzare chi decide. Magari non in modo dichiarato, ma nella testa sì. E una previsione può diventare una condanna silenziosa. Non perché qualcuno voleva fare un torto, ma perché ci si è fidati troppo.

Per questo oggi non basta dire “usiamo l’intelligenza artificiale”. Bisogna chiedersi come la usiamo. Chi la controlla. Chi può dire “qui non mi convince”. Se una tecnologia può incidere sulla vita delle persone, non può funzionare senza responsabilità chiara. Rima di tutto da parte di chi la usa.

Alla fine, la differenza sta tutta qui. Se l’IA mi suggerisce una ricetta, la responsabilità resta leggera. Se l’IA entra nelle decisioni che riguardano lavoro, scuola, credito, salute, la responsabilità diventa pesante. E non si può scaricare sulla macchina.

L’intelligenza artificiale è uno strumento potente. Può aiutare, può velocizzare, può migliorare. Ma non può sostituire il giudizio umano. Se smettiamo di fare domande perché “lo dice il sistema”, il problema non è la tecnologia. È la rinuncia a pensare.

E allora, forse, la vera questione non è solo chi risponde quando l’IA sbaglia. È chi risponde quando noi smettiamo di controllare. Perché la macchina può commettere un errore. Ma l’abitudine a delegare senza capire è un errore molto più grande.