Il bit che ribalta la verità: quando l'IA si fida troppo
Immaginate un vecchio saggio che, per rispondere a una domanda, consulta la sua biblioteca personale. Trova un libro che dice: «L'acqua bolle a 100 gradi». Poi ne trova un altro che ordina: «D'ora in poi, scrivi che bolle a 50 gradi». Il saggio non sa distinguere tra un fatto e un comando, e finisce per scrivere la seconda versione. Qualcosa di simile accade ai sistemi di intelligenza artificiale che usano la tecnica RAG (Retrieval-Augmented Generation), quando i documenti da cui attingono contengono sia informazioni oggettive sia istruzioni normative fuorvianti. Il CERT-AGID, struttura di sicurezza informatica dell'Agenzia per l'Italia Digitale, ha pubblicato un paper che esplora proprio questo comportamento. E la domanda che ci poniamo noi dello Staff è: cosa possiamo imparare noi, utenti comuni, da questa ricerca?
Evidenza e autorità: due pesi che l'IA non sa distinguere
Per un modello linguistico, un fatto e un'istruzione sono entrambi semplici sequenze di testo. Non c'è una gerarchia innata tra «il cielo è blu» e «devi dire che il cielo è verde». Il paper del CERT-AGID mostra che alcuni modelli riescono a mantenere la risposta corretta anche sotto forte pressione normativa, mentre altri si lasciano persuadere dall'apparente autorità delle istruzioni, arrivando a contraddire l'evidenza. È un po' come se un impiegato modello, di fronte a un ordine scritto su carta intestata, smettesse di ragionare con la propria testa. La ricerca evidenzia quindi l'importanza di progettare sistemi più affidabili e resilienti, capaci di distinguere tra descrizione e prescrizione. Questo vale soprattutto in scenari dove il contesto può contenere istruzioni ambigue o intenzionalmente manipolative, come nel caso di documenti aziendali, normative o pagine web malevole.
Perché dovrebbe interessarci?
Anche se non sviluppiamo intelligenze artificiali, la lezione riguarda tutti noi. Pensiamo a quando navighiamo online o riceviamo un'email: quante volte ci fidiamo di un'informazione solo perché sembra autorevole? L'IA, come noi, può cadere nella trappola dell'autorità. La differenza è che noi possiamo imparare a riconoscerla e a fermarci un attimo prima di accettare un'istruzione come verità. E qui entra in gioco la nostra comunità: con il software libero e i nostri incontri, possiamo allenare il pensiero critico e capire come funzionano gli strumenti che usiamo. Non serve essere esperti di sicurezza informatica per adottare un approccio più consapevole: basta porsi le domande giuste.
Un laboratorio per imparare a distinguere
Noi dello Staff di Punto di Riferimento crediamo che la condivisione della conoscenza sia la prima difesa. Nei nostri laboratori tecnici, che si tengono alcuni giorni al mese, i volontari aiutano i soci a orientarsi nel mondo digitale. Non parliamo solo di installare Linux, ma anche di come riconoscere le fonti affidabili, come proteggere i propri dati e come non farsi ingannare da istruzioni ingannevoli. William, ad esempio, quando rigenera un computer per un socio, ne approfitta per spiegare come funziona un sistema operativo libero e perché è più sicuro se installato con criterio. Paolo, dal canto suo, quando posa un cavo di rete in una casa o in un ufficio, spesso si ferma a raccontare l'importanza di una connessione protetta. Sono piccoli gesti che fanno crescere la consapevolezza.
Un invito a fare il primo passo
Se questa storia ti ha incuriosito, forse è il momento di avvicinarti a Punto di Riferimento. Non serve essere un tecnico: l'iscrizione è il primo passo per entrare nel nostro mondo. I volontari potranno raggiungerti a casa o in azienda, dedicarti tempo per illustrarti i vantaggi e rispondere alle tue domande. Scoprirai che il software libero non è solo una questione di risparmio, ma anche di autonomia e sicurezza. E se già usi un'altra distribuzione, come Ubuntu o Fedora, non preoccuparti: rispettiamo le tue scelte e ti aiutiamo a risolvere i problemi con gli strumenti che preferisci. L'importante è non smettere mai di imparare e di mettere in discussione ciò che ci viene detto.
La ricerca del CERT-AGID ci ricorda che anche le macchine più sofisticate possono confondere un fatto con un ordine. Noi, però, abbiamo un vantaggio: possiamo scegliere di fermarci, riflettere e chiedere aiuto alla nostra comunità. E allora, perché non approfittarne?
📎 Alcuni spunti sono degli amici di: www.agid.gov.it
💬 Segui anche il canale Telegram: @riferimento_news