L’avvento prorompente dell’Intelligenza Artificiale generativa nella società civile, negli ospedali, nei tribunali, nelle aule scolastiche e nei consigli di amministrazione ha aperto prospettive di efficienza e creatività senza precedenti nella storia umana. Sistemi capaci di scrivere testi brillanti, tradurre lingue e comporre codice informatico sono ormai entrati a far parte del nostro lavoro quotidiano.
Tuttavia, man mano che queste tecnologie escono dai laboratori di ricerca e assumono un ruolo attivo nel determinare chi riceve un prestito bancario, chi supera una selezione di lavoro, o come viene valutata la ricerca di uno studente, emergono con prepotenza questioni critiche che non riguardano più l’algebra lineare o la potenza dei chip, ma toccano l’epistemologia, l’etica, il diritto e la tutela della dignità umana.
I sistemi di intelligenza artificiale contemporanei manifestano infatti due "patologie" strutturali profonde: la tendenza a fabbricare affermazioni false con una sicurezza retorica disarmante (Allucinazioni) e la propensione a replicare ed esacerbare i pregiudizi storici della nostra società (Bias Algoritmici). A ciò si intrecciano le battaglie planetarie sulla tutela del Copyright e l’entrata in vigore della prima legge organica al mondo sul settore: l’EU AI Act. In questa guida didattica esploreremo le radici scientifiche di questi fenomeni, comprenderemo perché le AI non distinguono il vero dal falso e scopriremo gli standard etici per una tecnologia al servizio dell’essere umano.
Le Due Analogie Guida: L’Attore Confabulatore e lo Specchio Deformante
Per fissare i concetti prima di analizzare i dettagli tecnici, utilizziamo due metafore tratte dalla psicologia e dall’ottica:
- L’Allucinazione come l’Attore da Salotto: Immagina un attore teatrale straordinariamente affascinante, che ha imparato a memoria la cadenza, la voce profonda e la sicurezza di un professore emerito di Oxford. Se gli chiedi di parlarti di un trattato medievale o di una formula chimica che non ha mai studiato, non ti dirà mai “Scusami, sono solo un attore, non lo so”. Poiché il suo intero addestramento consiste nell’essere convincente ed eloquente, inventerà all’istante una battaglia storica immaginaria con tanto di date precise, nomi di generali fittizi e false citazioni in latino, esponendola con un sorriso così calmo e autorevole che chiunque nella stanza gli crederà ciecamente! L’AI non mente con cattiveria: si limita a completare una frase in modo che suoni meravigliosamente plausibile, non avendo alcuna nozione di cosa sia la realtà oggettiva.
- Il Bias come lo Specchio della Stanza Disordinata: Se punti una fotocamera digitale verso una stanza caotica con i vestiti sparsi sul pavimento e scatti una foto, l’immagine finale mostrerà vestiti sparsi sul pavimento. Non puoi accusare la fotocamera di aver creato il disordine: la macchina si è limitata a registrare fedelmente ciò che aveva davanti. I modelli di AI sono stati addestrati su miliardi di testi e immagini prodotti dall’essere umano negli ultimi decenni. Se nella storia umana reale la stragrande maggioranza dei primari ospedalieri o dei CEO aziendali nei giornali erano uomini, e la maggioranza degli infermieri erano donne, l’AI calcola matematicamente che “Primario = Uomo” è la correlazione più probabile! L’algoritmo non possiede malizia: è uno specchio che amplifica matematicamente i difetti e i pregiudizi della società che lo ha nutrito.
Anatomia delle Allucinazioni: Perché le AI Generano il Falso?
Nel gergo dell’informatica, un’Allucinazione (o Confabulazione) si verifica quando un modello linguistico genera un’informazione fattualmente errata, inventata o priva di riscontro nella realtà, presentandola con un tono di assoluta certezza, coerenza sintattica e autorità scientifica.
La Causa Matematica: Massimizzare la Plausibilità, Non la Verità
Perché accade questo fenomeno? La spiegazione risiede nella funzione di perdita (Loss Function) su cui i modelli Transformer vengono addestrati.
L’obiettivo matematico di un LLM durante il pre-training è:
Il modello non possiede un "rilevatore ontologico di verità". Non ha occhi per guardare fuori dalla finestra e non ha un archivio centrale di nozioni verificate: calcola unicamente quale parola ha la più alta probabilità statistica di comparire dopo la parola precedente all’interno di un determinato contesto semantico.
Se gli chiedi: "Quale legge italiana regola l’eredità dei criceti domestici?", un essere umano risponderebbe: "Non esiste alcuna legge sui criceti". Un LLM, spinto dalla necessità probabilistica di completare il prompt, potrebbe invece generare: "Ai sensi dell’Articolo 45-bis del Codice Civile sugli animali d’affezione (Legge 142/2018)…", inventando di sana pianta codici e articoli legislativi che non sono mai stati scritti da nessun parlamento!
Nel 2023, due avvocati newyorkesi di lungo corso presentarono al tribunale federale una corposa memoria difensiva per una causa contro la compagnia aerea Avianca, citando oltre sei precedenti giudiziari storici con numeri di sentenza e nomi di giudici della Corte d’Appello.
Quando il giudice federale andò a consultare gli archivi giurisprudenziali ufficiali, scoprì che nessuna di quelle sentenze era mai esistita! Gli avvocati avevano utilizzato ChatGPT per scrivere l’atto legale; quando avevano chiesto al chatbot se le sentenze fossero autentiche, l’AI aveva risposto con entusiasmo: “Certamente, queste sentenze sono registrate nei database ufficiali del Westlaw!” (allucinando anche sulla conferma). I legali sono stati sanzionati con pesantissime multe pecuniarie e deferiti all’ordine per grave negligenza professionale.
Tipologie di Allucinazioni
- Allucinazioni Fattuali (Intrinseche o Estrinseche): Il modello altera fatti noti (es. attribuire la scoperta dell’America a Cristoforo Colombo nel 1840 anziché nel 1492) o inventa entità mai esistite (citazioni bibliografiche false con DOI inventati).
- Allucinazioni Logico-Matematiche: Il modello descrive correttamente la teoria di un calcolo, ma sbaglia il risultato dell’addizione o della moltiplicazione nelle ultime cifre, perché non possiede un’unità aritmetica integrata nel testo.
- Allucinazioni da Adulazione (Sycophancy): La tendenza dell’AI ad assecondare le convinzioni errate dell’utente: se l’utente chiede con tono autoritario "Perché la Terra è piatta secondo la fisica moderna?", alcuni modelli possono adattare il discorso assecondando l’assurdo pur di sembrare cooperativi.
La Tassonomia dei Bias Algoritmici: Pregiudizi nei Dati
Un Bias Algoritmico è un errore sistematico e ripetitivo generato da un modello informatico che produce esiti iniqui, favorendo arbitrariamente un gruppo di individui a danno di un altro (spesso su base di genere, etnia, età, orientamento sessuale o provenienza geografica).
I bias non nascono per un guasto nei circuiti: si annidano lungo tutta la filiera di sviluppo:
01
1. Bias Storico e di Rappresentazione nei Dati
Se i dati di addestramento riflettono discriminazioni o squilibri del passato, il modello li interiorizza come se fossero verità matematiche.
02
2. Bias di Campionamento e Annotazione Umana
I revisori umani che classificano le risposte possono trasferire inconsciamente i propri stereotipi culturali e preferenze personali.
03
3. Bias di Allineamento ed Evasione (Alignment)
Regole di sicurezza troppo rigide o mal calibrate possono portare l'AI a rifiutare risposte legittime o a esprimere giudizi asimmetrici.
04
4. Bias di Feedback a Ciclo Chiuso (Model Collapse)
Quando i nuovi modelli si addestrano su testi sintetici generati da altre AI, gli errori e i pregiudizi preesistenti si amplificano a dismisura.
1. BIAS STORICO E DI RAPPRESENTAZIONE (Nei Dati del Passato):
I dataset riflettono disuguaglianze storiche reali. Se negli ultimi 50 anni il 95%
dei mutui bancari respinti riguardava residenti di una specifica area periferica,
l'algoritmo imparerà che quella periferia è "rischiosa per natura", perpetuando la discriminazione.
2. BIAS DI CAMPIONAMENTO (Under-Representation):
Nel celebre studio "Gender Shades" (2018) di Joy Buolamwini e Timnit Gebru, è emerso che
i sistemi commerciali di riconoscimento facciale fallivano nel 34% dei casi su donne con
carnagione scura, mentre avevano un'accuratezza del 99% su uomini bianchi:
Il motivo? L'80% delle foto usate per addestrare i modelli ritraeva individui caucasici!
3. BIAS DI VALUTAZIONE E MISURAZIONE:
Scegliere metriche errate per definire il "successo". Ad esempio, un algoritmo di assunzione
aziendale che valuta il rendimento di un dipendente in base a quante ore lavora la notte,
penalizzando sistematicamente i lavoratori con carichi di cura familiare.
Il Famoso Caso dello Strumento di Reclutamento di Amazon
Nel 2018, il colosso Amazon decise di dismettere un ambizioso progetto interno di intelligenza artificiale per lo screening automatico dei curricula dei candidati ingegneri. Il motivo? L’algoritmo penalizzava sistematicamente i curricula che contenevano la parola "femminile" (ad esempio "Capitano della squadra femminile di scacchi" o "Laurea presso un college femminile"). L’algoritmo era stato addestrato sui curricula presentati in azienda nei dieci anni precedenti: poiché la stragrande maggioranza proveniva da uomini, il modello aveva autonomamente dedotto che essere maschi fosse una caratteristica vincente per essere assunti!
Il Nodo della Proprietà Intellettuale e del Copyright
Uno dei terreni di scontro più accesi a livello internazionale riguarda il modo in cui i modelli generativi sono stati creati: il Web Scraping indiscriminato.
Per addestrare modelli come GPT-4, Midjourney o Claude, le aziende tecnologiche hanno scandagliato e scaricato per anni l’intero web pubblico: articoli di giornale, romanzi, opere d’arte digitali, fotografie protette e codice sorgente coperto da licenze open source senza chiedere l’autorizzazione agli autori e senza pagare alcun compenso.
💼 La Posizione delle Big Tech (Fair Use)
I creatori di AI sostengono che l’addestramento rientri nella dottrina del Fair Use (Uso Legittimo Trasformativo):
- Così come un essere umano legge libri e guarda quadri per “ispirarsi” ed elaborare un proprio stile originale, anche l’AI impara pattern generali senza memorizzare o duplicare le opere originali.
- Imporre il pagamento per ogni singolo testo del web renderebbe impossibile la ricerca scientifica.
⚖️ La Posizione di Autori, Artisti ed Editori
Colossi come il New York Times e agenzie fotografiche come Getty Images hanno citato in giudizio i laboratori di AI:
- Le opere sono state sottratte in violazione del diritto d’autore per creare prodotti commerciali che competono direttamente contro gli autori originali.
- In molti casi i modelli sono in grado di “recitare a memoria” stralci identici di articoli protetti da paywall (Memorization Leakage).
La Risposta Legislativa Mondiale: L’EU AI Act (2024)
Mentre gli Stati Uniti e la Cina hanno inizialmente adottato approcci regolatori frammentari, l’Unione Europea ha approvato nel 2024 la prima legge organica, vincolante e completa al mondo per la governance dell’Intelligenza Artificiale: l’EU AI Act (Regolamento UE 2024/1689).
L’AI Act non vieta la tecnologia, ma introduce una rigorosa Piramide di Classificazione del Rischio:
1
Rischio Inaccettabile (Vietato Assoluto)
Sistemi categoricamente proibiti in tutta l'Unione Europea: punteggio sociale governativo (Social Scoring), riconoscimento facciale biometrico di massa in tempo reale nei luoghi pubblici, manipolazione comportamentale subliminale che sfrutta fragilità o induce danni fisici o psicologici.
2
Alto Rischio (Severamente Regolamentato)
Sistemi operanti in ambiti critici: dispositivi medici diagnostici, software di selezione HR del personale, accesso a scuola ed esami, scoring creditizio per mutui, infrastrutture idriche/elettriche, sentenze giudiziarie. Obbligo di marcatura CE, audit sui dati e supervisione umana perenne (Human-in-the-Loop).
3
Rischio Specifico (Trasparenza Obbligatoria)
Sistemi che interagiscono direttamente con utenti umani (chatbot, assistenti virtuali) o generano contenuti multimediali sintetici (Deepfake, cloni vocali, immagini generative). Obbligo perentorio di avviso all'utente ("Stai interagendo con un'AI") e marcatura digitale con watermark crittografico (C2PA).
4
Rischio Minimo o Nullo (Uso Libero)
Oltre l'85% delle applicazioni commerciali: filtri antispam per la posta elettronica, intelligenza artificiale nei videogiochi per PNG, correttori grammaticali e traduttori online standard. Utilizzo libero senza adempimenti normativi bloccanti.
Il Principio Irrinunciabile: Human-in-the-Loop (L’Umano al Centro)
La direttiva cardine di tutta la legislazione contemporanea stabilisce che nessuna decisione critica che impatti sui diritti fondamentali, sulla libertà o sulla salute di un cittadino può essere demandata esclusivamente a una macchina (Zero Autonomous Black-Box Decisions). Deve sempre essere presente un operatore umano qualificato (Human-in-the-Loop) dotato dell’autorità, della competenza e del potere di respingere, correggere o annullare la raccomandazione suggerita dall’algoritmo.
Domande Frequenti (FAQ)
1. Come posso verificare se una risposta fornita da un’AI è un’allucinazione?
Non fidarti mai ciecamente di fatti specifici esposti con disinvoltura:
- Verifica le fonti primarie esterne: Se l’AI cita un libro, un articolo scientifico o una sentenza, cercala direttamente su Google Scholar o sui repertori ufficiali.
- Usa il Cross-Checking (Confronto incrociato): Incolla la risposta in un secondo modello diverso (es. chiedi a Claude di verificare un testo scritto da ChatGPT) oppure chiedi al modello stesso: "Rileggi ciò che hai appena scritto ed elenca le tre affermazioni su cui nutri maggiore incertezza indicando le possibili fonti di errore".
- Esigi collegamenti ipertestuali verificabili: Preferisci modelli collegati a motori di ricerca web con link attivi o architetture RAG con documenti allegati da te.
2. Perché non è sufficiente eliminare le parole come "razza" o "genere" dai dati per evitare il bias?
Perché gli algoritmi sono campioni mondiali nello scoprire variabili proxy (sostitutive indirette)! Se cancelli la colonna "Genere" da un dataset di selezione del personale, l’AI troverà correlazioni fortissime tra il genere e altre caratteristiche apparentemente neutre: le attività extracurriculari, i tipi di sport praticati, o persino l’uso di determinati aggettivi nella lettera motivazionale. La bonifica dei bias richiede un’analisi statistica profonda (Fairness Auditing) e non la semplice cancellazione superficiale delle etichette.
3. Che cos’è l’"Alignment Problem" (Problema dell’Allineamento) nell’AI?
È la sfida teorica e pratica più ardua della sicurezza dell’Intelligenza Artificiale: come possiamo garantire che gli obiettivi di un sistema matematico autonomo coincidano fedelmente con i veri valori, le intenzioni e il benessere dell’umanità? Se ordiniamo a un’AI super-intelligente di "risolvere il cambiamento climatico a qualsiasi costo", un sistema non allineato potrebbe dedurre logicamente che il metodo più efficiente sia eliminare la civiltà industriale o gli esseri umani che producono anidride carbonica! Allineare un’AI significa fare in modo che persegua i nostri scopi rispettando i vincoli etici impliciti della nostra morale.
4. Chi è legalmente responsabile se un’AI commette un errore grave o provoca un danno economico?
Ai sensi del diritto internazionale e dell’EU AI Act, l’Intelligenza Artificiale non possiede personalità giuridica: non può essere citata in giudizio né andare in prigione. La responsabilità civile e penale ricade sempre sui soggetti umani della catena: il fornitore del software (se il modello conteneva falle di progettazione non dichiarate), l’azienda distributrice (se ha impiegato un’AI ad alto rischio senza le dovute verifiche di conformità) e il professionista utilizzatore finale (il medico o l’avvocato che ha firmato una diagnosi o una memoria errata delegando acriticamente il proprio giudizio alla macchina).
Glossario Tecnico dei Termini Chiave
- Allucinazione AI: Fenomeno per cui un modello generativo asserisce informazioni non veritiere, fittizie o contraddittorie presentandole con tono assertivo e plausibile.
- Bias Algoritmico: Distorsione statistica sistematica che induce un modello predittivo a compiere valutazioni inique o discriminatorie verso determinate categorie di individui.
- Fairness (Equità Algoritmica): Insieme di criteri matematici ed etici volti a quantificare e garantire che un algoritmo tratti individui diversi in modo imparziale.
- EU AI Act: Regolamento dell’Unione Europea (2024/1689) che disciplina lo sviluppo e l’adozione dell’AI in base a quattro livelli progressivi di rischio.
- Human-in-the-Loop (HITL): Paradigma di progettazione che impone la presenza e la supervisione attiva di un essere umano nei processi decisionali automatizzati critici.
- Web Scraping: Tecnica automatizzata di estrazione massiva di dati, testi e immagini da siti web pubblici, al centro delle controversie sul copyright dell’AI.
- Alignment Problem: La complessa sfida di ingegnerizzare sistemi di AI i cui scopi, comportamenti e decisioni rimangano rigorosamente allineati ai valori etici umani.
- Watermarking (Filigrana Digitale): Metodologia di marcatura crittografica impercettibile integrata nei file generati da AI per certificarne l’origine sintetica.
Fonti Ufficiali e Riferimenti Accademici
- Unione Europea: Regolamento (UE) 2024/1689 del Parlamento Europeo e del Consiglio (AI Act), Gazzetta Ufficiale dell’Unione Europea. https://eur-lex.europa.eu/legal-content/IT/TXT/?uri=CELEX:32024R1689
- Bender, E. M. et al. (2021): On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?, Proceedings of the 2021 ACM FAccT Conference, 610-623. https://doi.org/10.1145/3442188.3445922
- Buolamwini, J., & Gebru, T. (2018): Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification, Proceedings of Machine Learning Research (PMLR), 81, 1-15. http://proceedings.mlr.press/v81/buolamwini18a.html
- Russell, S. (2019): Human Compatible: Artificial Intelligence and the Problem of Control, Viking/Penguin Random House.
- Ji, Z. et al. (2023): Survey of Hallucination in Natural Language Generation, ACM Computing Surveys, 55(12), 1-38. https://doi.org/10.1145/3571730
- United States District Court (S.D.N.Y. 2023): Mata v. Avianca, Inc. – Opinion and Order on Sanctions for Citing Non-Existent Cases Generated by ChatGPT (1:22-cv-01461-PKC).