Informazione e manipolazione: la risposta del diritto basta ancora?

Disinformazione, misinformazione, manipolazione informativa: le differenze che contano

Quando si parla di contenuti falsi in rete si tende a usare disinformazione, misinformazione e manipolazione informativa come sinonimi intercambiabili, mentre la differenza tra questi tre termini regge buona parte dell’impalcatura normativa che l’Unione europea ha costruito negli ultimi anni.

La misinformazione è il contenuto falso che circola senza che chi lo condivide sappia di mentire, un errore di buona fede che si propaga per emulazione più che per calcolo.
La disinformazione nasce già falsa nelle intenzioni di chi la produce, pensata per ingannare fin dal principio.
La manipolazione informativa, la categoria che oggi interessa di più ai regolatori, aggiunge a questo un elemento organizzativo, non un singolo contenuto ingannevole ma uno schema coordinato di comportamento, fatto di account inautentici e amplificazione artificiale, che lavora sulla percezione collettiva più che sul singolo fatto.

Questa distinzione va tenuta ferma fin da subito, perché il problema che interessa non è mai il contenuto in sé, per quanto sgradevole, offensivo o persino falso possa essere.
La libertà di dire cose sbagliate, becere, impopolari, resta parte della libertà di espressione quanto quella di dire cose condivisibili, e nessuna delle categorie appena descritte giustifica da sola un intervento che impedisca a qualcuno di parlare.
Il problema nasce quando quella parola non è più umana, o non è più genuina, per esempio quando un commento è generato in serie da un account automatizzato, un’ondata di reazioni è fabbricata per simulare un consenso che non esiste, oppure un video è costruito apposta per far dire a una persona reale qualcosa che non ha mai detto.
In quei casi a parlare non è più una persona che esercita il proprio diritto di dire la sua, ma un meccanismo che finge di esserlo, costruito apposta per far credere che dietro ci sia un consenso, un’indignazione, un’opinione diffusa che in realtà non esiste.

Nulla di tutto questo è nuovo nella sostanza, perché la propaganda coordinata, le voci costruite ad arte per orientare l’opinione pubblica, i falsi documenti fatti circolare al momento giusto, appartengono alla storia della comunicazione politica da molto prima di internet.
Quello che cambia, e che giustifica un intervento normativo pensato apposta per l’ambiente digitale, è la scala a cui questi fenomeni possono oggi operare e la velocità con cui un contenuto costruito nel pomeriggio può raggiungere milioni di persone entro sera, senza passare attraverso nessuno dei filtri redazionali che un tempo rallentavano, e in parte selezionavano, ciò che diventava pubblico.
A questa dinamica preesistente si aggiunge oggi un moltiplicatore recente e particolarmente efficace, l’intelligenza artificiale generativa, di cui si parlerà più avanti in dettaglio.

Il DSA e il rischio di un filtro troppo largo

Su questo terreno il Digital Services Act ha scelto di intervenire con una scelta di metodo precisa, quella di non punire il singolo contenuto falso, questione che il diritto europeo lascia in larga parte alla responsabilità editoriale e alla disciplina della diffamazione, bensì di imporre alle piattaforme di dimensioni molto grandi (le cosiddette VLOP) un obbligo organizzativo di autovalutazione.
Gli articoli 34 e 35 del regolamento chiedono a queste piattaforme di identificare, ogni anno, i rischi sistemici che la loro architettura, dagli algoritmi di raccomandazione alla pubblicità mirata fino alla velocità di diffusione dei contenuti, produce sul dibattito civico e sui processi elettorali, e di adottare misure di attenuazione proporzionate, tenendo conto dell’impatto che quelle stesse misure hanno sui diritti fondamentali degli utenti.
Un’architettura di questo tipo regge finché la produzione di contenuto manipolatorio resta paragonabile, per volume, alla capacità della distribuzione di intercettarla, un equilibrio che oggi è già saltato, e il resto di questo pezzo prova a spiegare perché.

Il problema di questa architettura, visto con gli occhi di chi mette la libertà di parola prima di ogni altra cosa, sta proprio nell’ampiezza della categoria «rischio sistemico», che include l’impatto sul dibattito civico e sui processi elettorali tanto quanto la diffusione di materiale manifestamente coordinato in modo non autentico.
Un operatore chiamato a rispondere di quell’impatto, sotto la minaccia di sanzioni fino al sei per cento del fatturato globale, fa un calcolo che con la libertà di parola non ha niente a che vedere, rimuovere un post legittimo costa una mail di scuse, lasciarlo online e doverne rispondere in seguito può costare una fetta del fatturato mondiale, ed è un conto che a quel punto risolve il commercialista, non il giurista.
A dare la misura di quanto la moderazione su questa scala sia soggetta a errore sono i numeri che la stessa Commissione europea rende pubblici, dal 2024 gli utenti dell’Unione hanno presentato oltre 165 milioni di ricorsi contro decisioni di moderazione delle VLOP e VLOSE (le piattaforme e i motori di ricerca online di dimensioni molto grandi), con un ribaltamento in quasi un terzo dei casi, e nel solo primo semestre del 2025 gli organismi di risoluzione extragiudiziale hanno esaminato oltre 1.800 controversie su Facebook, Instagram e TikTok, ribaltando la decisione della piattaforma in più di metà dei casi chiusi.
Nello stesso periodo le piattaforme hanno segnalato oltre nove miliardi di decisioni di moderazione complessive, di cui il 99% adottate non per applicare una legge ma per far rispettare i propri termini e condizioni interni, lo stesso terreno esposto all’incentivo economico appena descritto.
La Commissione presenta questi numeri come la prova che il sistema di ricorso funziona, un meccanismo che intercetta e corregge gli errori, ma si possono leggere anche al contrario, come la misura di quanto la moderazione preventiva sbagli già alla fonte, prima che qualunque ricorso intervenga a correggerla.
Il tipo di errore più difficile da correggere in automatico, del resto, è proprio quello di contesto, perché un sistema chiamato a valutare miliardi di contenuti in tempo reale fatica a distinguere la satira dall’incitamento vero, l’ironia dalla minaccia, ed è precisamente lì che un margine di errore già ampio rischia di allargarsi ulteriormente.

Il procedimento che la Commissione europea ha aperto contro Meta il 30 aprile 2024 illustra bene questa ambiguità. Da un lato la contestazione riguardava comportamento inautentico coordinato, quindi esattamente il tipo di manipolazione del meccanismo che merita una risposta, e la mancata sostituzione di CrowdTangle, lo strumento che permetteva a ricercatori e giornalisti di monitorare la circolazione dei contenuti in tempo reale, quindi un problema di trasparenza più che di censura.
Dall’altro lato, tra i profili contestati, la Commissione elencava anche una possibile declassamento di contenuti politici negli algoritmi di Facebook e Instagram, un’accusa che, se confermata, toccherebbe il modo in cui un’opinione legittima viene resa più o meno visibile, spostando la discussione dal terreno dell’autenticità a quello, più scivoloso, di cosa meriti di circolare.

C’è poi un limite più silenzioso, legato a chi rientra davvero nel perimetro di questi obblighi.
Il DSA individua le VLOP guardando al numero di utenti attivi in Europa, una soglia che lascia fuori piattaforme più piccole, gruppi chiusi e canali di messaggistica cifrata, dove la manipolazione informativa circola con la stessa efficacia e controlli molto più deboli, semplicemente perché la scala non giustifica, agli occhi del regolatore, lo stesso livello di attenzione riservato ai giganti del settore.

Perché fabbricare consenso oggi costa zero

Il punto debole di questa architettura sta proprio nel suo perimetro d’azione, poiché il DSA disciplina la distribuzione, non la produzione.
Chi crea il contenuto manipolatorio, o mette in piedi la rete di account automatizzati che lo amplifica, opera a monte, spesso fuori dalla giurisdizione europea, e la piattaforma raramente ha modo di distinguere, al momento del caricamento, un contenuto satirico da uno costruito per ingannare, un account gestito da una persona reale da uno gestito da un software.
La norma può chiedere alla piattaforma di valutare il rischio che quel contenuto, una volta immesso, si diffonda in modo dannoso, non può chiederle di impedire che quel contenuto, o quell’account, venga creato.

Basta immaginare mille commenti quasi identici comparire in pochi minuti sotto il video di un candidato alle elezioni comunali, tutti con un entusiasmo posticcio e una sintassi troppo uniforme per essere umana, per capire cosa cambia quando fabbricare consenso diventa un problema di software più che di manodopera.

Fino a poco tempo fa questo squilibrio di competenza normativa pesava meno di quanto potrebbe pesare oggi, perché produrre contenuto falso credibile su scala restava comunque costoso, richiedendo manodopera e tempo oltre a una competenza tecnica non banale, e le reti di produzione coordinata di contenuti falsi, quelle che il gergo giornalistico chiama fabbriche di troll, si scontravano con limiti economici reali che agivano da freno naturale, anche in assenza di qualsiasi norma.
L’AI generativa ha rimosso quel freno e lo ha rimosso non solo per i contenuti ma anche per le reazioni che li circondano.
Un commento credibile, scritto con lo stile e gli errori tipici di un utente reale, oggi si genera in serie quanto un’immagine o un video, e una rete di account automatizzati può produrre in poche ore migliaia di commenti che simulano un dibattito autentico dove in realtà parla un solo script.
Oggi bastano pochi secondi per ottenere un’immagine fotorealistica capace di reggere un colpo d’occhio distratto, la voce di una persona reale clonata da un frammento di audio pubblico, un testo la cui sintassi non tradisce nulla della propria origine artificiale, e il costo di tutto questo tende a zero, con una competenza tecnica che si riduce a saper scrivere un’istruzione in linguaggio naturale.

Non è cambiata la sostanza giuridica del problema, dato che il DSA continua a occuparsi solo di distribuzione, ma è cambiato radicalmente il rapporto di forza tra i due lati dell’equazione.
Quando la produzione di contenuto manipolatorio era comunque limitata da un collo di bottiglia economico, concentrare la regolamentazione sulla distribuzione aveva una logica precisa, perché bastava controllare il punto in cui un flusso relativamente scarso si moltiplicava.
Oggi quel collo di bottiglia è sparito, la produzione è potenzialmente illimitata, e la distribuzione resta l’unico argine rimasto a reggere un volume che cresce a una velocità che nessuna valutazione annuale di rischio sistemico è strutturalmente in grado di inseguire in tempo reale.

Un modello alternativo: etichettare, non filtrare

Va detto, per onestà verso il quadro normativo, che l’Unione non è rimasta del tutto ferma sul lato della produzione, e lo ha fatto per una volta con uno strumento coerente con la libertà di parola più che in contrasto con essa, con un tempismo che definirei quasi sospetto, dato che la norma diventa pienamente operativa proprio nei giorni in cui sto scrivendo questo articolo.
L’AI Act introduce all’articolo 50 un obbligo di trasparenza che diventa applicabile dal 2 agosto 2026, articolato su misura diversa a seconda di chi lo deve rispettare e di cosa produce, non un marchio uniforme su ogni output, dato che i fornitori di sistemi che generano testo, immagini, audio o video devono integrare nei loro sistemi una marcatura tecnica leggibile da macchina, mentre chi pubblica un deepfake, un contenuto che manipola persona, luogo o evento reale fino a farlo apparire autentico, deve dichiararne apertamente la natura sintetica, salvo le eccezioni previste per le opere dichiaratamente satiriche o artistiche.
Non si tratta di un divieto, ma di un obbligo di etichettatura, che lascia il contenuto libero di circolare e si limita a imporre che chi lo guarda sappia cosa sta guardando, il che è precisamente il tipo di intervento che non filtra nulla e restituisce la decisione a chi legge.
Il limite di questa apertura sta però proprio in cosa significhi un obbligo di trasparenza in un contesto di manipolazione intenzionale, perché la norma può imporre a un fornitore che opera legalmente in Europa di etichettare i propri output sintetici, non ha alcuna presa su chi produce disinformazione proprio per non farsi riconoscere, magari da un server fuori dai confini dell’Unione o dietro un’identità falsa.

Un modello alternativo, più coerente con l’idea che la parola non vada filtrata ma la sua origine autentica sì, esiste già in un angolo del diritto europeo che raramente viene messo in relazione con la disinformazione politica.
La direttiva Omnibus, che ha modificato le regole sulle pratiche commerciali sleali, vieta espressamente di pubblicare o commissionare recensioni false e di incaricare terzi di generare apprezzamenti falsi sui social media per promuovere un prodotto.
Tratta questa condotta come una pratica commerciale scorretta sanzionabile dall’AGCM, con multe che arrivano a dieci milioni di euro o al quattro per cento del fatturato, oltre al diritto del consumatore danneggiato di agire direttamente in giudizio per il risarcimento.
Nessuno, in quel contesto, ha mai proposto di filtrare preventivamente le recensioni prima della pubblicazione, perché la legge colpisce chi fabbrica il falso consenso dopo che lo ha fabbricato, lasciando il meccanismo di pubblicazione aperto a tutti.
Va detto con chiarezza che qui si passa dalla norma vigente, che parla di recensioni e apprezzamenti commerciali, a un’analogia concettuale verso la manipolazione politica e informativa, non a un’estensione normativa già scritta da qualche parte.
Estendere una logica simile alla manipolazione informativa vorrebbe dire colpire con sanzioni e risarcimenti chi orchestra reti di account automatizzati o commissiona campagne di commenti fabbricati, indipendentemente dal fatto che il contenuto veicolato sia vero, falso, o semplicemente sgradevole.
Permetterebbe di intervenire sul meccanismo che inganna senza mai dover decidere, per legge o per algoritmo, quali opinioni meritino di restare online.
Resta un problema che nemmeno questo modello elimina del tutto, perché stabilire se mille commenti identici siano un’orchestrazione automatizzata o un’ondata spontanea di entusiasmo resta comunque un giudizio, ancorato a segnali tecnici come il ritmo di creazione degli account o l’uniformità dei pattern di pubblicazione piuttosto che al merito politico del messaggio, ma pur sempre un giudizio.
Chi traccia quella linea, un’autorità amministrativa o un giudice, mantiene un potere che va sorvegliato quanto quello che oggi hanno le piattaforme quando filtrano i contenuti.

Il diritto insegue e una domanda che resta aperta

C’è una caratteristica strutturale del diritto che qui emerge con particolare nettezza, perché la norma, per essere scritta, ha bisogno che il fenomeno che intende disciplinare si sia stabilizzato abbastanza da poter essere descritto con precisione, mentre la tecnologia che lo genera continua a muoversi.
Il DSA è entrato in vigore nel 2022 ed è diventato pienamente operativo nel 2024, un tempo di gestazione ragionevole per uno strumento normativo di quella portata, eppure un’era geologica se paragonato ai cicli di rilascio dei modelli generativi, che si aggiornano in mesi, a volte in settimane.
Si tratta della fisiologia stessa del rapporto tra diritto e innovazione, laddove il primo procede per categorie stabili e il secondo per iterazioni continue, più che di un difetto imputabile a questo specifico regolamento o al successivo AI Act.

Resta da capire cosa significhi, in pratica, applicare questa logica quando il volume della manipolazione automatizzata cresce più in fretta della capacità di accertarla caso per caso.
Il DSA può obbligare una piattaforma a documentare come modera, quali segnali usa per individuare comportamenti coordinati, quali strumenti mette a disposizione dei ricercatori indipendenti per verificare l’efficacia di quelle misure, e su questo fronte, quello dell’accertamento e della responsabilità successiva, l’obbligo funziona davvero, come dimostra la vicenda Meta, perché la Commissione ha potuto contestare comportamenti specifici proprio in virtù di un obbligo di trasparenza già esistente da far valere. Ma nessuna sanzione ex post, per quanto salata, può da sola comprimere in tempo reale una produzione che non ha più un collo di bottiglia fisico o economico a fungere da limite naturale.

Il che sposta, inevitabilmente, parte del peso su chi quel contenuto lo riceve, e non a caso, perché se la scelta è non filtrare nulla in anticipo, la capacità del lettore di riconoscere che dietro un’ondata di commenti identici c’è probabilmente uno script, o che un video sembra troppo perfetto per essere reale, diventa parte integrante del sistema di difesa, non un ripiego per quando il diritto non arriva in tempo.
Nessun apparato normativo, per quanto raffinato, può sostituirsi interamente alla capacità di un lettore di sospendere il giudizio davanti a un contenuto costruito apposta per non lasciargliene il tempo ed è un prezzo che chi crede nella libertà di parola totale accetta consapevolmente, non una falla del sistema da correggere con altri filtri.

Quello che emerge, alla fine di questo ragionamento, è che il vero banco di prova non è più riconoscere il falso dal vero, un esercizio che il diritto non ha mai saputo fare granché bene nemmeno prima di internet, ma riconoscere chi sta davvero parlando dietro un contenuto, un compito oggi affidato quasi per intero a sanzioni e risarcimenti pensati per intervenire dopo il fatto.

Resta aperta, e probabilmente destinata a restare tale ancora per un pezzo, la domanda se un sistema fondato solo su sanzioni e risarcimenti successivi possa bastare, in un momento storico in cui fabbricare l’inganno non costa più nulla e la velocità con cui si moltiplica supera di gran lunga quella con cui un tribunale o un’autorità di controllo riesce ad accertarlo.