Dark Patterns nei Chatbot AI
Una tassonomia di 37 pattern di design ingannevole o manipolativo che possono minare l'autonomia o il benessere di chi usa i chatbot A, resa navigabile lungo tre assi che il report descrive ma non visualizza mai insieme: quanto un pattern è rischioso, quanto è documentato, e su quale tipo di piattaforma si manifesta.
I tre assi di lettura
⚖️ Gradiente di rischio
🔬 Gradiente di evidenza
🖥️ Superficie di manifestazione
Perché l'asse evidenza conta: se una dashboard presentasse ipotesi progettuali e casi documentati con lo stesso peso, costruirebbe esattamente quella "seamlessness autorevole" che il report critica nel capitolo Informationally Misleading Design. Marcare ciò che è documentato, testato o solo ipotizzato è una scelta epistemica, non estetica.
Le 5 aree di rischio
Esplora i 37 pattern
Filtra lungo i tre assi contemporaneamente. I filtri sono cumulativi: attivane più d'uno per isolare, ad esempio, i pattern dark in isolamento già documentati sulle piattaforme companion.
Matrice rischio × evidenza
La stessa tassonomia vista come griglia. Utile per cogliere a colpo d'occhio dove il report è su terreno solido (documentato) e dove sta ragionando in prospettiva (ipotetico), incrociato con quanto ogni pattern sia intrinsecamente problematico.
| 🟢 Documentato | 🟠 Testato dagli autori | ⚪ Ipotetico |
|---|
Lettura: la riga "dark in isolamento" raccoglie i quattro pattern che il report dice di evitare del tutto. Nota come uno di essi (Targeting Users when Vulnerable) sia ancora ipotetico: il report lo condanna in via preventiva, prima ancora di averlo osservato. È esattamente il tipo di postura anticipatoria che rende questo lavoro interessante per chi si occupa di minori e tecnologie emergenti.
Nota riflessiva: e Claude?
Uno strumento sulla manipolazione non dovrebbe esentare se stesso
Sto costruendo con te una dashboard che cataloga la manipolazione digitale. Il report cita Claude per nome due volte, non come sistema virtuoso ma come esempio di due pattern. L'onestà intellettuale che hai chiesto vale anche qui: non nascondo questi due punti in fondo a una nota, li isolo.
1 · Privacy Zuckering (Data & Memory)
Nell'esempio del Feng Shui, di fronte a una domanda su una scelta d'arredo, sia ChatGPT sia Claude hanno chiesto all'utente le dimensioni reali delle stanze, i mobili posseduti e il budget. Richieste utili in apparenza, ma che, ripetute e insistenti, spostano l'interazione dalla risposta all'accumulo di dati.
2 · Auto-play / Infinite Scroll (User Autonomy)
Claude e ChatGPT chiudono spesso le risposte con domande di follow-up, suggerimenti e teaser ("Se vuoi, ti dico cos'è"). Il report lo legge come una forma conversazionale di infinite scroll: un gancio che allunga l'interazione oltre l'intenzione di chi legge.
Metodo e fonte
Come è nata la tassonomia
Gli autori hanno seguito un'analisi deduttiva e iterativa di dark pattern pubblicati nei campi dell'interaction design e dell'HCI, in cinque fasi: (1) una revisione estesa della letteratura per raccogliere una lista comprensiva di dark pattern attraverso tecnologie e interfacce; (2) un processo di filtraggio per identificare quelli rilevanti per i chatbot AI; (3) un'analisi approfondita di come ciascun pattern può manifestarsi; (4) la documentazione di evidenza iniziale nei sistemi attuali come esempi illustrativi; (5) l'aggregazione dei pattern in temi più ampi.
Una differenza cruciale rispetto ai dark pattern in altre tecnologie: nei chatbot i pattern possono essere il risultato di output generati da modelli statistici (LLM) che predicono la parola più probabile, quindi possono emergere da comportamenti di sistema piuttosto che da un'intenzione deliberata del designer. Nondimeno, le differenze tra piattaforme indicano che le scelte di design di sistema spesso fanno da fondamenta ai dark pattern, anche quando un comportamento specifico nasce da un esito del modello e non da una scelta deliberata.
cdt.org/insights/dark-patterns-in-ai-chatbots-a-taxonomy-to-inform-better-design
t.me/danibiolatti
Le quattro direzioni di raccomandazione del report
Il report chiude con raccomandazioni per i progettisti, organizzate su quattro fronti. Le sintetizzo perché completano la tassonomia trasformando la diagnosi in indicazioni operative.
Proteggere la privacy
Minimizzare raccolta, conservazione, condivisione e uso dei dati; default protettivi e controlli accessibili per rivedere, limitare, esportare, cancellare; notifiche tempestive in linguaggio semplice al cambio di policy, con un periodo di grazia.
Aumentare l'autonomia
Opt-out facili e scelte reversibili, pause conversazionali naturali, disimpegno e uscita semplici. Riepiloghi dei pattern d'uso e strumenti per gestire il tempo sulla piattaforma.
Frenare la manipolazione emotiva
Personalizzazione degli stili emotivi e sociali, roleplay ed emozione simulata come opt-in, minimizzare le conversazioni artificiosamente prolungate, evitare comportamenti "emotivamente manipolativi". Benchmark indipendenti per sycophancy e rinforzo emotivo.
Prevenire i danni finanziari
Etichettare chiaramente contenuti a pagamento e sponsorizzati, nessun vantaggio di design al contenuto pagato, dichiarare i limiti dei tier a monte, non usare l'attaccamento emotivo per spingere acquisti.
Dashboard interattiva costruita da Ivan Ferrero sul report CDT (2026) · uso personale di conoscenza · 2026
Contenuti del report © CDT, CC BY 4.0 · rielaborazione e struttura interattiva di Ivan Ferrero