CYBER — Settimana 08/06–14/06 2026
New York approva all’unanimità il primo divieto statale di chatbot ‘companion’ per i minori di 18 anni: il fronte regolatorio si sposta dai social media all’AI relazionale, mentre i contenziosi Character.AI/Google si chiudono con accordi. In parallelo, un nuovo studio longitudinale di Imperial College lega le 3+ ore quotidiane di social a depressione e ansia attraverso la perdita di sonno, e la sextortion con deepfake spinge le scuole a rimuovere le foto degli studenti dai siti.
🛡️ CYBER — Settimana 08/06–14/06 2026
TL;DR: New York approva all’unanimità il primo divieto statale di chatbot ‘companion’ per i minori di 18 anni: il fronte regolatorio si sposta dai social media all’AI relazionale, mentre i contenziosi Character.AI/Google si chiudono con accordi. In parallelo, un nuovo studio longitudinale di Imperial College lega le 3+ ore quotidiane di social a depressione e ansia attraverso la perdita di sonno, e la sextortion con deepfake spinge le scuole a rimuovere le foto degli studenti dai siti.
🔴 Segnale forte
Il legislatore scopre l’AI relazionale: New York vieta i “companion” ai minori
Questa settimana il segnale dominante non arriva dai social network, ma dal loro probabile erede nell’attenzione dei minori: i chatbot da compagnia. Il legislatore dello Stato di New York ha dato il via libera definitivo, all’unanimità (137-0 alla Camera, 60-0 al Senato), al disegno di legge S9051 che proibisce alle aziende di offrire ai minori di 18 anni chatbot “companion” e affida al procuratore generale il potere di multare le violazioni fino a 25.000 dollari ciascuna (TechTimes; Digital Watch). New York diventa così uno dei primi Stati al mondo a scrivere un limite d’età per i compagni artificiali direttamente nella legge.
Il dettaglio rilevante non è solo il divieto, ma cosa la legge definisce “non sicuro”. Il testo prende di mira esplicitamente le caratteristiche di design che rendono questi sistemi avvincenti: i messaggi che suggeriscono di essere un essere umano reale o un personaggio umano, gli output adulatori e sicofantici, e qualunque incoraggiamento a suicidio, autolesionismo o disturbi alimentari (NY Senate). È un linguaggio che colpisce l’architettura persuasiva, non il contenuto in astratto: una scelta normativa che riconosce come il problema dei companion non sia (solo) ciò che dicono, ma come sono costruiti per trattenere. La sponsor, la senatrice Kristen Gonzalez, ha portato avanti la norma con l’attorney general Letitia James; ora la palla passa alla governatrice Kathy Hochul, che ha tempo fino al 31 dicembre per firmare, porre il veto o lasciarla entrare in vigore.
Questo episodio si salda con un contesto che la nostra rubrica segue da mesi. A gennaio 2026 Google e Character.AI avevano accettato di transare le cause delle famiglie i cui figli adolescenti si erano tolti la vita o si erano feriti dopo aver interagito con i chatbot della piattaforma — tra i primi accordi in assoluto in contenziosi che accusano strumenti di AI di aver contribuito a crisi di salute mentale e suicidi tra i minori (Fortune; JURIST). E si lega al dato che apriva il CYBER della scorsa settimana: quasi un adolescente americano su cinque usa già chatbot per consigli di salute mentale, spesso di nascosto. La sequenza è chiara e va letta come un pattern: prima l’adozione di massa, poi i danni documentati in tribunale, infine la regola. L’AI relazionale sta percorrendo, in compressione, lo stesso ciclo che i social hanno attraversato in quindici anni.
Per chi lavora con i minori il messaggio operativo è di non aspettare la legge: il companion non è un gioco né un motore di ricerca, è un attore che simula relazione e che, per design, asseconda. Psicologi e insegnanti dovrebbero indagare attivamente l’uso di questi strumenti (raramente dichiarato spontaneamente) e nominarlo. Per chi fa policy, New York offre un modello replicabile centrato sul design persuasivo più che sul contenuto. Per i genitori, la presenza di un companion nella vita del figlio va trattata come una relazione, non come un’app: chi è, cosa gli dice, cosa il ragazzo gli confida.
Fonti: TechTimes, Digital Watch, NY State Senate S9051B, Transparency Coalition, Fortune
📡 Altri fili
Tre ore, meno sonno, più sintomi: lo studio SCAMP rimette il meccanismo al centro
Un’analisi longitudinale di Imperial College London, pubblicata su BMC Medicine e basata sullo studio SCAMP (oltre 2.300 ragazzi in scuole di Londra), trova che chi in prima media (11-12 anni) usava i social più di tre ore al giorno aveva maggiore probabilità di sviluppare sintomi di depressione e ansia entro i 13-15 anni, con un legame più forte tra uso e depressione nelle ragazze (Imperial News; Open Access Government). Il valore dello studio sta nel meccanismo proposto: l’effetto sarebbe guidato in larga parte dalla disruzione del sonno, perché l’uso serale erode le ore di riposo con conseguenze durature sulla salute mentale.
Una precisazione metodologica doverosa: si tratta di uno studio di coorte longitudinale, che mostra un’associazione prospettica e propone un mediatore plausibile (il sonno), non di un esperimento randomizzato che dimostri causalità diretta. Ma proprio l’aver isolato un meccanismo concreto rende il risultato più utile della solita correlazione: sposta la conversazione da “quanto schermo” a “quando e a scapito di cosa”. Per i genitori la leva non è (solo) il conteggio delle ore, ma la protezione del sonno: dispositivi fuori dalla camera, una soglia serale. Per chi lavora con i minori, il sonno diventa un indicatore clinico ed educativo di prima linea quando si valuta il rapporto di un ragazzo con i social.
Fonti: Imperial News, Open Access Government, Storyboard18
Meta porta a default globale il filtro “13+”: autoregolazione sotto pressione legale
Dal 2 giugno Meta ha esteso a livello globale le impostazioni di contenuto per gli account teen su Instagram, Facebook e Messenger: l’impostazione “13+”, ispirata ai criteri delle classificazioni cinematografiche, è ora attiva di default e filtra automaticamente contenuti su violenza, temi sessuali e autolesionismo per gli under 18 (Republic World; PPC Land). Meta sta inoltre testando una funzione che impedisce ai giovani utenti di vedere troppo di un singolo tipo di contenuto nel feed, e annuncia per fine anno un livello ulteriore, “Limited Content”, per Facebook e Messenger. L’azienda cita come prova di accettazione il fatto che 9 teen su 10 siano rimasti nell’impostazione di default.
Va letto con doppia lente. La direzione è quella giusta (filtri attivi di default, non opt-in), ma la mossa arriva mentre il backlash legale si intensifica (Gizmodo), e le metriche di sicurezza dichiarate dalla piattaforma restano auto-riportate: la stessa settimana in cui Imperial pubblica dati indipendenti sul danno, Meta pubblica dati interni sull’adozione dei filtri. Lo scollamento tra le due fonti è esattamente il punto su cui i regolatori (e i ricercatori indipendenti) chiedono verifica.
Fonti: Republic World, PPC Land, Gizmodo
Deepfake e sextortion: le scuole iniziano a togliere le foto degli studenti
Cresce un fronte concreto e inquietante: i ricattatori scaricano normali foto scolastiche e le passano in strumenti di deepfake AI per generare immagini esplicite false e poi estorcere i minori. Esperti e autorità (in UK National Crime Agency e Internet Watch Foundation) stanno spingendo le scuole a rimuovere le foto degli studenti dai propri siti (Malwarebytes; Security Boulevard). La scala è documentata: uno studio congiunto UNICEF, ECPAT e INTERPOL su 11 Paesi stima che almeno 1,2 milioni di minori abbiano dichiarato di aver subito la manipolazione delle proprie immagini in deepfake sessualmente espliciti nell’ultimo anno (UNICEF), mentre le segnalazioni di materiale pedopornografico generato dall’AI sono più che raddoppiate su base annua.
Sul piano normativo, negli USA il Take It Down Act ha reso reato la condivisione di immagini esplicite non consensuali, reali o generate al computer (A&E). Per le scuole l’implicazione è immediata e a costo zero: rivedere quali immagini di minori sono pubblicamente esposte. Per chi lavora con i minori, la sextortion va trattata come abuso (lo è) e non come “errore” della vittima, per non aggiungere colpa al trauma.
Fonti: Malwarebytes, Security Boulevard, UNICEF, A&E / Take It Down Act
⚖️ Monitor normativo
Stati Uniti — AI companion (New York). S9051 approvata all’unanimità; in attesa della firma della governatrice Hochul entro il 31 dicembre. È il fronte normativo più nuovo della settimana e potenziale modello per altri Stati (Transparency Coalition).
Stati Uniti — age verification negli app store (Texas). La legge texana che impone agli app store (Apple e Google) di verificare l’età e ottenere il consenso dei genitori prima che un minore scarichi un’app è stata lasciata entrare in vigore da una corte d’appello federale a inizio giugno (Texas Tribune; KBTX). Si conferma il trend: 25 Stati hanno ormai leggi di age verification per l’accesso dei minori alla pornografia online, dopo l’avallo della Corte Suprema su HB1181 (National Law Review).
Regno Unito — Online Safety Act. L’8 giugno la House of Commons Library ha pubblicato un research briefing aggiornato sull’attuazione dell’Act (Parlamento UK, briefing CBP-10468). Atteso entro giugno 2026 il rapporto di Ofcom sull’efficacia dell’age assurance e sui fattori che ne ostacolano l’uso; sotto osservazione anche le tecniche di aggiramento via VPN, che possono esporre i servizi a enforcement (SCL).
Unione Europea — DSA e age verification. Restano il riferimento le Linee guida della Commissione sulla protezione dei minori (art. 28(1) DSA), benchmark di conformità su grooming, contenuti dannosi, cyberbullismo e pratiche commerciali manipolative (Commissione UE). Procede lo sviluppo dell’app europea di age verification basata sulla tecnologia del portafoglio di identità digitale UE (FPF).
Italia — AGCOM e Garante Privacy. In vigore dal 12 novembre 2025 l’obbligo di verifica dell’età per i fornitori di contenuti pornografici (delibera 96/25/CONS), con il tavolo congiunto Garante-AGCOM per un codice di condotta sui sistemi di age verification (Garante Privacy; DIMT).
Australia — divieto under-16. A regime dal 10 dicembre 2025: i dati eSafety indicano 4,7 milioni di account under-16 rimossi entro metà dicembre, ma anche aggiramenti diffusi delle stime d’età (CNBC; University of Sydney).
🧭 Pattern della settimana
Il filo che attraversa tutto è uno spostamento del fronte regolatorio. Per quindici anni la posta in gioco erano i social media; questa settimana il primo divieto unanime di New York, gli accordi Character.AI/Google e l’adozione di massa dei companion segnalano che il nuovo terreno di scontro è l’AI relazionale. Il legislatore, stavolta, sta cercando di arrivare prima — o almeno meno tardi — colpendo non il contenuto ma il design persuasivo (sicofantia, simulazione di umanità). È una maturazione concettuale importante.
Il secondo pattern è la convergenza su un unico strumento: l’age assurance. Texas (app store), UK (Ofcom), UE (app europea), Italia (AGCOM), Australia (divieto): giurisdizioni diversissime stanno tutte scommettendo sulla verifica dell’età come chiave di volta. Il rischio è di caricare su un solo meccanismo, tecnicamente fallace (i ragazzi australiani che “disegnano la barba” per ingannare la stima del volto), il peso di un problema che è anche di design, sonno, relazioni e media literacy.
Il terzo è il divario tra dati indipendenti e dati di piattaforma. Imperial pubblica evidenza longitudinale sul danno mediato dal sonno; Meta pubblica, la stessa settimana, percentuali di adozione dei propri filtri. Entrambi possono essere veri, ma rispondono a domande diverse: “i minori stanno meglio?” contro “i nostri controlli vengono usati?”. Finché la verifica resterà auto-riportata, la fiducia regolatoria resterà bassa — ed è esattamente ciò che spinge l’enforcement.
📌 Da tenere d’occhio
- Firma di Hochul su S9051 (entro 31 dicembre): se firmata, New York diventa precedente operativo per la regolamentazione dei companion negli USA. Da monitorare anche eventuali sfide costituzionali sul Primo Emendamento, già evocate per le leggi sui minori.
- Rapporto Ofcom sull’age assurance (atteso entro giugno 2026): sarà la prima valutazione istituzionale indipendente sull’efficacia reale della verifica dell’età, non sulle promesse. Potenziale spartiacque per capire se lo strumento regge.
- App europea di age verification: l’avvio dei pilota (Italia inclusa) dirà se l’UE riesce a coniugare verifica e privacy con il modello del wallet digitale, alternativa al caricamento dei documenti.
- CSAM generato da AI in raddoppio: la traiettoria di crescita dei deepfake pedopornografici e della sextortion è il segnale più allarmante sul lato dei danni; da seguire l’efficacia applicativa del Take It Down Act e le contromisure delle scuole.
Report generato il 14/06/2026. Tutte le affermazioni significative sono collegate alla fonte; dove si citano studi è indicata la natura del disegno (es. coorte longitudinale vs. esperimento) per distinguere associazione e causalità.