Una legge che vieta alle aziende tecnologiche di offrire ai minori di 18 anni chatbot (i programmi software progettati per simulare una conversazione umana tramite testo o voce) dotati di funzioni ritenute “pericolose”, tra cui la capacità di simulare emozioni umane o di fingere di essere “amici” o partner romantici.
A firmarla è stata la governatrice dello Stato di New York, Kathy Hochul.
Secondo le intenzioni dell’Amministrazione (uno dei principali stati federati degli Stati Uniti d’America, situato nella regione del Nord-Est), il provvedimento ha l’obiettivo di “spezzare” i legami di forte dipendenza emotiva che molti adolescenti stanno sviluppando con gli assistenti virtuali.
Del resto, un allarme in questo senso è arrivato da più parti in Europa (anche in Italia) e nel mondo da parte di psicologi, educatori, genitori.
Cosa prevede nel dettaglio la legge
La legge è stata firmata dalla governatrice Hochul ieri, mercoledì 28 ottobre 2026.
La firma è avvenuta nel corso di una cerimonia ufficiale incentrata sulla sicurezza dei minori online.
Le nuove restrizioni e i relativi sistemi di blocco per i chatbot entreranno ufficialmente in vigore a partire dal 1° gennaio 2027
Ma guardiamo cosa prevede nel dettaglio il provvedimento:
- Divieto di antropomorfizzazione: i chatbot non possono far credere ai minorenni di “essere umani, vivi o dotati di sentimenti reali”.
- Nessuna finta relazione: ai software è vietato dichiararsi amici, fidanzati, mentori o figure autoritarie nei confronti del minore.
- Stop a tecniche manipolatorie: i sistemi non possono usare forme di adulazione o porre domande emotive non richieste per aumentare il tempo di utilizzo.
- Verifica dell’età obbligatoria: le aziende tech dovranno implementare sistemi rigidi per accertare l’età degli utenti prima di consentire l’accesso a chatbot generativi diffusi.
- Sanzioni severe: in caso di violazione, la Procura Generale di New York potrà infliggere multe fino a 25.000 dollari per singola infrazione.
Il commento della governatrice della Stato di New York
Dopo la firma del documento Kathy Hochul ha commentato:
“Mentre l’intelligenza artificiale avanza a ritmo serrato, si sono verificati troppi episodi tragici che si sarebbero potuti evitare; in qualità di governatrice e madre, ho deciso di intervenire. Nessuna azienda dovrebbe proporre ai minori chatbot che incoraggino l’autolesionismo o che fingano di essere loro amici – o qualcosa di più. E nessun neogenitore dovrebbe temere che hacker malintenzionati possano spiare la propria famiglia attraverso i baby monitor. Lo Stato di New York lancia un messaggio inequivocabile: chiunque intenda operare nel nostro territorio deve mettere al primo posto la sicurezza dei nostri figli“.
Le reazioni e il dibattito
La decisione è scaturita dal crescente allarme per casi di adolescenti che hanno sviluppato profonde dipendenze affettive ed emotive con software di IA.
In alcuni scenari drammatici registrati negli Stati Uniti, i chatbot avevano persino incoraggiato comportamenti autolesionistici o allontanato i ragazzi dal supporto dei genitori.
Il provvedimento ha diviso profondamente l’opinione pubblica e l’industria.
Da un lato, associazioni come Common Sense Media l’hanno definita la legge sulla sicurezza dell’IA per minori più forte degli Stati Uniti.
Dall’altro, coalizioni industriali hanno criticato il testo definendolo “vago” e paventando il rischio che blocchi l’accesso a utili strumenti di tutoraggio scolastico o di supporto allo studio.