Durante il discorso sullo stato dell’Unione pronunciato lo scorso 16 settembre, la presidente della Commissione europea Ursula von der Leyen ha annunciato una nuova proposta di regolamento europeo – il cosiddetto “EU Kids Act” – che avrà lo scopo di rendere più sicuro il mondo online per i minori.

Nonostante l’attenzione si sia focalizzata soprattutto sull’introduzione di divieti e limiti all’utilizzo dei social network da parte dei minori, l’EU Kids Act ha una portata più ampia, e prevede regole applicabili anche alle piattaforme di condivisione video, ai videogiochi online, agli app store e agli assistenti basati su AI (i cosiddetti “AI Companion”).

Per quanto riguarda i divieti, a essere interessati sono i social network e le piattaforme di condivisione video. Secondo le nuove regole, ci sarebbe un divieto assoluto di creazione di account per utenti di età inferiore ai 13 anni (con eccezioni limitate alle piattaforme video specificamente pensate per i minori, soggette, comunque, a misure di sicurezza, e in ogni caso non accessibili ai minori di 3 anni), mentre per i minori fra i 13 e i 15 anni sarebbe possibile creare degli account con funzionalità limitate.

Questi account sarebbero infatti creati dai genitori o tutori dei minori, e dotati di meccanismi di protezione (ad esempio, strumenti controllo parentale sempre attivi, limiti di utilizzo massimo, sistemi di pre-approvazione dei nuovi contatti). Per la loro attivazione, le piattaforme dovranno verificare non soltanto l’età dell’utente, ma anche la responsabilità genitoriale di chi crea l’account.

E qui veniamo al primo importante nodo del regolamento, dal quale dipenderà gran parte dell’efficacia delle regole che la Commissione europea vorrebbe introdurre: l’efficacia dei meccanismi di verifica dell’età. Il problema principale riscontrato finora nel riuscire a garantire un’adeguata sicurezza dei minori online è infatti legato alla difficoltà di individuare dei sistemi in grado di verificare adeguatamente l’età degli utenti, nel rispetto delle regole sulla privacy e la sicurezza. Per questa ragione, solo pochi mesi fa la stessa Ursula von der Leyen aveva annunciato l’arrivo dell’app europea per la verifica dell’età, che si era però rivelata molto presto meno sicura di quanto avrebbe dovuto.

La proposta di regolamento non fa riferimento all’app, ma parla di meccanismi di verifica dell’età certificati o che comunque rispondano a requisiti di sicurezza bene identificati. Il punto sarà capire se meccanismi di questo tipo saranno effettivamente messi in piedi o no. Ad esempio, in Australia – il primo Paese al mondo ad avere introdotto un divieto per l’utilizzo dei social da parte dei minori di 16 anni alla fine dello scorso anno (e ad avere aperto il vaso di Pandora sul tema) – i primi dati dimostrano che la maggior parte degli adolescenti riesce facilmente ad aggirare i sistemi di verifica esistenti e continua a usare i social nonostante l’introduzione del divieto.

Un altro tema interessante è la differenza di approccio verso i social network e i cosiddetti AI Companion. Tutti i servizi interessati dall’EU Kids Act, compresi gli AI Companion, dovranno infatti essere progettati in modo sicuro, cioè evitando tutte le funzionalità potenzialmente dannose per i minori, con alcune misure specifiche a seconda della natura servizio (ad esempio, gli obblighi sulla limitazione all’utilizzo o il divieto di meccanismi potenzialmente dannosi per la salute mentale nel caso dei social network). Per gli AI Companion, però, non è previsto alcun divieto di accesso basato sull’età.

In altre parole, anche i minori di 13 anni potranno avere accesso a questi strumenti, anche se con meccanismi di controllo parentale. Per tutti gli utenti minori dovranno inoltre essere adottate misure di sicurezza, come il divieto di introdurre funzioni che creino dipendenze emotive e di utilizzare informazioni delle interazioni pregresse del minore con il servizio.

Una differenza che può spiegarsi in parte alla luce del fatto che degli effetti dei social network sui minori abbiamo molta più contezza rispetto a quelli delle loro interazioni con gli AI Companion, e c’è quindi una maggiore tendenza a limitarne l’utilizzo. In parte, forse, con l’intenzione di mettere i minori nelle condizioni di imparare a rapportarsi con questi strumenti in modo graduale, senza vietarli del tutto. Un discorso che, però, potrebbe valere anche per i social network, e la sensazione è che la scelta di una linea più restrittiva sia frutto dell’ampio dibattito che si è acceso in questi mesi intorno all’argomento.

Dopo l’introduzione del divieto ai social da parte dell’Australia, infatti, moltissimi Paesi in tutto il mondo, e anche all’interno dell’Unione Europea, hanno annunciato iniziative nazionali simili. Anche l’Italia sembrava essere sul punto di approvare una legge in questo senso, ma la discussione, dopo qualche settimana di attenzione mediatica, è scemata nel nulla.

In parallelo, la Commissione europea ha iniziato a muoversi nei confronti delle piattaforme, accusate di essere responsabili dei meccanismi di dipendenza e di altri effetti negativi sugli utenti, che sarebbero diretta conseguenza del design utilizzato. Un orientamento seguito anche oltreoceano, e più precisamente negli Stati Uniti, dove diverse corti hanno riconosciuto addirittura il diritto al risarcimento da parte degli utenti, proprio per i danni provocati loro dalle piattaforme.

In Europa non siamo ancora arrivati a questo punto, ma le regole che già esistono e che la Commissione si sta impegnando sempre di più a far rispettare, insieme a queste nuove iniziative legislative dimostrano che lo scopo a cui si mira va ben oltre il singolo risarcimento.

L’obiettivo, infatti, è quello di costringere i gestori delle piattaforme e degli altri servizi online a ripensare i propri modelli di business e il proprio approccio, adeguandosi alle regole imposte dall’Unione.