Meta introduce nuovi avvisi per i genitori, controlli manuali e limiti più severi alle chat degli adolescenti su suicidio e autolesionismo

L’intelligenza artificiale può diventare uno spazio nel quale un adolescente cerca informazioni, confida una paura che non riesce a esprimere ad alta voce o formula, magari attraverso parole indirette e apparentemente ambigue, un pensiero legato al suicidio o all’autolesionismo; proprio per questa ragione Meta ha deciso di introdurre un nuovo sistema di sicurezza che, in presenza di segnali considerati preoccupanti all’interno delle conversazioni con Meta AI, potrà avvisare direttamente i genitori che utilizzano gli strumenti di supervisione di Instagram.

La novità, già disponibile negli Stati Uniti, nel Regno Unito, in Canada e in Australia e destinata a essere estesa a livello globale entro la fine del 2026, modifica in modo significativo il ruolo della piattaforma: l’assistente virtuale non si limiterà più a suggerire all’adolescente di rivolgersi a una linea di aiuto, a un genitore o a un altro adulto di fiducia, ma potrà attivare un intervento esterno, informando in modo proattivo chi esercita la supervisione sull’account.

Come funzioneranno gli avvisi inviati ai genitori

Il sistema è stato progettato per riconoscere non soltanto le dichiarazioni esplicite, ma anche quei riferimenti più sottili attraverso i quali un adolescente potrebbe manifestare l’intenzione di farsi del male, senza utilizzare necessariamente parole immediatamente riconducibili al suicidio o all’autolesionismo.

Quando Meta AI individuerà una conversazione potenzialmente critica, il messaggio non verrà tuttavia inviato automaticamente al genitore: almeno nella fase iniziale, ogni chat segnalata dal sistema sarà sottoposta a una revisione manuale, introdotta dall’azienda per verificare il contesto e ridurre il rischio che una frase ironica, una domanda scolastica o un riferimento privo di intenzioni personali venga interpretato come un segnale di emergenza.

Meta riconosce, però, che un margine di errore continuerà a esistere e dichiara di voler adottare un approccio prudenziale nei casi dubbi, privilegiando la notifica anche quando l’intenzione dell’adolescente non risulti completamente chiara. Ne deriva la possibilità che alcuni genitori ricevano un avviso in assenza di un pericolo effettivo, un’eventualità che........

© Panorama