Character.AI introduce restrizioni per minorenni dopo incidenti legati alla salute mentale
L’azienda Character.AI ha annunciato l’introduzione di limiti sull’utilizzo del suo noto chatbot di intelligenza artificiale da parte dei minorenni. D’ora in avanti, i ragazzi non potranno più chattare direttamente con i modelli linguistici della piattaforma, ma potranno solo generare contenuti, come video. La decisione giunge dopo le critiche ricevute per la mancanza di controlli appropriati sulle interazioni, specialmente da parte degli utenti più giovani, riporta Attuale.
Lo scorso anno, Character.AI era stata accusata di aver contribuito al suicidio di un quattordicenne statunitense, il quale aveva discusso a lungo delle sue difficoltà mentali con il chatbot, senza ricevere alcun suggerimento per contattare un professionista o una linea di aiuto. In risposta a queste gravi critiche, l’azienda aveva implementato maggiori controlli sulla piattaforma. Anche altri servizi simili hanno segnalato situazioni analoghe e stanno cercando modi per limitare tali interazioni problematiche.
L’età minima per iscriversi a Character.AI è fissata a 13 anni negli Stati Uniti e a 16 nell’Unione Europea. Le nuove limitazioni entreranno in vigore il 25 novembre.
