Il Nuovo Postiglione - Character.AI proibirá que menores conversem com IA após suicídio de adolescente

A empresa afirmou que incentivará os usuários mais jovens a utilizarem ferramentas alternativas, como criação de vídeos, histórias e transmissões com personagens de inteligência artificial (IA).

A proibição valerá a partir de 25 de novembro. Até lá, limitará o uso do chat para menores de idade a duas horas por dia.

"Estes são passos extraordinários para nossa empresa e, em muitos aspectos, são mais conservadores do que os de nossos pares", disse a Character.AI em comunicado. "Mas acreditamos que é o que devemos fazer."

A Character.AI permite que os usuários - muitos deles adolescentes - interajam com personagens criados por IA como se fossem seus confidentes ou namorados.

Sewell Setzer III se suicidou em fevereiro após meses de trocas íntimas com um chatbot inspirado na personagem Daenerys Targaryen da série Game of Thrones, segundo o processo apresentado por sua mãe, Megan Garcia, contra a Character.AI.

A empresa disse que tomou essa decisão após ler "relatórios recentes que levantam questões" de reguladores e especialistas em segurança sobre o impacto da interação com IA nos adolescentes.

Além de Setzer, este ano foram registrados vários casos de suicídios supostamente vinculados à interação com chatbots de IA, o que levou a OpenAI, criadora do ChatGPT, e outras empresas a implementar medidas de proteção aos usuários.

A.Rastelli--INP