Il Nuovo Postiglione - Grupos da sociedade civil exigem medidas contra desinformação 'sexista' da IA

A carta, direcionada aos CEOs dos gigantes Meta, X (ex- Twitter), YouTube, TikTok, Snapchat e Reddit, chega em meio a um aumento na internet de pornografia falsa não consentida, assim como assédio e fraudes impulsionados por ferramentas de IA baratas e amplamente disponíveis.

"É evidente que esses danos não são sentidos de forma igual", diz o texto, assinado por 27 organizações digitais e de direitos humanos, incluindo UltraViolet, GLAAD, Organização Nacional de Mulheres e MyOwn Image.

"As mulheres, as pessoas trans e as pessoas não binárias estão particularmente em risco de sofrer os efeitos adversos dos conteúdos baseados em IA nas redes sociais", acrescenta o documento.

A carta, que os grupos planejam divulgar na sexta-feira, também faz uma série de recomendações para fortalecer as políticas em torno dessa tecnologia.

Entre elas, definir claramente as consequências da publicação de material explícito não consentido, implementar uma ferramenta de terceiros para detectar imagens geradas por IA e rotulá-las claramente como tal.

As organizações também exigem um procedimento consistente para que os usuários possam denunciar conteúdos prejudiciais e que as plataformas realizem auditorias anuais abrangentes de suas políticas de IA.

A carta surge a um mês das primeiras eleições nos Estados Unidos realizadas sob o auge da IA, marcadas para 5 de novembro. A acirrada disputa pela Casa Branca tem gerado uma enxurrada de desinformação.

Um alvo particular tem sido a candidata democrata Kamala Harris, que enfrentou narrativas misóginas e sexistas sobre sua condição de primeira vice-presidente mulher, negra e de origem sul-asiática na história dos Estados Unidos.

"Esses danos nos silenciam na internet, violam nosso direito de controlar nossa própria imagem e distorcem nossas escolhas", afirmou Jenna Sherman, diretora de campanha da UltraViolet.

"As tecnologias de IA facilitaram a criação e propagação do assédio e abuso online por razões de gênero", acrescentou Ellen Jacobs, gerente sênior de política digital nos Estados Unidos no Instituto para o Diálogo Estratégico, também signatário da carta.

As empresas de tecnologia não responderam imediatamente a um pedido de comentário antes da publicação da carta.

R.Accetta--INP