Seis dos nove especialistas independentes no conselho consultivo do Fórum Global da Internet para Combater o Terrorismo– um consórcio administrado por várias das maiores empresas de tecnologia dos EUA – renunciou na segunda-feira, de acordo com uma carta vista pela WIRED e entrevistas com três das pessoas.
As tensões entre o comité consultivo independente e o GIFCT remontam a um e-mail que os especialistas em contraterrorismo e liberdade de expressão receberam em Julho de Meta’s Nell McCarthy, vice-presidente que supervisiona a política de conteúdo. Durante anos, o grupo aconselhou o GIFCT sobre como evitar que as plataformas se tornassem refúgios para organizações radicais e indivíduos responsabilizados por alguns dos piores episódios de violência em massa do mundo.
Mas McCarthy escreveu que, embora o consórcio tenha acolhido favoravelmente as ideias dos especialistas sobre as tendências violentas, já não desejava o seu escrutínio sobre a eficácia dos esforços das Big Tech para reduzir a violência. Meta e outros líderes queriam “renovar” o comitê consultivo independente de 6 anos do qual os especialistas faziam parte, escreveu ela. Meta atualmente atua como presidente do conselho operacional do GIFCT, o que lhe confere uma influência descomunal sobre as mudanças políticas, embora outras empresas do painel devam, em última análise, aprovar.
As novas adições ao comitê consultivo rotativo já haviam sido eleitas pelos membros atuais; de acordo com o plano apresentado em julho, eles seriam escolhidos por empresas de tecnologia. O comité seria impedido de avaliar temas-chave, como o desempenho do consórcio, e de fazer recomendações em conjunto como grupo. Seu papel como cão de guarda seria neutralizado, acreditavam os conselheiros.
Na sua carta de demissão, os membros cessantes da comissão escreveram que os seus apelos contra o plano tinham sido “ignorados” e que, por sua vez, tinham “perdido a confiança na capacidade do GIFCT de cumprir eficazmente a sua missão fundadora” de impedir que terroristas explorassem serviços online. “Todos sabemos que um órgão que não pode fiscalizar, tomar posição ou avaliar não é de todo um órgão consultivo”, afirmava a carta. “É um teatro de decoração e responsabilização.”
Meta comentário diferido sobre as demissões ao GIFCT. Uma declaração não assinada enviada à WIRED por um porta-voz do GIFCT em nome da liderança do consórcio e do conselho operacional presidido pelo Meta diz que as mudanças propostas foram “informadas por várias rodadas de feedback” e ainda não são finais. Eles surgiram de discussões sobre “como envolver de forma mais eficaz a sociedade civil e os governos para obter contribuições substanciais”, uma vez que “o multissetorialismo é um princípio fundamental” para o GIFCT.
O consórcio tem cerca de 35 membros; outros membros antigos do conselho incluem Microsoft e YouTube. Uma pequena equipa alerta os membros sobre conteúdos violentos, ajuda-os a trocar informações sobre ameaças e encomenda pesquisas sobre o combate ao extremismo. Embora a coordenação tenha ajudado algumas plataformas a combater conteúdos problemáticos, os críticos acreditam que o grupo não está à altura do seu potencial.
Uma investigação WIRED em 2024 descobriu vários problemas com o GIFCT, incluindo Meta atrasando a oferta de adesão do TikTok e más relações entre as empresas no comando e o órgão consultivo independente não remunerado. Também revelou falhas no banco de dados de compartilhamento de dicas que o consórcio supervisiona para coordenar a remoção de conteúdo problemático.
O desmantelamento do grupo consultivo ameaça deteriorar ainda mais o trabalho da organização, numa altura em que o equilíbrio entre a liberdade de expressão e a segurança online se tornou mais desafiador. Ferramentas generativas de IA simplificaram a criação de conteúdo mas impôs guarda-corpos limitados.
Conteúdo extremista, incluindo alguns que agora são gerados por IAque promove organizações como o Estado Islâmico continua a ser um problema persistente. Coletivos niilistas mais recentes recorreram a golpes apoiados por IA, como a exploração sexual coagir as jovens vítimas a cometer violência e abuso. Vários chatbots de IA foram acusados de facilitar a violência.
“Uma vergonha”
Os especialistas que renunciaram incluem pesquisadores universitários e representantes de organizações da sociedade civil. Tinham concordado com McCarthy sobre a necessidade de mudanças para melhorar os resultados do consórcio anti-terrorismo com uma década de existência. Mas acreditam que a proposta, que poderá ser finalizada em breve, representa um retrocesso.
“Não haverá vozes críticas levantando preocupações sobre o que o GIFCT está fazendo ou não”, diz um dos especialistas que estão saindo. “Pode parecer politicamente conveniente para eles abolir o comité consultivo independente, mas vão arrepender-se a longo prazo.”
Compartilhe esta publicação
Ajude a levar esta informação adiante — publique no seu perfil.