A Meta planeja automatizar até 90% das avaliações de risco hoje feitas por humanos no Facebook, Instagram e WhatsApp. A empresa implementará um sistema de IA (inteligência artificial) para analisar riscos relacionados à privacidade e integridade de novas funcionalidades.
Atualizações nos algoritmos, recursos de segurança e alterações na forma como o conteúdo é compartilhado serão aprovados, principalmente, por um sistema baseado em IA. A informação consta em documentos internos publicados pela rede de rádio norte-americana NPR na 6ª feira (30.mai.2025).
A implementação da automação foi feita de abril até maio de 2025, segundo um funcionário da Meta. Antes, equipes de revisores humanos avaliavam se novas funcionalidades poderiam violar a privacidade dos usuários, causar danos a menores ou piorar a disseminação de conteúdo enganoso.
O diretor de Privacidade de Produto da empresa, Michel Protti, afirmou em uma publicação interna que a big tech está “capacitando as equipes de produto” com o objetivo de “evoluir os processos de gestão de risco”.
Segundo um anúncio interno, a tomada de decisões para produtos e dados de usuários na UE (União Europeia) deve permanecer com a sede europeia da Meta na Irlanda por causa da regulamentação mais rígida da região.
A empresa afirma que a automação “libera capacidade para nossos revisores, permitindo que priorizem sua experiência em conteúdo com maior probabilidade de violar as políticas”.
De acordo com os documentos, as equipes de produtos receberão uma “decisão instantânea” depois de preencherem um questionário sobre o projeto. Essa decisão, impulsionada por IA, identificará áreas de risco e requisitos para abordá-las.
POSSÍVEIS RISCOS
O ex-diretor de Inovação Responsável da Meta até 2022, Zvika Krieger, expressou preocupação com a capacidade das equipes de produto para avaliar os riscos.
“A maioria dos gerentes de produto e engenheiros não são especialistas em privacidade e esse não é o foco do trabalho deles”, afirmou à NPR.
Em comunicado à rádio, a Meta afirmou que investiu bilhões de dólares para apoiar a privacidade do usuário e que as mudanças na revisão de risco visam “simplificar a tomada de decisões”. Afirmou que só “decisões de baixo risco” estão sendo automatizadas.