#FacebookPapers: o que a maior crise da empresa significa para você

As revelações trazidas à tona pelas reportagens do #FacebookPapers podem ser o grande escândalo do ano e, possivelmente, resultar na maior crise da história do Facebook. E parece que o que vimos até agora ainda é apenas a ponta do iceberg.

Pelo menos é o que promete a whistleblower

Pessoa, geralmente anônima, que apresenta informações e denúncias sobre atividades, muitas vezes ilícitas ou problemáticas, ocorrendo dentro de uma empresa ou organização.

Frances Haugen que sinaliza que há mais documentos a serem liberados, em especial que revelam mais sobre a atuação -- ou melhor, a falta de atuação -- do Facebook em países do Sul Global. Segundo o Washington Post, já há outro whistleblower em contato com parlamentares do Congresso dos Estados Unidos.

É importante porque…

• O Facebook e seus produtos, como Instagram e o WhatsApp, congregam uma comunidade de +3 bilhões de pessoas com impacto direto na sociedade. A empresa tem muito poder.
• A rede não tem endereçado os problemas que ela mesma tem criado, como ampliação de desinformação, danos à saúde mental das pessoas, polarização política e impulsionamento de discurso de ódio

Quase que para reforçar a principal das revelações das reportagens -- de que o fundador e CEO Mark Zuckerberg priorizou o lucro acima de segurança -- os resultados trimestrais da empresa reportados na segunda-feira mostram que o Facebook, mesmo meio decadente, é uma máquina de fazer dinheiro.

O lucro foi de US$ 9,2 bilhões no trimestre encerrado em setembro, o que representa um aumento de 17% na comparação com o mesmo período do ano anterior. A base de usuários das aplicações do grupo também cresceu 12% no ano.

No call com investidores, segundo a CNN, Zuckerberg não tentou fingir que nada havia acontecido no dia, mas optou pelo caminho de retratar as reportagens como uma campanha coordenada para "pintar uma falsa imagem" da empresa.

"A realidade é que temos uma cultura aberta que encoraja discussão e pesquisa sobre o nosso trabalho para que possamos ter progresso em muitos assuntos complexos que não são específicos somente a nós", disse o executivo durante a ligação.

Em parte, Zuckerberg mente ao falar sobre a cultura aberta. O FB, assim como outras redes sociais, são tão fechadas e opacas que a sociedade depende de vazamentos e whistleblowers para conhecer mais sobre o funcionamento interno. Acadêmicos, por exemplo, seguem no escuro quanto ao material vazado por Haugen, visto que ela optou por abrir o material apenas a jornalistas dos EUA e Europa, por enquanto.

Por outro lado, Zuckerberg está correto em dizer que há pesquisa. Os documentos disponibilizados por Frances Haugen que embasam os #FacebookPapers mostram que há muita pesquisa sendo feita dentro da empresa, o que seria suficiente para nortear mudanças na plataforma para aumentar a segurança e mitigar riscos.

E talvez essa seja a maior das revelações dessa investigação: a despeito das pesquisas e apesar de saber que a plataforma estava fazendo mais mal do que bem a pessoas e democracias, o alto escalão do FB optou pelo status quo, rejeitando mudanças que poderiam tentar corrigir as falhas da plataforma.

"A liderança da empresa sabe maneiras de tornar o Facebook e o Instagram mais seguros e não fazem as mudanças necessárias porque eles colocaram seu imenso lucro acima das pessoas", disse Haugen durante seu depoimento ao Senado dos Estados Unidos.

Para além do consórcio de 17 veículos que está em posse dos materiais cedidos por Haugen, as revelações sugaram jornalistas de tecnologia dos EUA e do mundo pela gravidade do material. Mas fora dessa limitada bolha, as revelações parecem ter tido pouca atenção de usuários comuns, até porque entender o que está sendo trazido à tona não é a mais simples das tarefas.

Por isso, como é a nossa missão central aqui no Núcleo, tentaremos explicar o que esse despejo de informações sobre a máquina interna do FB significa para você:

1. O Facebook ganha em cima do ódio

• Pesquisas internas mostraram que recursos-chave do Facebook, como o botão de like e o recurso de compartilhar estavam sendo mal utilizados por usuários e que estavam alimentando conteúdo tóxico, desinformação e conteúdo de ódio. Os documentos, que embasaram reportagem do New York Times, mostram que o Facebook não alterou esses recursos para conter o comportamento negativo.
• Documentos elucidaram que o Facebook programou as reações de emoji, inclusive a  'carinha brava' 😡, como disparadores de mais conteúdo emotivo e provocativo -- mais do que o simples botão de like, segundo o Washington Post. Publicações que geram emojis de reação, portanto, tendem a manter usuários mais engajados, em linha com o plano de negócios do Facebook. Logo pesquisadores notaram um problema: favorecer conteúdo controverso com engajamento poderia abrir a porta para conteúdo desinformativo e de ódio. Em 2019, pesquisadores confirmaram essa suspeita. Ou seja, indo contra esforços de moderadores humanos e de inteligência artificial, o Facebook estava ventilando discurso negativo, levando-o até mais pessoas.
• O algoritmo do Facebook favorece a radicalização, empurrando usuários conservadores para câmaras de eco onde floresce conteúdo conspiratório e extremista. E isso acontece relativamente rápido, em questão de dias, demonstrou uma pesquisa interna do Facebook, segundo reportagem da NBC.
• Quanto pior a qualidade do conteúdo, mais engajamento, e o FB sabe. Haugen disse a parlamentares britânicos que, por discurso de ódio engajar mais do que conteúdo empático, é mais barato promover anúncios odiosos do que anúncios que envolvam outras emoções.

"Estamos literalmente subsidiando ódio nestas plataformas" - Frances Haugen, ex-gerente de produtos do Facebook

Tradução: Nós vimos várias e várias vezes em pesquisas do Facebook que é mais fácil provocar pessoas ao ódio do que a empatia e compaixão, então estamos literalmente subsidiando ódio nestas plataformas. É mais barato, substancialmente, promover um ad de ódio e divisivo do que promover um ad empático e de compaixão.

2. As redes do FB fazem mal a jovens -- e isso era conhecido

• Ainda em setembro, a primeira rodada de reportagens sobre os documentos, que foram cedidos ao Wall Street Journal em primeira mão, mostrou que pesquisas internas haviam identificado que o Instagram era prejudicial a jovens, em especial a meninas adolescentes.
• Uma em cada três meninas teve uma piora em distúrbios de imagem por consequência do Instagram, segundo um documento que circulou internamente. 13% dos jovens britânicos que tinham ideações suicidas atribuíram isso ao Instagram.
• Isso pega especialmente mal quando colocado em contexto. Em março, o FB havia anunciado o desenvolvimento de uma versão do Instagram para crianças abaixo de 13 anos. No começo de outubro, depois das reportagens do WSJ, executivos da empresa decidiram suspender o desenvolvimento dessa aplicação.

3. Mesmo sabendo do seu papel-chave em processos eleitorais, FB escolheu não agir

• Até agora, as revelações que tratam do papel da rede social em processos eleitorais focam nos Estados Unidos, mas já se sabe que o impacto não se limita ao país. A whistleblower original Sophie Zhang havia feito esse alerta no memorando que deixou para trás quando se demitiu do Facebook. Ela havia identificado dezenas de países, incluindo a Índia, México, Afeganistão e Coreia do Sul, onde contas falsas estavam sendo utilizadas para manipular eleições.
• No caso das eleições norte-americanas de 2020, o Facebook tinha consciência de que havia desinformação circulando na plataforma e grupos e movimentos extremistas se organizando ali dentro. De acordo com o New York Times, enquanto os documentos disponibilizados por Haugen e obtidos separadamente pelo jornal não dão conta exatamente das ações tomadas pelo empresa, eles mostram que os próprios funcionários da empresa sabiam que o Facebook poderia ter feito mais.
• Funcionários do Facebook alertaram que, a despeito de experiências anteriores que forneceram evidências sobre como elevar proteções em períodos pós-eleitorais,  o Facebook não tinha diretrizes claras sobre como agir após as eleições dos EUA, em janeiro.
• Funcionários notaram e alertaram sobre as movimentações que culminaram na invasão ao Capitólio em 6 de janeiro, mas demoraram em receber aval de superiores para colocar em vigor essas proteções elevadas, mostra essa reportagem do Politico. "Nós somos o Facebook, não uma startup ingênua. Com os recursos sem precedentes que temos, nós deveríamos fazer melhor", disse um funcionário em mensagem interna do dia 6 de janeiro.

4. Se está ruim para os EUA e Europa, imagina para o Sul Global

• Desde antes do vazamento dos documentos por Haugen, sabe-se que o Facebook não dedica o mesmo esforço aos países do Sul Global que dedica aos Estados Unidos e outros países de língua inglesa. Segundo os documentos, 87% do orçamento global da empresa para investir tempo para classificar desinformação é reservado para os EUA, sobrando apenas 13% para o resto do mundo.
• Na Índia, maior mercado do Facebook, os problemas que a empresa identificou nos EUA são amplificados, mostrou reportagem do NYT. Além de uma proliferação desenfreada de desinformação, discurso de ódio e conteúdo violento, pesquisadores identificaram que a mudança no FB para priorizar conteúdo de familiares e amigos estava gerando mais desinformação na Índia, em especial durante a pandemia.
• O Facebook já sabe que a barreira linguística é um problema, mas não investe recursos proporcionalmente. Na Índia, há 22 línguas reconhecidas, mas os sistemas de AI do Facebook estão treinados para apenas cinco. Porém, segundo o NYT, mesmo nas línguas em que está treinado, como Hindu e Bengali, a AI não tem dados suficientes para moderar conteúdo.
• Isso não acontece só na Índia. Aqui no Núcleo, por exemplo, mostramos em abril que uma pesquisa do ITS Rio achou trechos não-traduzidos ou traduzidos erroneamente nas políticas de comunidade do Facebook em português. O Brasil, sem contar os outros países lusófonos, é um dos cinco principais mercados do FB. Ou seja, além de ter uma AI pouco afiada em muitos dos lugares em que opera (pela língua, dialetos e nuances), as regras escritas -- às quais moderadores humanos podem recorrer -- não estão consolidadas ou sequer traduzidas corretamente.
• Apesar de a própria Haugen ter demonstrado uma preocupação em especial com países do Sul Global, a maior parte do esforço jornalístico foca no impacto nos EUA e Reino Unido. Ela disse que tem planos de colaborar com acadêmicos e veículos de países do Sul Global, mas ainda não há nada de concreto.

E AGORA?

O que acontecerá daqui para frente ainda é incerto, mas é fato que as revelações trazidas por Haugen tanto em seu depoimento ao Congresso dos Estados Unidos quanto nos documentos preparam o terreno para ações regulatórias.

Já no início de seu depoimento ao Congresso, a ex-funcionária é enfática ao dizer que o Facebook não consegue resolver essa crise sozinho, e depende de ação do Congresso, algo que até o próprio Mark Zuckerberg ventilou -- ao menos em uma nota pública após a fala da Haugen.

Fora dos EUA, as revelações também repercutiram. Na segunda-feira, a ex-funcionária foi ouvida no Parlamento do Reino Unido. Há expectativa de que ela seja ouvida no Parlamento Europeu no início de novembro a convite de membros da Comissão de Proteção ao Consumidor e Mercado Interno.

Esse depoimento de Haugen viria num momento chave, dado que parlamentares europeus estão discutindo duas peças de legislação para regular o setor: o Digital Services Act e o Digital Markets Act.

Também há notícias de que o Facebook poderá mudar de nome. Segundo o site The Verge, a mudança seria para refletir os esforços da empresa na construção do metaverso, mas uma outra motivação também pode ser a de se dissociar dos escândalos recentes.

COMO FIZEMOS ISSO

Estamos acompanhando as revelações desde que as primeiras reportagens do Wall Street Journal saíram no fim de setembro e, desde o início da semana, temos lido as reportagens que integram o Facebook Papers.

Na segunda-feira, 25.out, já havíamos reunido e organizado as principais reportagens publicadas até então, mas agora decidimos destrinchar e traduzir alguns dos principais pontos trazidos à tona.

Escolhemos destacar alguns dos principais achados para demonstrar o impacto destas revelações na vida de usuários comuns das redes sociais, como é a nossa missão aqui no Núcleo.

Reportagem Laís Martins

Arte Rodolfo Almeida

Edição Alexandre Orrico