Skip to main content

Grandes empresas de tecnologia, as famosas Big Techs, como Google e Meta, terão que tomar medidas contra deepfakes e contas falsas – ou correm o risco de enfrentar grandes perdas. Deepfakes são vídeos que usam a imagem de uma pessoa para retratá-la fazendo algo que nunca fez.

A nova regulamentação da UE, apoiada pelo Digital Services Act (DSA), exigirá que as empresas de tecnologia lidem com essas formas de desinformação em suas plataformas. As empresas podem ser multadas em até 6% de seu faturamento global se não cumprirem.

O código reforçado visa evitar lucrar com desinformação e notícias falsas em suas plataformas, além de aumentar a transparência em torno da publicidade política e conter a disseminação de ‘novos comportamentos maliciosos’, como bots, contas falsas e deepfakes.

Clubhouse, Google, Meta, TikTok, Twitter e Twitch estão entre os 33 signatários do código aprimorado e trabalharam juntos para concordar com as novas regras.

As Big Techs que se inscreveram no código serão obrigadas a compartilhar mais informações com a UE – com todos os signatários obrigados a fornecer relatórios iniciais sobre a implementação do código até o início de 2023.

As plataformas com mais de 45 milhões de utilizadores ativos mensais na UE terão de apresentar um relatório à Comissão de seis em seis meses.

Nick Clegg, presidente de assuntos globais da Meta, escreveu no Twitter: “Combater a disseminação de informações erradas é uma questão social complexa e em evolução”.

“Continuamos a investir fortemente em equipes e tecnologia e esperamos mais colaboração para resolver isso juntos”.

Um porta-voz do Twitter disse que a empresa deu as boas-vindas ao código atualizado. “Através e além do Código, o Twitter continua comprometido em combater a desinformação e a desinformação à medida que continuamos a avaliar e evoluir nossa abordagem neste ambiente em constante mudança”, disse um comunicado.

O Google não respondeu a um pedido de comentário.

Quais são os perigos dos deepfakes?

Deepfakes foram identificados como uma forma emergente de desinformação quando usados ​​de forma maliciosa para atingir políticos, celebridades e cidadãos comuns.

Nos últimos anos, eles se tornaram cada vez mais associados à pornografia, com rostos de indivíduos mapeados em material sexual explícito.

A especialista em deepfakes Nina Schick diz que os deepfakes pornográficos não consensuais são a principal forma de deepfakery malicioso hoje – afetando notavelmente figuras conhecidas, incluindo Michelle Obama, Natalie Portman e Emma Watson.

Também foram levantadas preocupações sobre o uso de deepfakes na esfera política, com vídeos falsos de líderes mundiais sendo compartilhados online durante a guerra Rússia-Ucrânia.

“Este novo código antidesinformação chega em um momento em que a Rússia está armando a desinformação como parte de sua agressão militar contra a Ucrânia”, disse Věra Jourová, vice-presidente da Comissão Europeia para valores e transparência, “mas também quando vemos ataques a democracia mais ampla”.

“Agora temos compromissos muito significativos para reduzir o impacto da desinformação online e ferramentas muito mais robustas para medir como elas são implementadas na UE em todos os países e em todos os seus idiomas”.

Faca de dois gumes

A dificuldade de diferenciar deepfakes de imagens reais provavelmente aumentará nos próximos anos, diz Schick, citando a maior disponibilidade de ferramentas e aplicativos necessários para desenvolver deepfakes maliciosos.

Enquanto os deepfakes permitem que os encrenqueiros espalhem diretamente a desinformação, sua aparição mais amplamente nas plataformas online está causando um clima de incerteza na informação – que está aberto a mais manipulação.

Por exemplo, imagens genuínas podem ser descartadas como deepfakes por aqueles que procuram evitar a responsabilidade.

Isso torna o desafio para os cidadãos reconhecerem o conteúdo genuíno e para os reguladores e plataformas agirem sobre eles, cada vez mais difícil.

“Você tem esse tipo de faca de dois gumes – qualquer coisa pode ser falsificada e tudo pode ser negado”, diz Schick.

Nos últimos anos, as Big Techs fizeram esforços para detectar e combater deepfakes em suas plataformas – com Meta e Microsoft entre as partes interessadas lançando o Deepfake Detection Challenge para pesquisadores de IA em 2019.

A comparison of an original and deepfake video of Meta chief executive Mark Zuckerberg

Mas as plataformas “com muita frequência usam deepfakes como uma folha de figueira para cobrir o fato de que eles não estão fazendo o suficiente nas formas existentes de desinformação”, diz Schick.

“Eles não são as formas mais prevalentes ou maliciosas de desinformação; temos tantas formas existentes de desinformação que já estão causando mais danos”.

De acordo com o código revisado da UE, as contas que participam de comportamento inautêntico coordenado, gerando engajamento falso, personificação e amplificação orientada por bots também precisarão ser revisadas periodicamente por empresas de tecnologia relevantes.

Mas Schick acrescenta que as deepfakes ainda têm o potencial de se tornar “a forma mais potente de desinformação” online.

“Esta tecnologia se tornará cada vez mais prevalente de forma relativamente rápida, então precisamos estar na frente”, diz ela.

Vlops e Vlos

O DSA – acordado pelo Parlamento Europeu e pelos estados membros da UE em abril – é o regulamento planejado da UE para conteúdo, bens e serviços ilegais online, com base no princípio de que coisas que são ilegais offline também devem ser ilegais online.

Previsto para entrar em vigor em 2024, o DSA aplicar-se-á a todos os serviços online que operam na UE, mas com especial enfoque no que chama de Vlops (plataformas online muito grandes, como Facebook e YouTube) e Vloses (grandes plataformas online de pesquisa ). motores, como o Google) – definidos como serviços que têm mais de 45 milhões de usuários na UE.

Será a ferramenta legal usada para apoiar o novo código de conduta sobre desinformação, em uma tentativa de combater notícias falsas e imagens falsificadas online.

Quer saber mais sobre as novidades? Não deixe de seguir o ADNEWS nas redes sociais e fique por dentro de tudo!

Matéria traduzida da BBC de Tom Gerken e Liv McMahon