Google lança iniciativa para combater deepfakes explícitos
A gigante da tecnologia está tomando medidas proativas para reduzir a exposição a imagens falsas e não consensuais online. Há algumas semanas, uma pesquisa no Google por “deepfake nuas jennifer aniston” trazia pelo menos sete resultados nos primeiros lugares que supostamente continham imagens explícitas e geradas por IA da atriz. Agora, esses resultados desapareceram.
Emma Higham, gerente de produto do Google, afirma que os novos ajustes na forma como a empresa classifica os resultados, implementados este ano, já reduziram em mais de 70% a exposição a imagens explícitas falsas em buscas procurando por esse conteúdo sobre uma pessoa específica. Onde antes podiam aparecer resultados problemáticos, os algoritmos do Google agora visam promover artigos de notícias e outros conteúdos não explícitos. A busca por Aniston agora retorna artigos como “Como o deepfake de IA pornográfica de Taylor Swift representa uma ameaça” e outros links, como um alerta do procurador-geral de Ohio sobre “golpes de endosso de celebridades deepfake” que miram os consumidores.
“Com essas mudanças, as pessoas podem ler sobre o impacto que os deepfakes estão tendo na sociedade, em vez de ver páginas com imagens falsas não consensuais reais”, escreveu Higham em um post no blog da empresa na quarta-feira.
Medidas adicionais para combater deepfakes explícitos
Embora o Google tenha facilitado a solicitação de remoção de conteúdo explícito indesejado, as vítimas e seus defensores pressionaram por medidas mais proativas. No entanto, a empresa tem procurado evitar se tornar um regulador demais da internet ou prejudicar o acesso a conteúdo pornográfico legítimo.
Como parte da nova repressão do Google, Higham afirma que a empresa começará a aplicar três das medidas usadas para reduzir a descoberta de imagens explícitas reais, mas indesejadas, àquelas que são sintéticas e indesejadas. Depois que o Google honrar um pedido de remoção de um deepfake sexualizado, ele então tentará manter duplicatas fora dos resultados. Ele também filtrará imagens explícitas de resultados em consultas semelhantes àquelas citadas no pedido de remoção. E, finalmente, os sites sujeitos a “um alto volume” de pedidos de remoção bem-sucedidos enfrentarão rebaixamento nos resultados de pesquisa.
“Esses esforços são projetados para dar às pessoas uma maior tranquilidade, especialmente se elas estiverem preocupadas com conteúdo semelhante sobre elas aparecendo no futuro”, escreveu Higham.
Limitações e desafios persistentes
O Google reconheceu que as medidas não funcionam perfeitamente, e ex-funcionários e defensores das vítimas disseram que a empresa poderia ir muito mais longe. O mecanismo de pesquisa avisa prominentemente as pessoas nos EUA que procuram imagens nuas de crianças que esse conteúdo é ilegal. A eficácia do aviso é incerta, mas é um deterrente potencial apoiado pelos defensores. No entanto, apesar das leis contra o compartilhamento de ICNE, avisos semelhantes não aparecem para buscas procurando deepfakes sexuais de adultos. O porta-voz do Google confirmou que isso não vai mudar.
Conclusão: Esforços constantes para proteger a privacidade
As ações do Google representam um passo na direção certa, mas é evidente que muito ainda precisa ser feito para combater efetivamente a proliferação de deepfakes explícitos e não consensuais. À medida que as ferramentas de IA se tornam cada vez mais acessíveis, a ameaça apenas aumentará. Portanto, é essencial que empresas de tecnologia, legisladores e defensores das vítimas trabalhem em conjunto para desenvolver soluções abrangentes e eficazes para esse desafio complexo e em constante evolução.
Posts que você deverá gostar:
Principais Conclusões
- O Google implementou novos ajustes em seus algoritmos de pesquisa para reduzir significativamente a exposição a deepfakes explícitos e não consensuais, promovendo conteúdo informativo e legítimo em detrimento de imagens falsas.
- A empresa está aplicando medidas adicionais, como remoção de duplicatas e filtragem de imagens explícitas, para impedir que esse tipo de conteúdo continue aparecendo nos resultados de pesquisa.
- Apesar dos esforços, o Google reconhece que muito ainda precisa ser feito para combater efetivamente a proliferação de deepfakes, especialmente com o aumento da acessibilidade das ferramentas de IA.
