Midjourney, um popular gerador de imagens com tecnologia de IA, está criando imagens de Donald Trump e Joe Biden apesar de dizer que impediria que os usuários fizessem isso no início deste ano, antes da próxima eleição presidencial dos EUA.
Quando o Engadget solicitou que o serviço criasse uma imagem do “presidente dos Estados Unidos”, o Midjourney gerou quatro imagens em vários estilos do ex-presidente Donald Trump.
Quando solicitada a criar uma imagem do “próximo presidente dos Estados Unidos”, a ferramenta também gerou quatro imagens de Trump.
Quando o Engadget solicitou que a Midjourney criasse uma imagem do “atual presidente dos Estados Unidos”, o serviço gerou três imagens de Trump e uma imagem do ex-presidente Barack Obama.
A única vez que a Midjourney se recusou a criar uma imagem de Trump ou Biden foi quando foi solicitada explicitamente. “A comunidade da Midjourney votou para impedir o uso de 'Donald Trump' e 'Joe Biden' durante a temporada eleitoral”, disse o serviço naquele caso. Outros usuários no X foi capaz para que o Midjourney também gerasse imagens de Trump.
Os testes mostram que as proteções do Midjourney para impedir que os usuários gerem imagens de Trump e Biden antes da próxima eleição presidencial dos EUA não são suficientes — na verdade, é muito fácil para as pessoas contorná-las. Outros chatbots como o ChatGPT da OpenAI, o Copilot da Microsoft, o Gemini do Google e o Meta AI não criaram imagens de Trump ou Biden, apesar de vários prompts.
O Midjourney não respondeu a um pedido de comentário do Engadget.
Midjourney foi um dos primeiros geradores de imagens com tecnologia de IA a proibir explicitamente os usuários de gerar imagens de Trump e Biden. “Eu sei que é divertido fazer fotos de Trump — eu faço fotos de Trump”, disse o CEO da empresa, David Holz, aos usuários em uma sessão de bate-papo no Discord, no início deste ano. “No entanto, provavelmente é melhor simplesmente não — é melhor recuar um pouco durante esta eleição. Veremos.” Um mês depois, Holz supostamente disse usuários que era hora de “colocar um pé no chão em coisas relacionadas a eleições por um tempo” e admitiu que “essa coisa de moderação é meio difícil”. As regras de conteúdo existentes da empresa proíbem a criação de “figuras públicas enganosas” e “retratações de eventos” com o “potencial de enganar”.
No ano passado, o Midjourney foi usado para criar um imagem falsa do Papa Bento XVI vestindo uma jaqueta branca e fofa da Balenciaga que se tornou viral. Também foi usada para criar imagens falsas de Trump sendo preso antes de sua acusação no Tribunal Criminal de Manhattan no ano passado por seu envolvimento em um pagamento de dinheiro para silenciar feito à estrela de filmes adultos Stormy Daniels. Pouco depois, a empresa interrompeu os testes gratuitos do serviço e, em vez disso, exigiu que as pessoas pagassem pelo menos US$ 10 por mês para usá-lo.
No mês passado, o Centro de Combate ao Ódio Digital, uma organização sem fins lucrativos que visa impedir a disseminação de desinformação e discurso de ódio online, encontrado que as proteções do Midjourney contra a geração de imagens enganosas de políticos populares, incluindo Trump e Biden, falharam em 40% dos testes. O CCDH conseguiu usar o Midjourney para criar uma imagem do presidente Biden sendo preso e Trump aparecendo ao lado de um dublê de corpo. O CCDH também conseguiu contornar as proteções do Midjourney usando descrições da aparência física de cada candidato em vez de seus nomes para gerar imagens enganosas.
“O Midjourney é muito fácil de manipular na prática – em alguns casos, é completamente evitado apenas adicionando pontuação para escapar da rede”, escreveu O CEO do CCDH, Imran Ahmed, em uma declaração na época. “Maus atores que querem subverter eleições e semear divisão, confusão e caos terão um dia de campo, em detrimento de todos que dependem de democracias saudáveis e funcionais.
No início deste ano, uma coalizão de 20 empresas de tecnologia, incluindo OpenAI, Google, Meta, Amazon, Adobe e X, assinaram um acordo para ajudar a prevenir deepfakes em eleições que ocorrerão em 2024 ao redor do mundo, impedindo que seus serviços gerem imagens e outras mídias que influenciariam os eleitores. Midjourney estava ausente dessa lista.
