Midjourney coloca fim ao uso gratuito do seu gerador de imagens AI após deepfakes de alto perfil serem criados com a ferramenta.
O CEO David Holz afirma no Discord que a empresa está encerrando as avaliações gratuitas devido à “demanda extraordinária e abuso do teste”.
As novas salvaguardas não foram “suficientes” para evitar o uso indevido durante os períodos de teste, diz Holz. Por enquanto, será necessário pagar pelo menos US$10 por mês para usar a tecnologia.
Como explica o The Washington Post, a Midjourney se encontrou no centro de atenção indesejada nas últimas semanas. Os usuários contaram com a IA da empresa para criar deepfakes de Donald Trump sendo preso e do Papa Francisco vestindo um casaco moderno.
Embora as imagens tenham sido rapidamente identificadas como falsas, há preocupação de que atores mal-intencionados possam usar a Midjourney, a DALL-E da OpenAI e outros geradores similares para disseminar desinformação.
A Midjourney reconhece as dificuldades em estabelecer políticas de conteúdo. Em 2022, Holz justificou a proibição de imagens do líder chinês Xi Jinping dizendo aos usuários do Discord que sua equipe queria apenas “minimizar o drama” e que ter acesso a qualquer coisa na China era mais importante do que permitir conteúdo satírico.
Em uma conversa com usuários na quarta-feira, Holz disse que estava tendo dificuldade em definir políticas de conteúdo à medida que a IA permitia imagens cada vez mais realistas. A Midjourney espera melhorar a moderação da IA que detecta abusos, acrescentou o fundador.
Algumas empresas recorrem a regras rígidas para evitar incidentes. A OpenAI, por exemplo, proíbe qualquer imagem de eventos políticos em curso, teorias da conspiração e políticos. Também proíbe o ódio, sexualidade e violência.
No entanto, outras têm diretrizes relativamente flexíveis. A Stability AI não permite que os usuários do Stable Diffusion copiem estilos ou façam imagens inadequadas para o trabalho, mas geralmente não dita o que as pessoas podem criar.
O conteúdo enganoso não é o único problema para a produção de imagens por IA. Existem preocupações de longa data de que as imagens sejam roubadas, já que frequentemente usam imagens existentes como pontos de referência.
Enquanto algumas empresas estão abraçando a arte da IA em seus produtos, há também muita hesitação de empresas preocupadas em atrair atenção indesejada.
