“A tecnologia está avançando, quer alguém goste ou não, de verdade”, disse o co-fundador da Metaphysic, Tom Graham, empresário de tecnologia com sede em Londres, à CNN Business. Ele disse que o objetivo da empresa é “realmente focar em tentar desenvolver nosso produto de uma forma que evite adicionar deepfakes prejudiciais já criados por outros.
Umé, que anteriormente trabalhou no piloto da série da web “Sassy Justice” (dos criadores de “South Park”), acredita que o futuro da tecnologia é realmente brilhante. “É um futuro onde você tem mais liberdade e mais possibilidades criativas”, disse ele.
Deepfakes apoiados por esforço real
O tipo de trabalho que Umé e Metafísica fazem é diferente, muito menos difícil e demorado. Eles não estão apenas tentando criar um deepfake – que os fabricantes disseram à CNN Business que se esforça muito para ter uma boa aparência – mas um que pareça o mais perfeito possível.
Para os filmes de Cruise que Umé fez, ele disse que primeiro passou cerca de dois meses e meio treinando o modelo de IA em vídeos e fotos de estrelas de Hollywood, tentando capturá-lo de todos os ângulos e condições de iluminação possíveis. De acordo com Umé, isso permite que o modelo de IA descubra como a pele do ator deve responder a diferentes tiros. Como o objetivo era fazer filmes de Cruise aparentemente sinceros e profundos, em vez de cenas de ação dramática, o material de treinamento também incluiu muitas das entrevistas públicas de Cruise, disse Umé.
Umé também teve que fazer filmes deepfake básicos. Fisher, o gibão de corpo (e voz) de Cruise, surgiu com conceitos de cinema, de acordo com Umé. Em seguida, umé levou dois a três dias para gerar um vídeo profundo vinculando a filmagem de Fisher ao rosto de Cruise, bem como cerca de 24 horas usando ferramentas de IA para fazer coisas como melhorar a qualidade do vídeo.
Ele acredita que tais detalhes mostram o quão bem a IA pode ser usada para mudar a aparência de um ator – em vez de usar efeitos visuais tradicionais para alterar tediosamente o vídeo, um quadro de cada vez.
“Eu serei o primeiro a tirá-lo”
Devido ao quão nova esta tecnologia é, não existem regras claras para criar e compartilhar deepfakes. Ainda não está claro, por exemplo, se e quando os espectadores devem ser informados de que estão assistindo ao deepfake, ou quais diretrizes devem reger o processo de obtenção do consentimento do deepfake.
Nick Diakopoulos, professor associado de estudos da comunicação e ciência da computação da Northwestern University, acredita que podemos buscar orientação na mídia existente. Se você está assistindo a um filme de grande sucesso, está acostumado a ver a realidade misturada com efeitos especiais e entende que os comerciais – como o que Metaphysic trabalhou para a Gillette – são feitos para serem altamente manipuladores. Mas o deepfake também pode ser personalizado para atrair pessoas de diferentes grupos demográficos, destacado, ou uma celebridade que você vê endossando um produto em um anúncio deepfake que corresponde aos seus interesses. Ele acredita que a divulgação pode ser necessária em tais situações para que o espectador não se sinta manipulado.
“Acho que essas questões éticas são realmente difíceis porque não existem regras rígidas e rápidas pelas quais você possa traçar uma linha clara e dizer: ‘Nunca cruzaremos essa linha”, disse Diakopoulos.
Umé, que mora em Bangkok, e seus co-fundadores da Metaphysic – irmão de Umé, Kevin, que está na Bélgica, e Graham – enfatizaram que estão tentando lembrar a necessidade de barreiras de proteção nessa tecnologia de IA. Isso significa que eles querem ter certeza de que está sendo usado de forma ética e adequada.
Graham disse que a empresa trabalha diretamente com clientes que desejam deepfake e usa sua própria tecnologia, então ele sabe que tem algum controle sobre o desempenho. Além disso, requer a anuência da entidade para projetos comerciais.
Umé não ouviu reclamações de Cruise ou de outras celebridades que ele parodiou usando IA. Ele disse que entrou em contato com a gerência de Cruise, propondo remover os vídeos e entregar o controle da conta da TikTok se Cruise não aprovasse o que eles estavam fazendo. Ume disse que simplesmente recebeu uma resposta indicando que a mensagem foi recebida. Cruise não comentou publicamente sobre as falsificações, e os funcionários da Cruise não responderam aos pedidos de comentários da CNN Business.
“Se alguma dessas celebridades ficar enjoada do que estou fazendo, serei o primeiro a removê-lo, porque essa não é minha intenção”, disse Umé. “Mas eu gosto de hipnotizar as pessoas.”
Enquanto isso, no TikTok, o relato do deeptomcruise adicionou um deepfake de outras celebridades, incluindo um vídeo da cantora Mariah Carey no final de julho. Vestida de couro preto, enquanto está sentada em uma motocicleta, ela coloca um capacete preto com orelhas de gato.
– Aposto que você nunca pensou que veria isso, hein? Ele diz com um sorriso e sai do estacionamento.
