O filtro de beleza Bold Glamour do Tiktok preocupa especialistas em IA sobre a realidade

Nov 18, 2023

Um efeito especial em tempo real inundou o TikTok nas últimas semanas, cinzelando queixos, aumentando lábios e servindo contornos de maquiagem no estilo Kardashian para qualquer pessoa com um smartphone. Embora esteja sendo apresentado como um filtro de beleza notavelmente convincente, os pesquisadores de IA dizem que o efeito não deixa pistas de sua presença, dando a ele uma capacidade sem precedentes de manipular pessoas dentro e fora de um aplicativo que atraiu o escrutínio de governos de todo o mundo.

O Bold Glamour, que foi baixado mais de 16 milhões de vezes desde seu lançamento no mês passado, oferece um dos efeitos mais convincentes que qualquer pessoa com um smartphone pode usar para criar uma versão aprimorada ou avatar de si mesma em tempo real, dizem criadores de filtros independentes , pesquisadores e tecnólogos criativos.

Ao contrário de outros filtros de fotos, Bold Glamour não vacila quando há muito movimento ou se uma mão passa na frente do rosto do usuário. Ele altera os rostos em tempo real e não há cílios postiços perdidos. Os usuários estão puxando suas bochechas e puxando suas sobrancelhas porque não conseguem acreditar no que estão vendo.

A porta-voz do TikTok, Alexa Youssefian, recusou-se a discutir a tecnologia por trás do filtro, mas usuários e pesquisadores dizem que o filtro lê os tons de pele das pessoas, percebe o gênero e a cor do cabelo e, em seguida, determina a quantidade de maquiagem, preenchimento labial e endurecimento da pele a serem aplicados em um determinado SoCal. visual de influenciador. E a IA pode estar conduzindo esse processo.

“Parece que o filtro usou o rosto de Kylie Jenner como modelo para um algoritmo de aprendizado de máquina e depois misturou o rosto dela ao meu”, disse Laura Gouillon, criadora de filtros de mídia social, ao The Washington Post.

O efeito provavelmente está aprendendo técnicas de maquiagem, disse ela. “Nos filtros de beleza anteriores, uma malha de rosto era sobreposta ao rosto do usuário, então, se uma mão ou cabelo cobria o rosto, o efeito falhava”, disse Gouillon. "Este filtro provavelmente está usando tecnologia de aprendizado de máquina para combinar esses recursos em seu rosto."

Hany Farid, professor de ciência da computação da Universidade da Califórnia em Berkeley, disse que o filtro provavelmente está usando "IA generativa", uma tecnologia que estuda zilhões de imagens e amostras de texto, muitas vezes extraídas da web, para criar novas imagens ou palavras. (Farid foi membro do conselho consultivo de conteúdo do TikTok de 2020 a 2022.)

Luke Hurd, que cria os filtros do Snapchat e do Instagram, twittou que o efeito Bold Glamour está usando aprendizado de máquina.

"Eles usam algo chamado Generative Adversarial Network", disse ele. "Eles pegam uma imagem do usuário e a comparam com um conjunto de dados de outras imagens e redesenham seu rosto, pixel por pixel, na saída do feed da câmera."

A acessibilidade do filtro é o que o diferencia dos meios anteriores de manipulação visual, disse Halsey Burgund, um tecnólogo criativo residente no MIT Open Documentary Lab.

Como experimentar a nova tecnologia de IA da qual todos estão falando

"A capacidade de manipular a si mesmo de forma crível, e logo aos outros, em vídeos tornou-se comoditizada [através desse efeito], e esse é o verdadeiro salto", disse ele. "Essa tecnologia viveu em laboratórios, empresas e em ambientes mais esotéricos na web por um tempo, mas agora todos podem fazer isso de graça e ver como funciona."

Vídeos com Bold Glamour podem ser postados na internet sem um rótulo que signifique que o usuário aplicou o efeito hiper-realista, e os pesquisadores alertaram que ficará cada vez mais difícil acreditar no que é real online.

“O efeito Bold Glam é um sinal de que, muito em breve, a tecnologia que cria deepfakes também poderá ser integrada”, disse Memo Akten, professor de arte e design computacional da Universidade da Califórnia em San Diego. “Isso não significa que a tecnologia será lançada, apenas que é um sinal de que pode ser lançada”.

Deepfakes são vídeos ou outras mídias que usam inteligência artificial para mostrar pessoas fazendo coisas que nunca aconteceram de verdade.

A Big Tech estava se movendo com cautela na IA. Então veio o ChatGPT.