Avatares hiper-realistas criados por inteligência artificial estão sendo usados em redes sociais para produzir vídeos em escala, atrair seguidores e gerar receita com monetização, comissões, publicidade e venda de produtos digitais.
Os personagens aparecem em plataformas como TikTok, YouTube e Instagram e atuam como influenciadores, vendedores e supostos especialistas. A produção pode incluir roteiros traduzidos para diferentes idiomas e interpretados por dezenas de avatares para alcançar públicos distintos.
Segundo pesquisadores ouvidos na reportagem, os algoritmos ajudam a direcionar esse conteúdo a usuários interessados em temas específicos. Entre os nichos identificados estão entretenimento infantil, história, relacionamentos e saúde.
Na área da saúde, especialistas alertam para o risco de vídeos com recomendações e tratamentos sem comprovação científica. A organização Ctrl Z relata ter encontrado comentários de pessoas que afirmam seguir orientações apresentadas pelos avatares e abandonar tratamentos convencionais.
Parte dessa produção é classificada como “slop”, termo usado para descrever conteúdos gerados em massa por inteligência artificial, geralmente com baixa qualidade informativa. No YouTube, vídeos desse tipo podem ser usados para acumular visualizações e inscritos até que o canal atinja os requisitos de monetização.
Depois de alcançar audiência, os perfis podem ser direcionados para a divulgação de infoprodutos, utilizados em campanhas ou revendidos. O modelo também pode explorar medo, curiosidade e esperança para aumentar o engajamento, especialmente em temas que envolvem saúde e ganhos financeiros.
Pesquisadores defendem que as plataformas adotem sinalização obrigatória e destacada para conteúdos produzidos por inteligência artificial. Eles também criticam a dependência da autodeclaração dos criadores e pedem maior moderação de materiais monetizados que possam induzir usuários ao erro.
O uso de avatares sintéticos, por si só, não configura crime, segundo a especialista em cibersegurança Gisele Kauer. No entanto, a utilização dessas ferramentas para enganar pessoas e obter vantagem pode se relacionar a crimes já previstos na legislação brasileira, como estelionato, fraude, exercício ilegal da medicina e falsidade ideológica.
O YouTube informou que exige a identificação de mídias fotorrealistas alteradas ou sintéticas e que pode aplicar rótulos de forma proativa. A empresa também afirmou que remove conteúdos que violem suas diretrizes, incluindo regras contra desinformação médica.
O TikTok declarou que exige a sinalização de conteúdos gerados por IA e proíbe vídeos que induzam o público ao erro. A Meta, responsável por Instagram e Facebook, informou que não comentaria o caso.
Fonte: g1