O avanço acelerado da Inteligência Artificial tem transformado diversos setores, mas também ampliado o uso indevido de tecnologias capazes de gerar imagens e vídeos realistas. Ferramentas acessíveis permitem a criação de conteúdos falsos que violam a dignidade humana, atingem a privacidade e podem manipular a opinião pública, acendendo um alerta entre especialistas e autoridades.
Um dos pontos mais graves envolve a criação de falsos nudes, quando imagens comuns de mulheres são manipuladas por IA para gerar conteúdo íntimo sem consentimento. Conhecidas como deepfakes, essas montagens causam danos psicológicos, constrangimento público e chantagens. No Brasil, a divulgação de imagens íntimas sem autorização é crime, mas a identificação dos responsáveis ainda enfrenta dificuldades quando o conteúdo é produzido por algoritmos.
Além disso, a tecnologia tem sido usada para espalhar desinformação, inclusive com vídeos e falas falsas atribuídas a figuras públicas, o que representa risco ao processo democrático. Especialistas orientam cautela na exposição de imagens, verificação das fontes antes de compartilhar conteúdos e denúncia de casos suspeitos. O debate sobre ética, regulação e educação digital segue como um dos principais desafios diante da expansão da IA.

