Um detetor pode obter bons resultados ao aprender uma diferença que os seus criadores não pretendiam ensinar. Para perceber se aprendeu algo útil sobre geração de imagens, comece pelos exemplos que recebeu — e pelas diferenças que o treino o recompensou por encontrar.

Imagine um conjunto de treino com fotografias de um lado e imagens geradas do outro. Os rótulos estão corretos. O modelo funciona bem num teste obtido por divisão aleatória. Mas as fotografias têm sobretudo compressão JPEG, enquanto os exemplos gerados chegam por outro processo de exportação.

O modelo não tem obrigação de preferir a explicação pretendida. Se o histórico de processamento ajudar a prever o rótulo, pode tornar-se um atalho útil durante o treino. O sucesso nesse conjunto pode assim exagerar o sucesso na pergunta que realmente interessa.

Uma imagem passa por um codificador congelado e uma cabeça treinável; os rótulos supervisionam a cabeça.
Um exemplo de investigação: o codificador mantém-se fixo e os exemplos rotulados treinam a cabeça de classificação. Esquema.

O rótulo define a lição

A aprendizagem supervisionada começa com exemplos e respostas esperadas. Um classificador recebe os dados da imagem, produz uma previsão e calcula uma perda em função do rótulo fornecido. A otimização ajusta os parâmetros treináveis para reduzir essa perda ao longo de muitos exemplos.

Os rótulos precisam de uma definição operacional. «IA» significa geração completa? Inclui uma fotografia cujo fundo foi substituído por geração? A classe fotográfica admite edição convencional? A extensão dos ficheiros não resolve estas perguntas.

Registos de criação conhecidos e procedimentos de recolha documentados são um ponto de partida mais sólido do que rótulos atribuídos por outro detetor. Caso contrário, o novo modelo pode aprender a reproduzir os erros do anterior.

No ImageSignals, a metodologia do piloto existente usa os registos de origem como referência e compara com eles as previsões dos detetores. A amostra de conveniência tem limites explícitos; não representa um levantamento das imagens na internet. Essa distinção deve acompanhar qualquer uso editorial dos resultados. [8]

Dos píxeis a uma representação

Uma entrada RGB de 224 por 224 contém 150 528 valores de canais. A conta ajuda a imaginar a entrada, mas 224 é um exemplo, não uma regra universal. Há sistemas que redimensionam, outros que recortam, outros que combinam várias vistas ou trabalham noutras resoluções.

A rede neuronal transforma a entrada em representações intermédias. Um embedding é uma dessas representações: um vetor de valores que pode alimentar uma regra de decisão. As suas dimensões não costumam corresponder a conceitos humanos com nome. Seria enganador chamar «dedos» a uma barra e «sombras» a outra sem demonstrar essa interpretação.

O segundo vídeo do ImageSignals segue um exemplo concreto da investigação: um codificador CLIP previamente treinado e uma cabeça de classificação simples. Ojha, Li e Lee estudaram classificação linear e métodos de vizinhos mais próximos nesse espaço, com melhor transferência para os geradores não vistos que avaliaram. É evidência da utilidade de uma representação numa avaliação definida, não uma prova de deteção universal para sempre. [1]

Aprender a fronteira pode ser mais simples do que aprender a representação

Numa cabeça de classificação linear, a pontuação pode escrever-se assim:

pontuação = w₁z₁ + w₂z₂ + … + wₙzₙ + b

z é a representação, w contém pesos aprendidos e b é um termo de desvio. Pode definir-se que valores mais altos favorecem a classe gerada. A função de perda relaciona essa pontuação com o rótulo esperado.

Se o codificador estiver congelado, o treino altera a cabeça e mantém o codificador fixo. No treino de ponta a ponta, também podem mudar os parâmetros internos do codificador. São opções diferentes; chamar ao sistema «rede neuronal» não esclarece qual foi usada.

A geometria de um vídeo explicativo é uma analogia. Um gráfico em duas dimensões não é automaticamente uma projeção medida do espaço de representações. Pontos coloridos também não são previsões experimentais sem valores e proveniência documentados. Os diagramas ilustrativos devem manter essa identificação ao passar para o artigo.

O que pode ser uma característica útil?

Não existe uma única família de características comum a todos os detetores. A investigação estudou diferenças espectrais, relações entre píxeis vizinhos e representações aprendidas em tarefas visuais mais amplas. Durall e colegas analisaram propriedades espectrais associadas a certos processos de aumento de resolução. Tan e colegas desenvolveram uma abordagem baseada em relações locais entre píxeis. Nenhum destes trabalhos estabelece uma assinatura permanente de todas as imagens sintéticas. [2, 3]

Um espectro de frequências descreve a variação espacial de uma imagem. Estruturas repetidas podem tornar-se visíveis nessa representação mesmo quando são discretas na imagem. Mas o redimensionamento e a compressão também afetam essas estruturas. Um pico, por si só, não identifica geração por IA.

Por isso, uma demonstração de aumento de resolução precisa de uma legenda clara: ilustra um efeito de processamento. Não reproduz a atenção interna de um detetor, nem transforma a fotografia de exemplo numa imagem gerada.

Quando uma característica se torna um atalho

Grommelt e colegas investigaram enviesamentos de compressão e dimensão no GenImage. O seu preprint mostra como o processamento desigual entre classes pode distorcer aquilo que os detetores estudados aprendem e a avaliação da sua generalização. A conclusão diz respeito aos dados e modelos testados, não a todos os detetores. [4]

Uma comparação merece números exatos. Na Tabela 4, a precisão média entre geradores do ResNet50 passou de 71,68% para 82,74%, entre as condições de treino clássico e condicionado. São 11,06 pontos percentuais, no protocolo dos autores. Não é um ganho universal obtido ao converter um formato, nem um teste do ImageSignals.

O PNG usa compressão sem perdas: preserva a informação dos píxeis, em vez de a descartar como um codec com perdas. A diferença relevante é a ausência dos artefactos da compressão com perdas do JPEG, não a ausência de toda a compressão. A extensão do ficheiro também não estabelece se a imagem passou anteriormente por codificação JPEG. [9]

Controlar compressão e dimensão permite investigar determinados fatores de confusão. Não demonstra que desapareceram todos os atalhos. As duas coleções podem continuar a diferir nos temas, nas comunidades de origem ou no estilo visual.

Melhores dados permitem melhores comparações

Uma linha de investigação procura aproximar o conteúdo das duas classes. O B-Free constrói exemplos usando reconstruções autocondicionadas e aumento de dados baseado no conteúdo, reduzindo algumas diferenças semânticas fáceis. O nome identifica um método; não garante que o conjunto ficou livre de qualquer enviesamento. [5]

A diversidade também conta. O Community Forensics investiga o treino com muitos geradores e estuda o efeito dessa diversidade mantendo fixo o número de imagens numa experiência. Os resultados apoiam uma cobertura mais ampla como uma via para melhorar a transferência. Milhares de checkpoints não devem ser descritos como milhares de arquiteturas independentes, e a diversidade de geradores não representa todas as condições de aquisição. [6]

A pergunta editorial não é, portanto, apenas «quantas imagens?». É «que diferenças pode o modelo explorar e que condições continuam por testar?». Mais exemplos do mesmo processo limitado podem acrescentar menos cobertura útil do que uma comparação bem desenhada.

Um conjunto de teste pode ser independente apenas no nome

Uma divisão aleatória pode colocar quase duplicados, imagens da mesma fonte ou saídas de geradores muito próximos nos dois lados. Pode avaliar condições familiares e deixar por resolver a transferência.

Uma avaliação mais informativa separa o treino da escolha do limiar e do teste final. Pode reservar famílias inteiras de geradores ou fontes fotográficas, controlar o processamento das duas classes e comparar cada original com as suas versões transformadas. O objetivo é fazer corresponder a afirmação ao teste.

O GenImage original inclui tarefas entre geradores e tarefas com imagens degradadas. São avaliações distintas. A precisão em ficheiros limpos e familiares não substitui o desempenho após compressão ou num gerador posterior. [7]

Isto não significa que todos os novos geradores derrotem todos os detetores. Significa que o sucesso precisa de ser demonstrado, em vez de herdado de um benchmark conhecido.

O que deve explicar uma boa descrição do treino

Pergunte o que significam os rótulos, de onde vieram ambas as classes, que parâmetros foram treinados e que geradores e fontes fotográficas ficaram de fora do treino. Compare o pré-processamento de treino com o da utilização. Por fim, esclareça se o número publicado mede ordenação, decisões num limiar ou calibração de probabilidades.

Nenhuma resposta resolve isoladamente a qualidade do modelo. Em conjunto, ajudam a perceber se o resultado impressionante se aplica à coleção que precisa de analisar.

A nossa metodologia explica o âmbito do piloto do ImageSignals e a interpretação dos resultados. Para perceber o significado de uma pontuação depois do treino, leia Como funcionam os detetores de imagens geradas por IA, para aprofundar a interpretação do resultado.

O treino recompensa distinções úteis para a tarefa fornecida. O desafio científico é conseguir que continuem a funcionar para além da coleção que as ensinou.

Ver o vídeo

How an AI Image Detector Learns the Difference · ImageSignals · 5:34 · vídeo em inglês.

Ver no YouTube.

Este artigo parte da investigação desenvolvida para a série de vídeos do ImageSignals e aprofunda-a num formato pensado para leitura.

Fontes e leituras adicionais

  1. Ojha, Li e Lee, Towards Universal Fake Image Detectors That Generalize Across Generative Models, CVPR 2023, método e avaliação.
  2. Durall et al., Watch Your Up-Convolution, CVPR 2020.
  3. Tan et al., Rethinking the Up-Sampling Operations in CNN-based Generative Network for Generalizable Deepfake Detection, CVPR 2024.
  4. Grommelt et al., Fake or JPEG?, preprint de 2024, análise de enviesamentos e Tabela 4.
  5. Guillaro et al., A Bias-Free Training Paradigm for More General AI-generated Image Detection, CVPR 2025.
  6. Park e Owens, Community Forensics, CVPR 2025, em especial §4.3.
  7. Zhu et al., GenImage, NeurIPS 2023, documentação oficial.
  8. ImageSignals, Metodologia e transparência. Não houve novo treino nem execução de benchmarks para este artigo.
  9. W3C, PNG Specification, Third Edition, definição de formato sem perdas.

Leituras relacionadas