Estudo de IA afirma que ferramentas de imagem autoexecutáveis continuam transformando diferentes prompts nas mesmas imagens enfadonhas
Um novo artigo de pesquisa que examina sistemas autônomos de IA encontrou uma limitação nova, mas estranha, na criatividade das máquinas. Quando dois modelos de IA de última geração, um que gera imagens e outro que as descreve, são operados em circuitos fechados sem intervenção humana, eles derivam consistentemente para resultados quase idênticos e de aparência genérica. Os pesquisadores emparelharam a ferramenta geradora de imagem Stable Diffusion XL com LLaVA, uma ferramenta de descrição de imagem. Eles criaram ciclos de feedback onde o sistema descrevia uma imagem, regenerava-a com base nessa descrição e repetia esse processo 100 vezes. Partindo de diversos prompts iniciais em 700 experimentos independentes, cada sequência convergiu para aproximadamente 12 agrupamentos visuais apresentando faróis tempestuosos, grandes catedrais, interiores palacianos e estéticas similares de fotografia. Os resultados foram consistentes, independentemente de como as configurações de temperatura afetaram a aleatoriedade na amostragem de IA. As temperaturas mais altas aumentaram a variação entre as etapas, mas não conseguiram evitar que os sistemas eventualmente se acomodassem nos mesmos atratores visuais insípidos. Muitas novas ferramentas de IA funcionam de maneira semelhante, usando ciclos que se alimentam. Se estes sistemas não forem geridos, podem aumentar os preconceitos e repetições existentes nos dados de formação. O estudo mostra padrões semelhantes aos de como os humanos compartilham a cultura. Histórias e imagens muitas vezes se tornam mais simples à medida que as pessoas as compartilham com o tempo. Os investigadores concluem que a colaboração entre humanos e IA, em vez de sistemas de IA totalmente autónomos, seria mais importante para preservar a variedade e a novidade no trabalho criativo gerado por máquinas.
Publicado: 2025-12-22 15:45:00
fonte: www.extremetech.com
