Detectar texto escrito por IA é um desafio, mesmo para IA. Aqui está o porquê
Pessoas e instituições estão lutando com as consequências dos textos escritos por IA. Os professores querem saber se o trabalho dos alunos reflecte a sua própria compreensão; os consumidores querem saber se um anúncio foi escrito por um ser humano ou por uma máquina. Escrever regras para reger o uso de conteúdo gerado por IA é relativamente fácil. Aplicá-las depende de algo muito mais difícil: detectar de forma confiável se um trecho de texto foi gerado por inteligência artificial. Alguns estudos investigaram se os humanos conseguem detectar texto gerado por IA. Por exemplo, foi demonstrado que pessoas que usam intensamente ferramentas de escrita de IA detectam com precisão textos escritos por IA. Um painel de avaliadores humanos pode até superar ferramentas automatizadas em um ambiente controlado. Contudo, essa experiência não é generalizada e o julgamento individual pode ser inconsistente. As instituições que precisam de consistência em grande escala recorrem, portanto, a detectores de texto automatizados de IA. O problema da detecção de texto por IA O fluxo de trabalho básico por trás da detecção de texto por IA é fácil de descrever. Comece com um trecho de texto cuja origem você deseja determinar. Em seguida, aplique uma ferramenta de detecção, geralmente um sistema de IA, que analise o texto e produza uma pontuação, geralmente expressa como uma probabilidade, indicando a probabilidade de o texto ter sido gerado por IA. Use a pontuação para informar decisões posteriores, como impor uma penalidade por violação de uma regra. Essa descrição simples, entretanto, esconde uma grande complexidade. Ele encobre uma série de suposições básicas que precisam ser explicitadas. Você sabe quais ferramentas de IA podem ter sido usadas para gerar o texto? Que tipo de acesso você tem a essas ferramentas? Você pode executá-los sozinho ou inspecionar seu funcionamento interno? Quanto texto você tem? Você tem um único texto ou uma coleção de escritos reunidos ao longo do tempo? O que as ferramentas de detecção de IA podem ou não dizer depende fundamentalmente das respostas a perguntas como essas. Há um detalhe adicional que é especialmente importante: o sistema de IA que gerou o texto incorporou deliberadamente marcadores para facilitar a detecção posterior? O texto com marca d’água parece texto comum, mas os marcadores são incorporados de maneiras sutis que não se revelam à inspeção casual. Alguém com a chave certa pode verificar posteriormente a presença desses marcadores e verificar se o texto veio de uma fonte gerada por IA com marca d’água. Esta abordagem, no entanto, depende da cooperação dos fornecedores de IA e nem sempre está disponível.
Publicado: 2025-12-23 09:30:00
fonte: www.fastcompany.com
