As três maiores falhas de IA de 2025 – amigo, listas imaginárias de leitura de verão e tantas alucinações
A IA generativa poderia ter escrito esta introdução, mas há uma boa chance de que ela tivesse começado a ter alucinações. A alucinação, que o Google não mencionou em sua palestra de 2025 repleta de IA, levou a muitas, muitas falhas de IA em 2025. Mas não foi o único fator. Abaixo, aproveite nossas escolhas para as maiores falhas de IA do ano passado. As alucinações atingiram a academia, o governo e a lei. A IA vem inventando coisas há algum tempo; alucinar foi a palavra do ano em 2023 por um bom motivo. Mas em 2025, o problema piorou muito. As visões gerais de IA do Google podem não estar mais dizendo para você colocar cola na pizza, mas também podem alegar que o Call of Duty mais recente não existe. VEJA TAMBÉM: Visão geral da IA do Google: confiante quando errado, mas mais visível do que nunca E não é como se os acadêmicos estivessem imunes. Um estudo da Deakin University descobriu que o ChatGPT fabricou cerca de uma em cada cinco de suas citações acadêmicas, enquanto metade de suas citações continha outros elementos carregados de erros de alucinação generativa de IA. Tal prova de alucinação não impediu políticos, publicações ou advogados. O Departamento de Saúde e Serviços Humanos de Robert F. Kennedy Jr. usou IA para citar estudos que não existem. O Chicago Sun-Times publicou em maio uma lista de leituras de verão cheia de autores reais, juntamente com títulos de livros alucinados. Entretanto, advogados e litigantes em 635 casos usaram alucinações de IA nos seus argumentos. Mashable Light Speed The Friend wearable falhou rapidamenteO Friend é um dispositivo vestível que se parece com um grande pingente de colar e grava todo o áudio ao redor do usuário, envia-o para um aplicativo de telefone conectado e usa esses dados para conversar com o usuário, enviando textos em tempo real. Que incrivelmente estranho, você pode pensar. Esse dispositivo poderia aumentar nossa epidemia de isolamento e solidão, que já está sendo explorada por empresas de tecnologia? Isso não impediu que Friend gastasse mais de US$ 1 milhão em anúncios no sistema de metrô de Nova York. Os anúncios atingiram mais de 11.000 vagões, 1.000 cartazes de plataforma e 130 painéis urbanos, em uma das maiores campanhas de marketing da história do metrô de Nova York. Este Tweet não está disponível no momento. Pode estar carregando ou foi removido. O resultado? Os passageiros vandalizaram-no imediatamente. As críticas foram tão generalizadas que os próprios anúncios no metrô viraram fantasias de Halloween. Não é de admirar que as críticas sobre o Amigo tenham surgido com manchetes dizendo “todo mundo odeia isso”. A maioria dos pilotos corporativos de IA caiu. Em todo o mundo dos negócios, as empresas estão sendo informadas de que simplesmente precisam começar a usar a IA. O problema: eles simplesmente não são muito bons nisso. De acordo com um relatório do Media Lab do MIT, “The State of AI in Business 2025”, 95% das iniciativas corporativas de IA fracassam, apesar dos investimentos que custam a essas empresas algo entre US$ 30 bilhões e US$ 40 bilhões. “Mas essas ferramentas melhoram principalmente a produtividade individual, não o desempenho de lucros e perdas. Enquanto isso, sistemas de nível empresarial, personalizados ou vendidos por fornecedores, estão sendo silenciosamente rejeitados. Sessenta por cento das organizações avaliaram essas ferramentas, mas apenas 20 por cento alcançaram o estágio piloto e apenas 5 por cento alcançaram a produção. A maioria falha devido a fluxos de trabalho frágeis, falta de aprendizado contextual e desalinhamento com as operações do dia a dia.” Divulgação: Ziff Davis, empresa controladora da Mashable, entrou com uma ação judicial contra a OpenAI em abril, alegando que ela infringiu os direitos autorais de Ziff Davis no treinamento e operação de seus sistemas de IA. Tópicos Inteligência Artificial
Publicado: 2025-12-04 10:00:00
fonte: mashable.com
