Relembrando um ano de erros de IA
Mantenha-se informado com atualizações gratuitasBasta inscrever-se no Work & Careers myFT Digest – entregue diretamente na sua caixa de entrada. As pessoas, com razão, passam muito tempo se preocupando se a IA algum dia será inteligente o suficiente para nos destruir. Mas e se já tiver começado?Este pensamento ocorreu enquanto eu pesquisava uma lista que tenho mantido de erros notáveis de IA em 2025 ou, para ser mais preciso, dos seres humanos abatidos pela utilização do que nos dizem ser a inteligência artificial relativamente básica de hoje.A tecnologia pode muito bem ser benigna. Mas a lista ainda é um lembrete de que nossas qualidades humanas de preguiça, ganância e ambição nos tornam carne fácil para isso. Isso é evidente em minha própria indústria, onde o ano começou com alguns usuários do aplicativo da BBC recebendo a notícia surpreendente de que o grande tenista espanhol, Rafael Nadal, a) se tornou brasileiro e b) revelou que era gay. Posteriormente, a gigante da tecnologia suspendeu o recurso, que também emitiu outros alertas falsos. Que tipo de pressões competitivas podem ter levado ao seu lançamento? Essa é uma questão que me perguntei alguns meses depois, quando o jornal Chicago Sun-Times disse que teve um “momento de aprendizagem” depois de apresentar aos seus leitores uma lista de leituras de verão que incluía recomendações de livros que, por assim dizer, não existiam. A lista veio de um freelancer que trabalhou com um dos “parceiros de conteúdo” do jornal e usou IA. artigo “ainda mais rápido” com “estatísticas contundentes de uma linha” para “máximo impacto no leitor”. É fácil cometer erros no jornalismo. Eu mesmo os fiz com muita frequência. Mas é preocupante imaginar uma indústria assolada por problemas financeiros sendo cada vez mais atraída por ferramentas de IA que economizam custos e que cometem ainda mais erros. Por outro lado, a confusão com os jornais raramente leva ao hospital. O mesmo não pode ser dito das informações de IA que um homem usou para ajudar a reduzir a ingestão de sal. Ele acabou sendo hospitalizado com uma condição conhecida como bromismo, o que levou os pesquisadores a alertar em agosto que o uso de IA para aconselhamento médico pode levar a “resultados adversos evitáveis para a saúde”. Os mundos da medicina e da mídia não estão sozinhos. A lei sofreu uma infinidade de vaias de IA. Na Austrália, um advogado sénior pediu desculpa a um juiz que presidia um caso de homicídio que foi adiado por submissões assistidas por IA que incluíam citações fictícias e casos inexistentes. “Correndo o risco de ser eufemismo”, disse o juiz, “a forma como estes acontecimentos se desenrolaram é insatisfatória”. Você mesmo pode ler sobre o assunto em um banco de dados que rastreia decisões legais envolvendo alucinações de IA. Ele encontrou quase 700 exemplos desde abril de 2023 – cinco meses após o lançamento público do ChatGPT. Há menos em outros serviços profissionais? milhões em IA para manter e aumentar sua vantagem competitiva. Não existe tal desculpa para o domínio em que alguns dos mais notáveis acidentes da IA continuaram a ocorrer este ano: a política. Não me refiro aqui à capacidade da IA de espalhar desinformação em massa e outras ameaças à democracia. É a forma mais mundana, mas preocupante, como os políticos de todo o mundo adotaram esta tecnologia problemática. “Não votamos no ChatGPT” tornou-se um refrão familiar desde que o primeiro-ministro da Suécia, Ulf Kristersson, disse a um repórter que consultou ferramentas de IA para obter uma segunda opinião sobre certas coisas. Outros utilizaram a IA no que se revelou serem submissões imprecisas às audiências legislativas. Mas a medida mais difícil de compreender ocorreu em Setembro, na Albânia, onde o primeiro-ministro Edi Rama apresentou um “ministro” governamental gerado pela IA, chamado Diella, como membro do seu gabinete. Pode ser uma medida simbólica, uma vez que a constituição do país exige que os ministros sejam cidadãos com pelo menos 18 anos. Mas é uma medida desanimadora. Já é difícil saber onde você está com um humano, apesar de todas as nossas falhas e falhas. Com a IA, como estamos aprendendo rapidamente, isso é praticamente impossível.
Publicado: 2025-12-21 05:00:00
fonte: www.ft.com
