Anthropic relata ataque cibernético baseado em IA ligado à China
Uma equipe de pesquisadores descobriu o que dizem ser o primeiro uso relatado de inteligência artificial para direcionar uma campanha de hackers de forma amplamente automatizada. A empresa de IA Antrópica disse esta semana que interrompeu uma operação cibernética que seus pesquisadores vinculavam ao governo chinês. A operação envolveu a utilização de um sistema de inteligência artificial para dirigir as campanhas de hackers, que os investigadores chamaram de um desenvolvimento perturbador que poderia expandir enormemente o alcance dos hackers equipados com IA. Embora as preocupações sobre a utilização da IA para conduzir operações cibernéticas não sejam novas, o que é preocupante na nova operação é o grau em que a IA foi capaz de automatizar parte do trabalho, disseram os investigadores. “Embora tenhamos previsto que estas capacidades continuariam a evoluir, o que nos chamou a atenção foi a rapidez com que o fizeram em grande escala”, escreveram no seu relatório. A operação teve um alcance modesto e visou apenas cerca de 30 indivíduos que trabalhavam em empresas de tecnologia, instituições financeiras, empresas químicas e agências governamentais. A Anthropic percebeu a operação em setembro e tomou medidas para encerrá-la e notificar os afetados. Os hackers apenas “tiveram sucesso num pequeno número de casos”, de acordo com a Anthropic, que observou que, embora os sistemas de IA sejam cada vez mais utilizados numa variedade de ambientes de trabalho e lazer, também podem ser transformados em armas por grupos de hackers que trabalham para adversários estrangeiros. A Anthropic, criadora do chatbot generativo de IA Claude, é uma das muitas empresas de tecnologia que lançam “agentes” de IA que vão além da capacidade de um chatbot de acessar ferramentas de computador e realizar ações em nome de uma pessoa. “Os agentes são valiosos para o trabalho diário e a produtividade – mas, nas mãos erradas, podem aumentar substancialmente a viabilidade de ataques cibernéticos em grande escala”, concluíram os investigadores. “É provável que esses ataques só aumentem em eficácia.” Um porta-voz da embaixada da China em Washington não retornou imediatamente uma mensagem solicitando comentários sobre o relatório. A Microsoft alertou no início deste ano que os adversários estrangeiros estavam cada vez mais a adoptar a IA para tornar as suas campanhas cibernéticas mais eficientes e menos intensivas em mão-de-obra. Os adversários da América, bem como os grupos criminosos e as empresas de hackers, exploraram o potencial da IA, utilizando-a para automatizar e melhorar os ataques cibernéticos, para espalhar desinformação inflamatória e para penetrar em sistemas sensíveis. A IA pode traduzir e-mails de phishing mal formulados para inglês fluente, por exemplo, bem como gerar clones digitais de altos funcionários do governo.
Publicado: 2025-11-14 17:30:00
fonte: www.fastcompany.com
