DeepSeek decolou como uma estrela da IA há um ano – mas também poderia ser um grande risco de segurança? Esses especialistas pensam assim
Especialistas descobrem que DeepSeek-R1 produz código perigosamente inseguro quando termos políticos são incluídos em prompts Metade dos prompts politicamente sensíveis fazem com que o DeepSeek-R1 se recuse a gerar qualquer código. Segredos codificados e manipulação de entrada insegura freqüentemente aparecem em prompts politicamente carregados. CrowdStrike afirma que a saída do modelo pode variar significativamente dependendo de modificadores contextuais aparentemente irrelevantes. A equipe testou 50 tarefas de codificação em várias categorias de segurança com 121 configurações de palavras-gatilho, com cada prompt executado cinco vezes, totalizando 30.250 testes, e as respostas foram avaliadas usando uma pontuação de vulnerabilidade de 1 (seguro) a 5 (criticamente vulnerável). Melhores escolhas para você Tópicos politicamente sensíveis corrompem a produçãoO relatório revela que quando termos políticos ou sensíveis, como Falun Gong, Uigures ou Tibete, foram incluídos nos prompts, o DeepSeek-R1 produziu código com sérias vulnerabilidades de segurança. Isso incluía segredos codificados, manuseio inseguro da entrada do usuário e, em alguns casos, código completamente inválido. palavras.Em experimentos envolvendo prompts mais complexos, o DeepSeek-R1 produziu aplicativos funcionais com formulários de inscrição, bancos de dados e painéis de administração.Inscreva-se no boletim informativo TechRadar Pro para obter todas as principais notícias, opiniões, recursos e orientações que sua empresa precisa para ter sucesso!No entanto, esses aplicativos não tinham gerenciamento e autenticação básicos de sessão, deixando dados confidenciais do usuário expostos – e em testes repetidos, até 35% das implementações incluíam hash de senha fraco ou ausente.Prompts mais simples, como solicitações para sites de torcedores de futebol, produzidos problemas menos graves. CrowdStrike, portanto, afirma que gatilhos politicamente sensíveis impactaram desproporcionalmente a segurança do código. Não perca estes O modelo também demonstrou um interruptor de interrupção intrínseco – já que em quase metade dos casos, DeepSeek-R1 se recusou a gerar código para certos prompts politicamente sensíveis após planejar inicialmente uma resposta. O exame dos traços de raciocínio mostrou que o modelo produziu internamente um plano técnico, mas acabou recusando a assistência. tendem a dar as ideias da grande mídia, mas isso pode contrastar fortemente com outros meios de comunicação confiáveis. DeepSeek-R1 continua sendo um modelo de codificação capaz, mas esses experimentos mostram que ferramentas de IA, incluindo ChatGPT e outras, podem introduzir riscos ocultos em ambientes corporativos. novo risco da cadeia de suprimentos que pode afetar a qualidade do código e a segurança geral do sistema. Siga o TechRadar no Google Notícias e adicione-nos como fonte preferencial para obter notícias, análises e opiniões de especialistas em seus feeds. Certifique-se de clicar no botão Seguir! E é claro que você também pode seguir o TechRadar no TikTok para notícias, análises, unboxings em formato de vídeo e obter atualizações regulares nossas no WhatsApp também.
Publicado: 2025-11-25 20:28:00
fonte: www.techradar.com
