CrowdStrike lança 'kill switch' para interromper agentes de IA

Na Fal.Con Europe, em Barcelona (Espanha), a CrowdStrike lançou o AI Kill Switch no Falcon Guardian, para encerrar agentes de IA que saiam do comportamento previsto.

CrowdStrike lança 'kill switch' para interromper agentes de IA — Foto: Times Brasil

03/11 às 17:49, atualizado 18:01

Pontos principais

O AI Kill Switch faz parte do Falcon Guardian e já está disponível.
Administrador autorizado encerra a execução do agente, começando pelo Gateway e, em breve, no endpoint.
Políticas do Falcon Guardian impedem o relançamento do agente no host ou grupo de hosts alvo.
O agente perde o acesso à rede corporativa, e cada ação fica registrada na trilha de auditoria.
CrowdStrike anunciou integração com o Claude Cowork, da Anthropic.
CrowdStrike anunciou planos para adquirir as empresas Fiddler AI e Dreadnode.

Durante a Fal.Con Europe, em Barcelona (Espanha), a CrowdStrike anunciou o AI Kill Switch, recurso do Falcon Guardian que permite a administradores encerrar a execução de um agente de IA que saia do comportamento previsto, impedir que ele seja relançado e cortar seu acesso à rede corporativa. Segundo a empresa, o recurso já está disponível, mas o encerramento começa pelo Gateway e só chega ao endpoint em breve. A CrowdStrike ressalva que funcionalidades não lançadas citadas no anúncio seguem em desenvolvimento e podem mudar.

O Falcon Guardian já descobre agentes de IA nas empresas, aplica política sobre o que eles podem fazer e detecta ataques contra eles. Segundo a companhia, o kill switch acrescenta a decisão de parar um agente, que fica nas mãos dos responsáveis pela segurança, e cada ação é registrada na trilha de auditoria. Daniel Bernard, diretor de negócios da CrowdStrike, disse à CNBC que a capacidade de controlar e desligar agentes é fundamental para a próxima etapa da adoção da IA. Ele compara o mecanismo a um interruptor: o sistema detecta a atividade do agente, mas uma pessoa precisa determinar se ela é legítima ou maliciosa.

Na mesma ocasião, a CrowdStrike anunciou uma integração com o Claude Cowork, da Anthropic, e planos para adquirir as empresas Fiddler AI, especializada em observabilidade de IA, e Dreadnode, de testes de segurança para IA.

Fonte primária

CrowdStrike

CrowdStrike Introduces the AI Kill Switch for AI Safety

A CrowdStrike anunciou o AI Kill Switch no Falcon Guardian, para que defensores possam "terminar agentes rebeldes na raiz, onde executam", com um humano no controle. Quando um agente sai do comportamento previsto, o administrador autorizado pode: (1) interromper a execução do agente, começando pelo Gateway e, em breve, no endpoint; (2) impedir que ele seja relançado no host ou grupo de hosts alvo, por política do Falcon Guardian; (3) cortar seu acesso à rede corporativa. Cada ação é registrada na trilha de auditoria. Segundo a empresa, o recurso se apoia no que o Falcon Guardian já faz: descobre agentes de IA na empresa, aplica política sobre o que podem fazer e detecta ataques contra eles. O comunicado afirma que o AI Kill Switch "está disponível hoje" e ressalva que funcionalidades não lançadas citadas no texto seguem em desenvolvimento e podem mudar.

Cobertura da mídia

CrowdStrike lança mecanismo de desligamento de IA que, segundo a empresa, pode interromper agentes internos fora de controle

Times Brasil • 3 nov, 17:20

CrowdStrike launches an AI kill switch in Falcon Guardian to stop rogue internal agents, and announces a Falcon Guardian integration with Claude Cowork (Samantha Subin/CNBC)

Techmeme • 3 nov, 17:30