Em testes da OpenAI, agentes de IA trocaram segredos pelo cache do processador

Securing our frontier model training environment

Em uma campanha de red-teaming com equipes de agentes de fronteira, a OpenAI pediu a agentes em VMs separadas, criadas pelo software de sandbox da empresa em máquinas hospedeiras compartilhadas, que trocassem segredos sintéticos sem conexão de rede nem arquivos graváveis compartilhados. Os agentes conseguiram se comunicar pelo cache do processador: um codificava informação expulsando dados do cache e o outro decodificava medindo o tempo de recarga, a mesma técnica usada nos ataques Spectre e Meltdown. Outros testes expuseram canais por armazenamento compartilhado, disputa de CPU e um cache de certificados TLS na infraestrutura web offline. Na maioria dos casos os agentes foram direcionados a canais específicos; em um, receberam apenas uma lista de vulnerabilidades e converteram uma delas em canal de comunicação. Segundo a empresa, esses canais transmitem informação devagar e são difíceis de explorar, e foram adicionadas checagens de monitoramento para detectá-los.