Tanto a Anthropic quanto a OpenAI estão contratando especialistas em armas químicas e explosivos para prevenir 'uso catastrófico' de seus modelos de IA. A Anthropic busca um expert com mínimo de cinco anos de experiência em defesa contra armas químicas e conhecimento em dispositivos de dispersão radiológica.

A OpenAI oferece até $455 mil para pesquisador similar em seu time de Preparedness — quase o dobro do oferecido pela Anthropic. Os contratados serão responsáveis por desenhar guardrails para como os modelos respondem a prompts relacionados a armas e conduzir 'respostas rápidas' a escalações.