Cohere defende controle total de infraestrutura para soberania em IA
Executivo da Cohere afirma que soberania em IA corporativa exige controle sobre modelos, dados e infraestrutura para evitar dependência externa.
Pontos principais
- A soberania de IA corporativa depende do controle sobre GPUs, nuvem privada e frameworks de agentes.
- O uso de modelos menores e específicos é recomendado para otimizar custos e desempenho em relação aos modelos de fronteira.
- O roteamento de modelos permite que empresas mantenham dados sensíveis em ambientes on-premises.
- A busca multimodal tornou-se um componente essencial nos fluxos de trabalho de agentes de IA.
Rachad Alao, vice-presidente da Cohere, defende que a soberania em inteligência artificial no setor corporativo vai além da segurança básica de firewalls. Segundo o executivo, as empresas precisam de controle total sobre a infraestrutura de nuvem, o hardware de GPUs e os frameworks de agentes para evitar a dependência excessiva de fornecedores externos. A estratégia proposta pela companhia foca no uso de modelos menores e especializados, em vez de depender exclusivamente de modelos de fronteira, permitindo um roteamento eficiente que equilibra custo e performance. Essa abordagem é crucial em um cenário onde o consumo de tokens cresce exponencialmente devido à complexidade dos agentes que realizam raciocínio autônomo. Ao manter dados sensíveis em ambientes on-premises e integrar capacidades de busca multimodal, as organizações conseguem maior autonomia e segurança em seus fluxos de trabalho de IA.
Comentários
Carregando comentários...