Databricks CEO: Stop Scaring People About AI

Em conversa com os sócios-gerais da Andreessen Horowitz (a16z), Martin Casado e Sarah Wang, o cofundador e CEO da Databricks, Ali Ghodsi, discute o estado atual da inteligência artificial, criticando o pânico em torno de riscos existenciais catastróficos e apontando onde estão os verdadeiros gargalos de adoção e os riscos concretos de segurança.

O debate sobre desaceleração ("Pacing") e histeria pública

P(doom) e responsabilidade pública: Ghodsi afirma que a probabilidade de um risco existencial de aniquilação humana decorrente de IA no curto e médio prazo é "próxima de zero". Ele argumenta que líderes de tecnologia e pesquisadores têm a responsabilidade ética de não disseminar pânico infundado na sociedade, citando que o alarde gera ansiedade na população comum e distorções políticas.
Repercussão política: Casado aponta que o pânico extrapola o público geral e ativa o meio político em Washington — citando manifestações de figuras que vão de Elizabeth Warren e Bernie Sanders até Steve Bannon e governadores estaduais como Greg Abbott (Texas), gerando iniciativas desproporcionais de pausas forçadas ao desenvolvimento de IA.
A falha de comunicação do termo "Pacing": Ghodsi e Casado analisam a proposta de empresas como a Anthropic (liderada por Dario Amodei) de impor uma cadência moderada ("pacing the frontier").
- Casado argumenta que o termo foi um erro clássico de relações públicas: não satisfaz os proponentes de uma pausa total ("doomers") nem os reguladores e a indústria de segurança, soando artificial para laboratórios que continuam gastando bilhões em infraestrutura.
- Ghodsi contrapõe que existe uma "tragédia dos comuns": nenhuma empresa privada interromperá corridas de treinamento unilateralmente em meio a disputas acirradas de mercado e planos de IPO, o que as leva a pedir que entidades externas estabeleçam regras homogêneas de governança e contenção.

Auto-melhoria recursiva (RSI): os 4 critérios técnicos

Ghodsi rejeita a ideia de que os laboratórios de fronteira já estejam trilhando o caminho para a superinteligência teórica (como definida por Nick Bostrom em 2014) apenas porque usam IA para gerar código ou limpar dados (efeitos autocatalíticos que sempre existiram na computação).

Para que a Auto-Melhoria Recursiva (RSI) seja real e represente uma trajetória exponencial em direção à superinteligência, Ghodsi define quatro condições simultâneas obrigatórias:

Redução superlinear de recursos: O modelo subsequente exige substancialmente menos GPUs e infraestrutura computacional para ser treinado.
Redução no tempo de treino: O ciclo completo de desenvolvimento e convergência do próximo modelo ocorre em uma janela de tempo menor.
Ganhos de inteligência/acurácia: O modelo gerado apresenta saltos claros e mensuráveis de capacidade cognitiva e exatidão.
Loop recursivo contínuo: Os passos 1, 2 e 3 podem ser repetidos iterativamente e indefinidamente pela própria IA, sem intervenção e gargalos humanos.

A realidade atual: Hoje ocorre o oposto. Modelos de fronteira exigem entre US$ 5 bilhões e US$ 10 bilhões em poder computacional, milhares de engenheiros, data centers massivos e redes complexas para mitigar falhas de hardware e software que se tornam mais frequentes a cada ordem de grandeza adicionada.
Autocatálise vs. RSI: Casado pontua que 90% do que o mercado chama de RSI é apenas efeito autocatalítico tradicional da ciência da computação (como compiladores gerando compiladores, ou chips desenhando novos chips).

Riscos concretos: cibersegurança automatizada

Ghodsi defende que o risco real da IA reside na cibersegurança e na automação em larga escala de vetores de ataque:

Aceleração de exploração de vulnerabilidades: Em 2018–2019, o intervalo de tempo entre a divulgação de um CVE (Common Vulnerabilities and Exposures) e a criação de uma exploração armamentizada (exploit) no mercado durava entre dois a três anos. Em 2022, essa janela caiu para 8 a 9 meses; atualmente, caiu para minutos ou poucas horas.
Inadequação dos SOCs tradicionais: Centros de Operações de Segurança (SOCs) baseados em analistas humanos recebendo centenas de e-mails diários de alertas e falsos positivos não conseguem acompanhar a velocidade dos ataques gerados por agentes autônomos.
Convergência entre dados, IA e segurança: O mercado corporativo está fundindo plataformas de dados com operações defensivas (como o produto Lakewatch da Databricks). Torna-se indispensável que sistemas automatizados com IA e enxames de agentes realizem testes constantes de ameaças (threat hunting) e varreduras contínuas nas próprias infraestruturas.

Propostas de fiscalização e regulação

Os debatedores analisam três abordagens de governança para os laboratórios de ponta:

Auto-avaliação (modelo Zuckerberg/Meta): A própria corporação aplica seus protocolos internos de liberação e segurança.
Auditoria cruzada entre concorrentes (visão Musk): Ghodsi rejeita o modelo de revisão por pares direta entre laboratórios rivais, comparando a "lutadores de boxe atuando como árbitros de suas próprias lutas" em meio a interesses financeiros e IPOs iminentes.
Inspetores independentes e neutros (OpenAI/Anthropic): Ghodsi apoia a existência de terceiros técnicos qualificados e ideologicamente diversos (como o pioneiro de redes neurais Yann LeCun) inspecionando treinamentos e dados para verificar se comportamentos anômalos de RSI de fato ocorrem.

O verdadeiro gargalo corporativo: contexto organizacional e ontologia

Ghodsi enfatiza que a grande maioria das empresas não precisa de modelos mais inteligentes (capazes de resolver equações de Navier-Stokes ou vencer exames científicos complexos), mas sim de sistemas capazes de absorver o contexto interno da organização.

Limitações dos modelos puros: Modelos de fronteira chegam às empresas como novos funcionários sem histórico institucional — não conhecem processos não documentados, dinâmicas de poder, decisões de reuniões passadas ou quem são as pessoas-chave que realmente resolvem problemas.
Definição de Ontologia Organizacional: A ontologia é a representação em grafo digital de todos os conceitos, metas, departamentos, colaboradores, projetos e dados da organização, conectando quem faz o que e como o trabalho é executado.
Indexação pré-computada: Agentes genéricos hoje operam de forma lenta porque fazem buscas sequenciais demoradas através de loops de ferramentas e servidores MCP. A Databricks resolve isso calculando o grafo ontológico de forma contínua em segundo plano, funcionando como um índice invertido com respeito a permissões de acesso, privacidade e controle granular.
O impacto na Databricks e a ferramenta Genie:
- A Databricks opera internamente o maior grafo de ontologia corporativa entre seus clientes, com milhões de nós.
- Ghodsi relata um caso interno em que precisava do dado exato de penetração da Databricks nas empresas da Fortune 500 para uma apresentação do conselho. Ao pedir o número à equipe de Operações de Vendas e depois ao CFO (Dave), ambos simplesmente consultaram o Genie (agente interno alimentado pela ontologia da Databricks) e colaram a resposta gerada automaticamente.

Casos reais de uso de alto impacto

Crisis Text Line: Utilização de LLMs integrados à Databricks para detectar precocemente intenções de automutilação e suicídio em mensagens de adolescentes.
Omnipod: Modelos aplicados a dispositivos médicos para monitoramento contínuo de glicose e ajuste dinâmico na liberação de insulina em diabéticos.
Zipline: Drones guiados por IA com rotas e consumo de bateria otimizados para entrega de sangue e suprimentos médicos a refugiados em locais remotos.
Merck (Modelo TEDDY - Transformer for Enabling Drug Discovery): Arquitetura baseada em transformers que prevê o comportamento de redes reguladoras de genes (GRNs), diferenciando células causais de células meramente reativas para acelerar a descoberta de novos medicamentos.
Novo Nordisk: Redução do tempo de extração de insights em ensaios clínicos sobre obesidade e medicamentos GLP-1 de semanas para minutos.

Otimização de custos, harnesses e infraestrutura para agentes

Fim do "Token Maxing" e transição para o "Value Maxing": Após incentivar equipes a usarem IA no final de 2023, os custos explodiram no primeiro trimestre de 2024. A Databricks implementou o Unity Gateway, adotando limites orçamentários por pessoa/grupo, alertas preditivos e roteamento inteligente (smart routers) para direcionar tarefas triviais a modelos mais baratos.
Importância do Harness (Omnigent): Ghodsi destaca que trocar apenas o harness (a estrutura de orquestração e execução do modelo) mantendo exatamente a mesma versão do LLM pode gerar uma diferença de custo de até 2x.
Distribuição Open Source vs. Proprietário:
- Em termos de gasto financeiro corporativo, modelos de código aberto representam cerca de 5% dos custos totais; contudo, em volume de tokens processados, o código aberto já responde por mais de 60%.
- Startups usam intensamente modelos abertos pós-treinados com aprendizado por reforço (RL) focado na tarefa específica do produto externo, reservando modelos de fronteira para prototipagem e tarefas analíticas complexas.
Bancos de dados projetados para agentes (Neon / Lakebase):
- Mais de 90% dos bancos de dados criados no Neon / Lakebase (Postgres serverless) já são provisionados diretamente por agentes de IA, não por desenvolvedores humanos.
- O sucesso desse banco de dados junto a agentes deve-se à capacidade de inicialização em menos de um segundo, suporte a ramificações instantâneas (branching) com snapshots seguros e isolamento de custos para testes efêmeros.