---
title: "Avanço da automação em IA levanta debates sobre riscos existenciais"
url: https://dailyjournal.news/news/2026-09-22/avanco-da-automacao-em-ia-levanta-debates-sobre-riscos-existenciais
published: 2026-09-22T09:30:52.246285+00:00
updated: 2026-09-22T09:30:52.246285+00:00
categories: ["technology"]
source_count: 1
outlet_count: 1
language: pt-BR
publisher: "Daily Journal"
---

# Avanço da automação em IA levanta debates sobre riscos existenciais

O uso crescente de IA na automação de P&D gera preocupações entre especialistas sobre a possibilidade de sistemas autônomos de automelhoria.

## Pontos principais

- Modelos de IA já participam de 90% das tarefas de P&D em empresas como a Anthropic.
- A melhoria recursiva de si mesma permite que sistemas criem versões superiores sem supervisão humana.
- Especialistas alertam para riscos de segurança, incluindo resistência ao desligamento e competição por recursos.
- Críticos ponderam que os avanços atuais focam em automação de codificação e não em inteligência autônoma perigosa.

O desenvolvimento de sistemas de inteligência artificial capazes de realizar melhorias recursivas sem intervenção humana tem gerado um intenso debate na comunidade científica. Empresas como Anthropic e OpenAI já utilizam modelos para automatizar grande parte de seus processos de pesquisa e desenvolvimento, com a IA colaborando em até 90% das tarefas internas. Embora o conceito de melhoria recursiva exista há décadas, a aceleração na automação de codificação reacendeu preocupações sobre a perda de controle e a segurança desses sistemas.

Especialistas alertam que, caso a IA alcance a capacidade de se aprimorar plenamente sem supervisão, novos riscos existenciais podem surgir, como a resistência ao desligamento ou a disputa por recursos computacionais. Por outro lado, críticos argumentam que os marcos atuais ainda não atingiram os benchmarks necessários para uma autonomia perigosa. O debate permanece centrado na necessidade de controles internos mais rigorosos diante de incidentes de segurança já registrados no setor.

## Fontes

- ["The last invention that man need ever make": The risk of self-improving AI](https://www.axios.com/2026/09/22/ai-rsi-meaning-recursive-self-improvement-doom) — Axios (2026-09-22)

---

Publicado por Daily Journal. Versão HTML: https://dailyjournal.news/news/2026-09-22/avanco-da-automacao-em-ia-levanta-debates-sobre-riscos-existenciais